大数据建模与分析挖掘应用

大数据建模与分析挖掘技术已经逐步地应用到新兴互联网企业（如电子商务网站、搜索引擎、社交网站、互联网广告服务提供商等）、银行金融证券企业、电信运营等行业，给这些行业带来了一定的数据价值增值作用。
本次课程面向有一定的数据分析挖掘算法基础的工程师，带大家实践大数据分析挖掘平台的项目训练，系统地讲解数据准备、数据建模、挖掘模型建立、大数据分析与挖掘算法应用在业务模型中，结合主流的Hadoop与Spark大数据分析平台架构，实现项目训练。
结合业界使用最广泛的主流大数据平台技术，重点剖析基于大数据分析算法与BI技术应用，包括分类算法、聚类算法、预测分析算法、推荐分析模型等在业务中的实践应用，并根据讲师给定的数据集，实现两个基本的日志数据分析挖掘系统，以及电商（或内容）推荐系统引擎。
本课程基本的实践环境是Linux集群，JDK1.8， Hadoop 2.7.*，Spark 2.1.*。
学员需要准备的电脑最好是i7三代及以上CPU，8GB及以上内存，硬盘空间预留50GB（可用移动硬盘），基本的大数据分析平台所依赖的软件包和依赖库等，讲师已经提前部署在虚拟机镜像（VMware镜像），学员根据讲师的操作任务进行实践。
本课程采用技术原理与项目实战相结合的方式进行教学，在讲授原理的过程中，穿插实际的系统操作，本课程讲师也精心准备的实际的应用案例供学员动手训练。

1.本课程让学员充分掌握大数据平台技术架构、大数据分析的基本理论、机器学习的常用算法、国内外主流的大数据分析与BI商业智能分析解决方案、以及大数据分析在搜索引擎、广告服务推荐、电商数据分析、金融客户分析方面的应用案例。
2.本课程强调主流的大数据分析挖掘算法技术的应用和分析平台的实施，让学员掌握主流的基于大数据Hadoop和Spark的大数据分析平台架构和实际应用，并用结合实际的生产系统案例进行教学，掌握基于Hadoop、spark大数据平台的数据挖掘和数据仓库分布式系统平台应用，以及商业和开源的数据分析产品加上Hadoop平台形成大数据分析平台的应用剖析。。
3.让学员掌握常见的机器学习算法，深入讲解业界成熟的大数据分析挖掘与BI平台的实践应用，并以客户分析系统、日志分析和电商推荐系统为案例，串联常用的数据挖掘技术进行应用教学。

模块一Spark ML基础入门
1.1 Spark介绍
1.2 Spark ML介绍
1.3 课程的基础环境
1.4 Spark SparkSession
1.5 Spark Datasets操作
1.6 Datasets操作的代码实操
模块二Spark ML
Pipelines（ML管道）
2.1 Pipelines的主要概念
2.2 Pipelines实例讲解
2.3 ML操作的代码实操
2.4 使用 ML Pipeline 构建机器学习工作流案例展示
2.5 实例的代码实操声
模块三Spark ML数学基础
3.1 ML矩阵向量计算
3.2 分类效果评估指标及ML实现详解
3.3 交叉-验证方法及ML实现详解
3.4 实例的代码实操
3.5 特征的提取及ML实现详解
3.6特征的转换及ML实现详解
3.7 特征的选择及ML实现详解
3.8 实例的代码实操
模块四Spark ML特征的提取、转换和选择
4.1 线性回归算法
4.2 逻辑回归算法
4.3 ML回归算法参数详解
4.4 ML实例
4.5 实例的代码实操
模块五Spark ML线性回归/逻辑回归算法
5.1 决策树算法
5.2 随机森林算法
5.3 GDBT算法
5.4 ML树模型参数详解
5.5 ML实例
5.6 实例的代码实操
模块六Spark ML决策树/随机森林/GBDT算法
6.1 KMeans聚类算法
6.2 ML KMeans模型参数详解
6.3 ML实例
6.4 实例的代码实操
模块七Spark ML KMeans聚类算法
7.1 LDA主题聚类算法
7.2 ML LDA主题聚类模型参数详解
7.3 ML实例
7.4 实例的代码实操
模块八Spark ML LDA主题聚类算法
8.1 协同过滤推荐算法
8.2 ML协同过滤分布式实现逻辑
8.3 ML协同过滤源码开发
8.4 实现实例
8.5 实例的代码实操
模块九Spark ML协同过滤推荐算法
9.1 案例背景
9.2 架构设计
9.3 数据准备
9.4 模型训练
9.5 模型预测
9.6 脚本封装
模块十项目实践
大型案例：基于Spark的推荐模型开发
模块十一培训总结
项目方案的课堂讨论，讨论实际业务中的分析需求，剖析各个环节的难点、痛点、瓶颈，启发出解决之道；完成讲师布置的项目案例，巩固学过的大数据分析挖掘处理平台技术知识以及应用技能

张老师：阿里大数据高级专家，国内资深的Spark、Hadoop技术专家、虚拟化专家，对HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生态系统中的技术进行了多年的深入的研究，更主要的是这些技术在大量的实际项目中得到广泛的应用，因此在Hadoop开发和运维方面积累了丰富的项目实施经验。近年主要典型的项目有：某电信集团网络优化、中国移动某省移动公司请账单系统和某省移动详单实时查询系统、中国银联大数据数据票据详单平台、某大型银行大数据记录系统、某大型通信运营商全国用户上网记录、某省交通部门违章系统、某区域医疗大数据应用项目、互联网公共数据大云(DAAS)和构建游戏云(Web Game Daas)平台项目等。