日程

培訓(xùn)模塊

培訓(xùn)內(nèi)容

第一天

上午

大數(shù)據(jù)技術(shù)基礎(chǔ)

大數(shù)據(jù)的產(chǎn)生背景與發(fā)展歷程

大數(shù)據(jù)的4V特征，以及與云計算的關(guān)系

大數(shù)據(jù)應(yīng)用需求以及潛在價值分析

業(yè)界最新的大數(shù)據(jù)技術(shù)發(fā)展態(tài)勢與應(yīng)用趨勢

大數(shù)據(jù)思維的轉(zhuǎn)變

大數(shù)據(jù)項目的系統(tǒng)與技術(shù)選型，及落地實施的挑戰(zhàn)

“互聯(lián)網(wǎng)+”時代下的電子商務(wù)、制造業(yè)、交通行業(yè)、電信運營商、銀行金融業(yè)、電子政務(wù)、移動互聯(lián)網(wǎng)、教育信息化等行業(yè)應(yīng)用實踐與應(yīng)用案例介紹

?

業(yè)界主流的大數(shù)據(jù)技術(shù)方案

大數(shù)據(jù)軟硬件系統(tǒng)全棧與關(guān)鍵技術(shù)介紹

大數(shù)據(jù)生態(tài)系統(tǒng)全景圖

主流的大數(shù)據(jù)解決方案介紹

Apache大數(shù)據(jù)平臺方案剖析

CDH大數(shù)據(jù)平臺方案剖析

HDP大數(shù)據(jù)平臺方案剖析

基于云的大數(shù)據(jù)平臺方案剖析

大數(shù)據(jù)解決方案與傳統(tǒng)數(shù)據(jù)庫方案比較

國內(nèi)外大數(shù)據(jù)平臺方案與廠商對比

?

大數(shù)據(jù)計算模型（一）——批處理MapReduce

MapReduce產(chǎn)生背景與適用場景

MapReduce計算模型的基本原理

MapReduce作業(yè)執(zhí)行流程

MapReduce編程模型: Map處理和Reduce處理

MapReduce處理流程：數(shù)據(jù)讀取collect、中間數(shù)據(jù)sort、中間數(shù)據(jù)spill、中間數(shù)據(jù)shuffle、聚合分析reduce

MapReduce開發(fā)高級應(yīng)用：Combiner技術(shù)與應(yīng)用場景、Partitioner技術(shù)與應(yīng)用場景、多Reducers應(yīng)用

MapReduce開發(fā)與應(yīng)用實戰(zhàn)：Hadoop平臺搭建與運行；MapReduce安裝與部署；

應(yīng)用案例：基于HDFS+MapReduce集成的服務(wù)器日志分析采集、存儲與分析MapReduce程序?qū)嵗_發(fā)與運行

MapReduce參數(shù)調(diào)優(yōu)與性能優(yōu)化技巧

第一天

下午

大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實踐

分布式文件系統(tǒng)HDFS產(chǎn)生背景與適用場景

HDFS master-slave系統(tǒng)架構(gòu)與讀寫工作原理

HDFS核心組件技術(shù)講解，NameNode與fsimage、editslog，DataNode與數(shù)據(jù)塊

HDFS Federation機制，viewfs機制，使用場景講解

HDFS高可用保證機制，SecondaryNameNode，NFS冷備份，基于zookeeper的HA方案

HDFS參數(shù)調(diào)優(yōu)與性能優(yōu)化

?

大數(shù)據(jù)實戰(zhàn)練習(xí)一

1. Hadoop平臺搭建、部署與應(yīng)用實踐，包含HDFS分布式文件系統(tǒng)，YARN資源管理軟件，MapReduce計算框架軟件

2. HDFS 文件、目錄創(chuàng)建、上傳、下載等命令操作，HDFS合并、歸檔操作，HDFS監(jiān)控平臺使用

3. MapReduce程序在YARN上運行，YARN監(jiān)控平臺使用

第二天

上午

Hadoop框架與生態(tài)發(fā)展，以及應(yīng)用實踐操作

Hadoop的發(fā)展歷程

Hadoop 1.0的核心組件JobTracker，TaskTracker，以及適用范圍

Hadoop 2.0的核心組件YARN工作原理，以及與Hadoop 1.0的聯(lián)系與區(qū)別

Hadoop關(guān)鍵機制：任務(wù)推測執(zhí)行，任務(wù)容錯，任務(wù)選擇執(zhí)行，心跳機制

Hadoop?YARN的資源管理與作業(yè)調(diào)度機制：FIFO調(diào)度，Capacity調(diào)度器，F(xiàn)air調(diào)度器

Hadoop 常用參數(shù)調(diào)優(yōu)與性能優(yōu)化技術(shù)

?

大數(shù)據(jù)計算模型（二）——實時處理/內(nèi)存計算?Spark

?

MapReduce計算模型的瓶頸

Spark產(chǎn)生動機、基本概念與適用場景

Spark編程模型與RDD彈性分布式數(shù)據(jù)集的工作原理與機制

Spark實時處理平臺運行架構(gòu)與核心組件

Spark RDD主要Transformation：map, flatMap, filter, union, sample, join, reduceByKey, groupByKey

Spark RDD主要action：count，collect，reduce，saveAsTextFile

Spark寬、窄依賴關(guān)系與DAG圖分析

Spark容錯機制

Spark作業(yè)調(diào)度機制

Spark緩存機制：Cache操作，Persist操作與存儲級別

Spark作業(yè)執(zhí)行機制：執(zhí)行DAG圖、任務(wù)集、executor執(zhí)行模型、 BlockManager管理

Spark standardalone，Spark on YARN運行模式

Scala開發(fā)介紹與Spark常用Transformation函數(shù)介紹

Spark調(diào)優(yōu)：序列化機制、RDD復(fù)用、Broadcast機制、高性能算子、資源參數(shù)調(diào)優(yōu)

第二天

下午

大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala，以及應(yīng)用實踐

基于MapReduce的大型分布式數(shù)據(jù)倉庫Hive基礎(chǔ)知識與應(yīng)用場景

Hive數(shù)據(jù)倉庫的平臺架構(gòu)與核心技術(shù)剖析

Hive metastore的工作機制與應(yīng)用

Hive內(nèi)部表和外部表

Hive 分區(qū)、分桶機制

Hive行、列存儲格式

基于Spark的大型分布式數(shù)據(jù)倉庫SparkSQL基礎(chǔ)知識與應(yīng)用場景

Spark SQL實時數(shù)據(jù)倉庫的實現(xiàn)原理與工作機制

SparkSQL數(shù)據(jù)模型DataFrame

SparkSQL程序開發(fā)與

SparkSQL數(shù)據(jù)讀取與結(jié)果保存：json，Hive table，Parquet file，RDD

SparkSQL和Hive的區(qū)別與聯(lián)系

SparkSQL操作實戰(zhàn)

基于MPP的大型分布式數(shù)據(jù)倉庫Impala基礎(chǔ)知識與應(yīng)用場景

Impala實時查詢系統(tǒng)平臺架構(gòu)、關(guān)鍵技術(shù)介紹，以及與Hive，SparkSQL的對比

?

Hadoop集群運維監(jiān)控工具

1. Hadoop運維管理監(jiān)控系統(tǒng)Ambari工具介紹

2. 第三方運維系統(tǒng)與工具Ganglia, Nagios

?

大數(shù)據(jù)實戰(zhàn)練習(xí)二

基于 Hadoop平臺搭建、部署與配置Spark集群，Spark?shell環(huán)境實踐操作，Spark案例程序分析

基于sbt的Spark程序編譯、開發(fā)與提交運行

應(yīng)用案例一：基于Spark的服務(wù)器運行日志TopN分析、程序?qū)嵗_發(fā)

應(yīng)用案例二： 基于Spark的搜索引擎日志熱詞與用戶分析、程序?qū)嵗_發(fā)

基于MapReduce的Hive數(shù)據(jù)倉庫實踐，Hive集群安裝部署，基于文件的Hive數(shù)據(jù)倉庫表導(dǎo)入導(dǎo)出與分區(qū)操作，Hive SQL操作，Hive客戶端操作

SparkSQL shell實踐操作：數(shù)據(jù)表讀取、查詢與結(jié)果保存

第三天

上午

大數(shù)據(jù)計算模型（三）——流處理Storm, SparkStreaming

?

流數(shù)據(jù)處理應(yīng)用場景與流數(shù)據(jù)處理的特點

流數(shù)據(jù)處理工具Storm的平臺架構(gòu)與集群工作原理

Storm關(guān)鍵技術(shù)與并發(fā)機制

Storm編程模型與基本開發(fā)模式

Storm數(shù)據(jù)流分組

Storm可靠性保證與Acker機制

Storm應(yīng)用案例分析

流數(shù)據(jù)處理工具Spark Streaming基本概念與數(shù)據(jù)模型

SparkStreaming工作機制

SparkStreaming程序開發(fā)介紹

SparkStreaming的全局統(tǒng)計和窗口函數(shù)

Storm與SparkStreaming的對比

SparkStreaming開發(fā)案例：基于文件流的SparkStreaming程序開發(fā)；基于socket消息的SparkStreaming程序開發(fā)

?

大數(shù)據(jù)與機器學(xué)習(xí)技術(shù)

機器學(xué)習(xí)發(fā)展歷程

機器學(xué)習(xí)與大數(shù)據(jù)關(guān)聯(lián)與區(qū)別

數(shù)據(jù)挖掘經(jīng)典算法

預(yù)測算法：線性回歸與應(yīng)用場景，非線性回歸與應(yīng)用場景

分類算法：邏輯回歸與應(yīng)用場景，決策樹與應(yīng)用場景，樸素貝葉斯算法與應(yīng)用場景，支持向量機算法與應(yīng)用場景

聚類算法； k-means與應(yīng)用場景

基于Hadoop的大數(shù)據(jù)機器學(xué)習(xí)技術(shù)

基于MapReduce的機器學(xué)習(xí)庫Mahout

Mahout支持的數(shù)據(jù)挖掘算法

Mahout編程模型與發(fā)

基于Spark的機器學(xué)習(xí)庫Spark MLlib

Spark MLlib支持的數(shù)據(jù)挖掘算法

Spark MLlib編程模型與開發(fā)：基于Spark MLlib的文本分類，基于Spark MLlib的聚類

第三天

下午

大數(shù)據(jù)ETL操作工具，與大數(shù)據(jù)分布式采集系統(tǒng)

Hadoop與DBMS之間數(shù)據(jù)交互工具的應(yīng)用

Sqoop導(dǎo)入導(dǎo)出數(shù)據(jù)的工作原理

Flume-NG數(shù)據(jù)采集系統(tǒng)的數(shù)據(jù)流模型與系統(tǒng)架構(gòu)

Kafka分布式消息訂閱系統(tǒng)的應(yīng)用介紹與平臺架構(gòu)，及其使用模式

?

面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實踐

關(guān)系型數(shù)據(jù)庫瓶頸，以及NoSQL數(shù)據(jù)庫的發(fā)展，概念，分類，及其在半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)場景下的適用范圍

列存儲NoSQL數(shù)據(jù)庫HBase簡介與數(shù)據(jù)模型剖析

HBase分布式集群系統(tǒng)架構(gòu)與讀寫機制，ZooKeeper分布式協(xié)調(diào)服務(wù)系統(tǒng)的工作原理與應(yīng)用

HBase表設(shè)計模式與primary key設(shè)計規(guī)范

文檔NoSQL數(shù)據(jù)庫MongoDB簡介與數(shù)據(jù)模型剖析

MongoDB集群模式、讀寫機制與常用API操作

8.鍵值型NoSQL數(shù)據(jù)庫Redis簡介與數(shù)據(jù)模型剖析

9.Redis多實例集群架構(gòu)與關(guān)鍵技術(shù)

10.NewSQL數(shù)據(jù)庫技術(shù)簡介及其適用場景

?

大數(shù)據(jù)實戰(zhàn)練習(xí)三

1.Sqoop安裝、部署與配置，基于Sqoop、MySQL與Hive操作MySQL數(shù)據(jù)庫與Hive數(shù)據(jù)倉庫數(shù)據(jù)導(dǎo)入導(dǎo)出

2.Kafka安裝、部署與配置，基于Kafka創(chuàng)建和消費topic實踐操作

3.Flume+HDFS+MapReduce/Spark大數(shù)據(jù)采集、存儲與分析實踐操作

?

大數(shù)據(jù)項目選型、實施、優(yōu)化等問題交流討論

大數(shù)據(jù)項目的需求分析、應(yīng)用實施、系統(tǒng)優(yōu)化，以及解決方案等咨詢與交流討論

第四天

學(xué)習(xí)考核與業(yè)內(nèi)經(jīng)驗交流