主題

內(nèi)容

大數(shù)據(jù)架構(gòu)概述

1.1 大數(shù)據(jù)層級架構(gòu)及各層軟件設(shè)計要求，包括數(shù)據(jù)收集、存儲、計算框、應(yīng)用
1.2 Hadoop生態(tài)系統(tǒng)概述以及版本演化，并給出版本選擇建議。
1.3 Spark生態(tài)系統(tǒng)概述及其特點(diǎn)，并與Hadoop對比

數(shù)據(jù)收集系統(tǒng)Flume與Sqoop

2. 使用flume和sqoop兩個系統(tǒng)將外部流式數(shù)據(jù)（比如網(wǎng)站日志，用戶行為數(shù)據(jù)等）、關(guān)系型數(shù)據(jù)庫（比如MySQL、Oracle等）中的數(shù)據(jù)導(dǎo)入Hadoop中進(jìn)行分析和挖掘

大數(shù)據(jù)存儲系統(tǒng)HDFS與HBase

3.1與HDFS 1.0進(jìn)行對比介紹2.0原理、特性與基本架構(gòu)（快照、緩存、異構(gòu)存儲）。
3.2 HBase原理，基本架構(gòu)與案例分析
3.3 HBase應(yīng)用場景、原理和架構(gòu)，典型應(yīng)用案例（互聯(lián)網(wǎng)、銀行）

集群資源管理與調(diào)度系統(tǒng)

4. 介紹 YARN應(yīng)用場景、基本架構(gòu)與資源調(diào)度

Zookeeper部署及典型應(yīng)用

5. 介紹Zookeeper是什么，基本原理及在應(yīng)用

大數(shù)據(jù)計算平臺

介紹主流的三大類大數(shù)據(jù)計算框架，分別是批處理、交互式計算和流式計算框架，并選取當(dāng)下主流的開源實現(xiàn)進(jìn)行介紹。
6.1 批處理計算框架
（1）MapReduce 2.0基本原理與架構(gòu)、程序編寫（使用java、C++、php語言）。
（2）數(shù)據(jù)分析系統(tǒng)Hive與Pig應(yīng)用與比較，如何使用其中的海量數(shù)據(jù)
（3）Spark計算框架，背景及應(yīng)用案例
6.2 交互式計算框架，Impala和presto應(yīng)用場景，基本架構(gòu)和典型應(yīng)用案例
6.3 流式/實時計算框架，storm、Spark Streaming基本架構(gòu)特點(diǎn)，及應(yīng)用案例

數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)庫

7. Mahout與MLlib兩個主流的分布式數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)庫的實現(xiàn)以及應(yīng)用案例。