2019大數(shù)據(jù)實(shí)時(shí)處理- 基于Python的Spark大數(shù)據(jù)處理技術(shù)(12月4日北京班)
時(shí)間：2019-12-04 09:00 至 2019-12-06 18:00
地點(diǎn)：北京
- 參會(huì)報(bào)名
- 會(huì)議內(nèi)容
- 會(huì)議日程
- 會(huì)議嘉賓
- 參會(huì)指南
-
手機(jī)下單
首頁 > 商務(wù)會(huì)議 > IT互聯(lián)網(wǎng)會(huì)議 > 2019大數(shù)據(jù)實(shí)時(shí)處理- 基于Python的Spark大數(shù)據(jù)處理技術(shù)(12月4日北京班) 更新時(shí)間：2019-09-20T17:16:28
|
2019大數(shù)據(jù)實(shí)時(shí)處理- 基于Python的Spark大數(shù)據(jù)處理技術(shù)(12月4日北京班) 已截止報(bào)名會(huì)議時(shí)間： 2019-12-04 09:00至 2019-12-06 18:00結(jié)束 會(huì)議地點(diǎn)： 北京 詳細(xì)地址會(huì)前通知 None 周邊酒店預(yù)訂 主辦單位： 中科院計(jì)算所培訓(xùn)中心 |
收藏3人
換一換
會(huì)議內(nèi)容
會(huì)議介紹 主辦方介紹
2019大數(shù)據(jù)實(shí)時(shí)處理- 基于Python的Spark大數(shù)據(jù)處理技術(shù)(12月4日北京班)宣傳圖
課程時(shí)間：12月4日-12月6日
主講老師：楊老師
課程地點(diǎn)：北京
?
課程介紹
互聯(lián)網(wǎng)點(diǎn)擊數(shù)據(jù)、傳感數(shù)據(jù)、日志文件、具有豐富地理空間信息的移動(dòng)數(shù)據(jù)和涉及網(wǎng)絡(luò)的各類評論，成為了海量信息的多種形式。當(dāng)數(shù)據(jù)以成百上千TB不斷增長的時(shí)候，我們在內(nèi)部交易系統(tǒng)的歷史信息之外，需要一種基于大數(shù)據(jù)實(shí)時(shí)分析的決策模型和技術(shù)支持。
大數(shù)據(jù)通常具有：數(shù)據(jù)體量(Volume)巨大,數(shù)據(jù)類型(Variety)繁多,價(jià)值(Value)密度低,處理速度(Velocity)快等四大特征。Google發(fā)布的GFS和MapReduce等高可擴(kuò)展、高性能的分布式大數(shù)據(jù)處理框架，證明了在處理海量網(wǎng)頁數(shù)據(jù)時(shí)該框架的優(yōu)越性。在此基礎(chǔ)上，Apache Hadoop開源項(xiàng)目開發(fā)團(tuán)隊(duì)，克隆并推出了Hadoop/Yarn系統(tǒng)。該系統(tǒng)已受到學(xué)術(shù)界和工業(yè)界的廣泛認(rèn)可和采納，并孵化出眾多子項(xiàng)目(如Hive，Zookeeper和Mahout等)，日益形成一個(gè)易部署、易開發(fā)、功能齊全、性能優(yōu)良的系統(tǒng)。
近年來以Berkley牽頭設(shè)計(jì)的Spark/BDAS技術(shù)，實(shí)現(xiàn)了內(nèi)存級別的分布式處理模式，使用戶無需關(guān)注復(fù)雜的內(nèi)部工作機(jī)制，無需具備豐富的分布式系統(tǒng)知識及開發(fā)經(jīng)驗(yàn)，即可實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)的部署與大數(shù)據(jù)的并行處理。
Spark生態(tài)系統(tǒng)(BDAS項(xiàng)目)已經(jīng)發(fā)展成一個(gè)，包含多個(gè)子項(xiàng)目的集合，包括Spark SQL、Spark Streaming、GraphX、MLlib等，本課程從大數(shù)據(jù)實(shí)時(shí)處理技術(shù)以及Spark實(shí)戰(zhàn)的角度，結(jié)合理論和實(shí)踐，全方位地介紹Spark大數(shù)據(jù)實(shí)時(shí)處理工具的原理和內(nèi)核,包括Spark大數(shù)據(jù)計(jì)算框架、運(yùn)行架構(gòu)、設(shè)計(jì)模型和數(shù)據(jù)管理策略，及Spark在業(yè)界的應(yīng)用。
課程中結(jié)合實(shí)例，介紹圖工具GraphX如何發(fā)現(xiàn)社交網(wǎng)絡(luò)中的人際關(guān)系，大數(shù)據(jù)挖掘工具M(jìn)Llib如何進(jìn)行商品聚類和電影推薦，以及Streaming流挖掘工具,并探討了Spark與Docker等云環(huán)境下新技術(shù)的結(jié)合，分析了其應(yīng)用前景。
本課程教學(xué)過程中還提供了案例分析來幫助學(xué)員了解如何用Spark實(shí)時(shí)大數(shù)據(jù)工具來解決業(yè)界的問題，并介紹了Spark生產(chǎn)環(huán)境搭建的相關(guān)知識。
本課程不是一個(gè)泛泛的理論性、概念性的介紹課程，而是針對問題討論Spark解決方案的深入課程。教師對于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn)，在課程中將會(huì)針對這些問題與學(xué)員一起進(jìn)行研究，在關(guān)鍵點(diǎn)上還會(huì)搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究，以加深對于這些解決方案的理解。通過本課程學(xué)習(xí)，希望推動(dòng)Spark實(shí)時(shí)大數(shù)據(jù)處理開發(fā)上升到一個(gè)新水平。
本課程有企業(yè)內(nèi)訓(xùn)形式，授課老師、課程內(nèi)容、教學(xué)方式均依據(jù)企業(yè)的培訓(xùn)需求靈活設(shè)置。
本網(wǎng)站內(nèi)容包括并不限于課程介紹、課程大綱、上課照片、老師介紹等等資料及信息，未經(jīng)允許不得抄襲和轉(zhuǎn)載。
適用人群
培訓(xùn)對象
1.系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。
2.牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計(jì)負(fù)責(zé)人。
3.政府機(jī)關(guān)，金融保險(xiǎn)、移動(dòng)和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負(fù)責(zé)人。
4.高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項(xiàng)目負(fù)責(zé)人。
?
學(xué)員基礎(chǔ)
1.對IT系統(tǒng)設(shè)計(jì)有一定的理論與實(shí)踐經(jīng)驗(yàn)。
2.數(shù)據(jù)倉庫與數(shù)據(jù)挖掘處理有一定的基礎(chǔ)知識。
3.對Hadoop/Yarn/Spark大數(shù)據(jù)技術(shù)有一定的了解。
查看更多
中科院計(jì)算所培訓(xùn)中心
中科院計(jì)算所培訓(xùn)中心是權(quán)威IT精英培訓(xùn)機(jī)構(gòu),專注中高端技術(shù)人才培養(yǎng)。采用高端公開課、企業(yè)內(nèi)訓(xùn)形式教授大數(shù)據(jù),軍方軟件,軟件需求分析,項(xiàng)目管理等高端課程。
會(huì)議日程
（最終日程以會(huì)議現(xiàn)場為準(zhǔn)）
課程大綱
第一講Spark大數(shù)據(jù)實(shí)時(shí)處理技術(shù)
1）大數(shù)據(jù)處理技術(shù)
2）Spark實(shí)時(shí)處理技術(shù)
3）Spark生態(tài)系統(tǒng)BDAS
4）Spark架構(gòu)分析
第二講 Spark安裝配置及監(jiān)控
1）Ubuntu環(huán)境的準(zhǔn)備
2）Hadoop2.X和Scala
3）搭建Spark開發(fā)環(huán)境
4）Idea編譯和運(yùn)行
5）Spark監(jiān)控管理
第三講 Scala編程語言使用概述
1) Scala編程語言
2) 基本數(shù)據(jù)類型
3) 操作基本數(shù)據(jù)類型
4) 類和對象
5) 組合和繼承
第四講 Spark分布式計(jì)算框架
1）Spark計(jì)算模型
2）彈性分布式數(shù)據(jù)集RDD
3）Spark的數(shù)據(jù)存儲(chǔ)
4）Transformation算子分類及功能
5）Actions算子分類及功能
第五講 Spark內(nèi)部工作機(jī)制詳解
1) Spark底層實(shí)現(xiàn)原理
2) Spark應(yīng)用執(zhí)行機(jī)制
3) Spark調(diào)度與任務(wù)分配模塊
4) FIFO和FAIR調(diào)度算法
第六講 Spark數(shù)據(jù)讀取與存儲(chǔ)
1）Spark的I/O機(jī)制
2）Spark中的數(shù)據(jù)壓縮
3）Spark的數(shù)據(jù)讀取與存儲(chǔ)
4）Spark數(shù)據(jù)讀寫流程
第七講 Spark通信模塊和容錯(cuò)機(jī)制
1）Spark通信模塊
2）通信框架AKKA
3）容錯(cuò)機(jī)制和Lineage依賴
4）檢查點(diǎn)機(jī)制進(jìn)行容錯(cuò)
5）Shuffle過程
第八講SQL On Spark
1) BDAS數(shù)據(jù)分析軟件棧
2) SQL On Spark
3) Spark SQL工具使用
4) Shark工具使用
5) Hive on Spark工具
6) Spark操作HBase中的數(shù)據(jù)
第九講 Spark流數(shù)據(jù)處理工具Streaming
1）流數(shù)據(jù)處理工具Streaming
2）Spark Streaming架構(gòu)
3）Spark Streaming原理
4）Spark Streaming實(shí)例
第十講Spark中的大數(shù)據(jù)挖掘工具M(jìn)Llib
1）大數(shù)據(jù)挖掘工具M(jìn)Llib
2）MLlib的數(shù)據(jù)存儲(chǔ)
3）MLlib中的聚類和分類
4）MLlib算法應(yīng)用實(shí)例
5）利用MLlib進(jìn)行推薦
第十一講 Spark大規(guī)模圖處理工具GraphX
1）大規(guī)模圖處理工具GraphX
2）GraphX的運(yùn)行架構(gòu)
3）GraphX操作使用
4）GraphX使用實(shí)例
第十二講 Spark與其他大數(shù)據(jù)技術(shù)的融合與應(yīng)用
1）與Hadoop/Yarn集群應(yīng)用的協(xié)作
2）與Docker等其它云工具配合
3）Spark在Yahoo!的應(yīng)用
4）Spark在電商中的應(yīng)
查看更多
會(huì)議嘉賓
參會(huì)指南
會(huì)議門票
公開課費(fèi)用：5800元/人，含參會(huì)費(fèi)，住宿交通自理。
查看更多
溫馨提示
酒店與住宿:
為防止極端情況下活動(dòng)延期或取消，建議“異地客戶”與活動(dòng)家客服確認(rèn)參會(huì)信息后，再安排出行與住宿。
退款規(guī)則:
活動(dòng)各項(xiàng)資源需提前采購，購票后不支持退款，可以換人參加。
您可能還會(huì)關(guān)注
-
DAMS2025中國數(shù)據(jù)智能管理峰會(huì)（上海）
2025-09-12 上海
-
2025 全球機(jī)器學(xué)習(xí)技術(shù)大會(huì)（ML-Summit）·北京
2025-10-16 北京
-
2025（第四屆）中國量子點(diǎn)大會(huì)
2025-09-12 杭州
-
2025年全國海洋微生物學(xué)學(xué)術(shù)研討會(huì)
2025-09-04 廣州
贊助
