日程

培訓(xùn)模塊

培訓(xùn)內(nèi)容

?

第一天

計算機視覺中的目前最先進(jìn)的算法

—卷積神經(jīng)網(wǎng)絡(luò)

●? 卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)設(shè)計思路與技術(shù)原理詳細(xì)介紹：

1. LetNet

2. AlexNet

3. VGGNet：vgg16和vgg19

4.GoogleNet：Inception v1-v4

5.ResNet：50層，110層和1001層ResNet

6.DenseNet

●? 卷積層和池化層原理與工業(yè)界實際應(yīng)用中設(shè)計技巧；

●? 卷積神經(jīng)網(wǎng)絡(luò)在實際應(yīng)用中性能提升方法和技巧介紹：網(wǎng)絡(luò)深度，卷積核大小，學(xué)習(xí)率，激活函數(shù)，圖片處理與數(shù)據(jù)增強等

第一天

一種全新的富有吸引力的人工智能架構(gòu)

—膠囊網(wǎng)絡(luò)

●? 卷積神經(jīng)網(wǎng)絡(luò)的缺點和癥結(jié)，以及可能導(dǎo)致安全缺口

●? 膠囊網(wǎng)絡(luò)的起源和概念：為什么要拋棄反向傳播

●? 膠囊網(wǎng)絡(luò)的設(shè)計架構(gòu)細(xì)節(jié)解析：Capsule 層和Dynamic Routing 算法

●? 膠囊網(wǎng)絡(luò)的訓(xùn)練技巧解析：squashing function和最優(yōu)化

●? 手把手教實戰(zhàn)：膠囊網(wǎng)絡(luò)在實際工業(yè)的應(yīng)用，以及實際應(yīng)用中提高準(zhǔn)確度技巧詳解

第二天

自然語言處理（NLP）中的深度學(xué)習(xí)

●? 詞向量的表達(dá)形式和詞嵌入方式的分析與介紹;

●? Airbnb（愛彼迎公司）推薦系統(tǒng)與近似搜索背后的秘密—Word2Vec；

●? 循環(huán)神經(jīng)網(wǎng)絡(luò)的架構(gòu)設(shè)計思路詳解與5種不同網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)在不同領(lǐng)域中的實際應(yīng)用：

1.情感識別分析；

2.短視頻理解與字母生成；

3.機器翻譯；

4.聊天機器人；

5.閱讀理解與完型填空；

●? Seq2Seq的模型架構(gòu)介紹和在實際NLP中的應(yīng)用地位；

●? 手把手教實戰(zhàn)：用基于Seq2Seq實現(xiàn)機器翻譯

?

第二天

Google翻譯背后的深度學(xué)習(xí)模型—替代RNN的“變形金剛”Transformer：

●? 循環(huán)神經(jīng)網(wǎng)絡(luò)的幾大‘罪狀’

●???? Transformer網(wǎng)絡(luò)架構(gòu)設(shè)計與技術(shù)原理詳細(xì)介紹：Residual connection，Mask結(jié)構(gòu)與Positional encoding結(jié)構(gòu)

●???? Advanced Attention機制的設(shè)計思路和原理：自注意力機制，點乘注意力機制與多頭注意力機制

●???? Transformer網(wǎng)絡(luò)訓(xùn)練最優(yōu)化問題

●???? 手把手教實戰(zhàn)：Transformer的實現(xiàn)與實際工業(yè)應(yīng)用

第二天

機器學(xué)習(xí)中的“道”與“術(shù)”—論機器學(xué)習(xí)在工業(yè)界實踐與大規(guī)模行業(yè)應(yīng)用

●???? 機器學(xué)習(xí)之“道”的詳解：Bias and Various trade-off， Ensemble模型為什么會提高5%的精度，Xgboost屢試不爽背后的秘密

●???? 機器學(xué)習(xí)之“術(shù)”的介紹：實際工作中如何避免Overfitting和Underfitting, Ensemble如何組合會達(dá)到最大的效果，Xgboost在實際項目中的應(yīng)用，隨機森林與深度學(xué)習(xí)的完美結(jié)合

●???? 手把手教實戰(zhàn)：機器學(xué)習(xí)股票價格預(yù)測初級，高級實戰(zhàn)

第三天

深度學(xué)習(xí)在Google、BAT等互聯(lián)網(wǎng)巨頭公司中的實際應(yīng)用——廣告點擊率預(yù)估（CTR預(yù)估）

●???? 廣告點擊率預(yù)估的重要性，廣告點擊率預(yù)估的商業(yè)價值;

●???? 早期Google、BAT等互聯(lián)網(wǎng)巨頭公司中廣告點擊率預(yù)估的實踐方法與經(jīng)驗詳解介紹；

●???? 深度學(xué)習(xí)在Google、BAT等互聯(lián)網(wǎng)巨頭公司中實際應(yīng)用模型架構(gòu)設(shè)計原理與設(shè)計思路：

1. Wide & Deep Learning;

2. Deep Learning over Multi-field categorical data: FNN and SNN;

3. Product-based Neural Networks: PNN;

4. DeepFM;

5. Neural Factorization Machine（NFM）

6. Attentional Factorization Machine（AFM）

第三天

未來強人工智能（AGI）方向—遷移學(xué)習(xí)（transferlearning），生成對抗網(wǎng)絡(luò)（GAN）和深度強化學(xué)習(xí)（Deep Reinforcement Learning）：

●???? 遷移學(xué)習(xí)的基本概念和各種應(yīng)用場景；

●???? 深度遷移學(xué)習(xí)（transferlearningindeeplearning）與多任務(wù)學(xué)習(xí)（multi-tasklearning）：

●???? 深度遷移學(xué)習(xí)在工業(yè)界的大規(guī)模應(yīng)用；

●???? GAN的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計與原理解析；

●???? AlphaGo架構(gòu)設(shè)計與原理解析；

●???? AlphaGo的現(xiàn)實意義和未來強人工智能的走向

●? 揭開Google的AutoML的神秘面紗：自動機器學(xué)習(xí)的架構(gòu)搜索初探和工程實踐