日程

培訓(xùn)模塊

培訓(xùn)內(nèi)容

第一天

計(jì)算機(jī)視覺(jué)中的目前最先進(jìn)的算法

—卷積神經(jīng)網(wǎng)絡(luò)

●  卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)設(shè)計(jì)思路與技術(shù)原理詳細(xì)介紹：

1. LetNet

2. AlexNet

3. VGGNet：vgg16和vgg19

4.GoogleNet：Inception v1-v4

5.ResNet：50層，110層和1001層ResNet

6.DenseNet

●  卷積層和池化層原理與工業(yè)界實(shí)際應(yīng)用中設(shè)計(jì)技巧；

●  卷積神經(jīng)網(wǎng)絡(luò)在實(shí)際應(yīng)用中性能提升方法和技巧介紹：網(wǎng)絡(luò)深度，卷積核大小，學(xué)習(xí)率，激活函數(shù)，圖片處理與數(shù)據(jù)增強(qiáng)等

第一天

一種全新的富有吸引力的人工智能架構(gòu)

—膠囊網(wǎng)絡(luò)

●  卷積神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)和癥結(jié)，以及可能導(dǎo)致安全缺口

●  膠囊網(wǎng)絡(luò)的起源和概念：為什么要拋棄反向傳播

●  膠囊網(wǎng)絡(luò)的設(shè)計(jì)架構(gòu)細(xì)節(jié)解析：Capsule 層和Dynamic Routing 算法

●  膠囊網(wǎng)絡(luò)的訓(xùn)練技巧解析：squashing function和最優(yōu)化

●  手把手教實(shí)戰(zhàn)：膠囊網(wǎng)絡(luò)在實(shí)際工業(yè)的應(yīng)用，以及實(shí)際應(yīng)用中提高準(zhǔn)確度技巧詳解

第二天

自然語(yǔ)言處理（NLP）中的深度學(xué)習(xí)

●  詞向量的表達(dá)形式和詞嵌入方式的分析與介紹;

●  Airbnb（愛(ài)彼迎公司）推薦系統(tǒng)與近似搜索背后的秘密—Word2Vec；

●  循環(huán)神經(jīng)網(wǎng)絡(luò)的架構(gòu)設(shè)計(jì)思路詳解與5種不同網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)在不同領(lǐng)域中的實(shí)際應(yīng)用：

1.情感識(shí)別分析；

2.短視頻理解與字母生成；

3.機(jī)器翻譯；

4.聊天機(jī)器人；

5.閱讀理解與完型填空；

●  Seq2Seq的模型架構(gòu)介紹和在實(shí)際NLP中的應(yīng)用地位；

●  手把手教實(shí)戰(zhàn)：用基于Seq2Seq實(shí)現(xiàn)機(jī)器翻譯

第二天

Google翻譯背后的深度學(xué)習(xí)模型—替代RNN的“變形金剛”Transformer：

●  循環(huán)神經(jīng)網(wǎng)絡(luò)的幾大‘罪狀’

●?    Transformer網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)與技術(shù)原理詳細(xì)介紹：Residual connection，Mask結(jié)構(gòu)與Positional encoding結(jié)構(gòu)

●?    Advanced Attention機(jī)制的設(shè)計(jì)思路和原理：自注意力機(jī)制，點(diǎn)乘注意力機(jī)制與多頭注意力機(jī)制

●?    Transformer網(wǎng)絡(luò)訓(xùn)練最優(yōu)化問(wèn)題

●?    手把手教實(shí)戰(zhàn)：Transformer的實(shí)現(xiàn)與實(shí)際工業(yè)應(yīng)用

第二天

機(jī)器學(xué)習(xí)中的“道”與“術(shù)”—論機(jī)器學(xué)習(xí)在工業(yè)界實(shí)踐與大規(guī)模行業(yè)應(yīng)用

●?    機(jī)器學(xué)習(xí)之“道”的詳解：Bias and Various trade-off， Ensemble模型為什么會(huì)提高5%的精度，Xgboost屢試不爽背后的秘密

●?    機(jī)器學(xué)習(xí)之“術(shù)”的介紹：實(shí)際工作中如何避免Overfitting和Underfitting, Ensemble如何組合會(huì)達(dá)到最大的效果，Xgboost在實(shí)際項(xiàng)目中的應(yīng)用，隨機(jī)森林與深度學(xué)習(xí)的完美結(jié)合

●?    手把手教實(shí)戰(zhàn)：機(jī)器學(xué)習(xí)股票價(jià)格預(yù)測(cè)初級(jí)，高級(jí)實(shí)戰(zhàn)

第三天

深度學(xué)習(xí)在Google、BAT等互聯(lián)網(wǎng)巨頭公司中的實(shí)際應(yīng)用——廣告點(diǎn)擊率預(yù)估（CTR預(yù)估）

●?    廣告點(diǎn)擊率預(yù)估的重要性，廣告點(diǎn)擊率預(yù)估的商業(yè)價(jià)值;

●?    早期Google、BAT等互聯(lián)網(wǎng)巨頭公司中廣告點(diǎn)擊率預(yù)估的實(shí)踐方法與經(jīng)驗(yàn)詳解介紹；

●?    深度學(xué)習(xí)在Google、BAT等互聯(lián)網(wǎng)巨頭公司中實(shí)際應(yīng)用模型架構(gòu)設(shè)計(jì)原理與設(shè)計(jì)思路：

1. Wide & Deep Learning;

2. Deep Learning over Multi-field categorical data: FNN and SNN;

3. Product-based Neural Networks: PNN;

4. DeepFM;

5. Neural Factorization Machine（NFM）

6. Attentional Factorization Machine（AFM）

第三天

未來(lái)強(qiáng)人工智能（AGI）方向—遷移學(xué)習(xí)（transferlearning），生成對(duì)抗網(wǎng)絡(luò)（GAN）和深度強(qiáng)化學(xué)習(xí)（Deep Reinforcement Learning）：

●?    遷移學(xué)習(xí)的基本概念和各種應(yīng)用場(chǎng)景；

●?    深度遷移學(xué)習(xí)（transferlearningindeeplearning）與多任務(wù)學(xué)習(xí)（multi-tasklearning）：

●?    深度遷移學(xué)習(xí)在工業(yè)界的大規(guī)模應(yīng)用；

●?    GAN的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)與原理解析；

●?    AlphaGo架構(gòu)設(shè)計(jì)與原理解析；

●?    AlphaGo的現(xiàn)實(shí)意義和未來(lái)強(qiáng)人工智能的走向

●  揭開(kāi)Google的AutoML的神秘面紗：自動(dòng)機(jī)器學(xué)習(xí)的架構(gòu)搜索初探和工程實(shí)踐