會(huì)議時(shí)間：2023年8月26日 9:00-16:30

9:00-10:30

劉鵬飛（上海交通大學(xué)清源研究院長聘教軌副教授、生成式人工智能研究組（GAIR）負(fù)責(zé)人）

主題：Llama 2 大模型技術(shù)解讀

本次分享將從多個(gè)方面對 Llama 2 的技術(shù)細(xì)節(jié)進(jìn)行深入解讀，探討其背后涉及的技術(shù)棧細(xì)節(jié)，并分析未來大模型發(fā)展所需突破的難點(diǎn)。

議題大綱

1. 預(yù)訓(xùn)練 Pretraining
2. 對齊 Alignment
3. 評估 Evaluation

你將獲得

• 了解 Llama 2 和其 Chat 版本所涉及的技術(shù)棧細(xì)節(jié)
• 了解未來大模型發(fā)展需要突破的難點(diǎn)

10:30-12:00

劉煥勇（老劉說 NLP 技術(shù)公眾號作者、開源愛好者）

主題：基于 Llama 系列開源模型進(jìn)行行業(yè)落地的實(shí)現(xiàn)范式與案例解讀

本次分享主要聚焦基于 Llama 系列開源模型進(jìn)行行業(yè)落地的技術(shù)范式與案例，對現(xiàn)有的行業(yè)微調(diào)模型及知識庫增強(qiáng)的問答案例進(jìn)行梳理，嘗試從數(shù)據(jù)構(gòu)造、模型訓(xùn)練、模型評估、知識庫增強(qiáng)等方面分享一些思考。

議題大綱

1. Llama 系列模型與其他開源模型的對比及其漢化機(jī)制
2. 基于 Llama 系列模型的領(lǐng)域微調(diào)模型案例解讀
3. 基于 Llama 系列模型及知識增強(qiáng)的落地應(yīng)用案例解讀
4. 總結(jié)與展望

你將獲得

• 了解 Llama 系列模型與其他模型的差距以及如何適應(yīng)中文場景
• 了解現(xiàn)有基于 Llama 系列模型都有哪些垂直行業(yè)模型，其實(shí)現(xiàn)范式如何
• 了解基于 Llama 系列模型如何結(jié)合外部知識庫提升落地應(yīng)用效果

13:30-14:30

史業(yè)民（北京靈瑣科技 CEO、Chinese Llama 2 7B 項(xiàng)目發(fā)起人）

主題：基于 Llama 2 的多模態(tài)大模型技術(shù)與實(shí)踐

本次分享將會(huì)以中文 Llama 2 為基礎(chǔ)，從實(shí)踐角度為大家講解中文 Llama 2 多模態(tài)大模型的改造方案，并為大家展示多模態(tài)大模型的技術(shù)優(yōu)勢。

議題大綱

1. 多模態(tài)模型的分類
2. 視覺多模態(tài)大模型的改造實(shí)踐
3. 語音多模態(tài)大模型的改造實(shí)踐
4. 總結(jié)與展望

你將獲得

• 了解多模態(tài)大模型的發(fā)展現(xiàn)狀和技術(shù)優(yōu)缺點(diǎn)
• 了解基于中文 Llama 2 的多模態(tài)大模型改造技術(shù)

14:30-15:30

蘇洋（前智源研究院技術(shù)總監(jiān)）

主題：Llama 2 開源模型量化及低成本微調(diào)實(shí)戰(zhàn)

本次分享我們將花一些時(shí)間，一同了解目前主流的量化方案，探索如何進(jìn)行低成本模型微調(diào)，以及展示模型微調(diào)后的效果。

議題大綱

1. 開源模型量化方案一覽
2. 微調(diào)方案對比
3. 低成本微調(diào)實(shí)戰(zhàn)
4. 總結(jié)與展望

你將獲得

• 用更少的資源運(yùn)行大模型的方案
• 更快地調(diào)整模型能力的方法，并將其應(yīng)用在你的垂直領(lǐng)域中
• 了解相同底座模型微調(diào)方式的差異和效果

15:30-16:30

史業(yè)民 & 蘇洋（強(qiáng)強(qiáng)聯(lián)合）

主題：動(dòng)手打造一個(gè)專屬大模型

如何打造你自己的專屬大模型呢？本次實(shí)操分享的環(huán)節(jié)，我們逐個(gè)流程、逐個(gè)任務(wù)來拆解，幫助你掌握模型微調(diào)和部署，并開始訓(xùn)練你的模型。

議題大綱

1. 基座模型對比及選擇
2. 準(zhǔn)備訓(xùn)練數(shù)據(jù)和訓(xùn)練環(huán)境
3. 模型微調(diào)實(shí)戰(zhàn)
4. 總結(jié)與展望

你將獲得

• 了解現(xiàn)有基座大模型的對比及選擇策略
• 學(xué)習(xí)如何對模型進(jìn)行微調(diào)及部署
• 了解打造專屬大模型的完整流程