課程簡(jiǎn)介
結(jié)合開源離線大模型和智能體，全面講述并帶領(lǐng)學(xué)員搭建大模型和AI智能體應(yīng)用，結(jié)合企業(yè)實(shí)際，助力提升運(yùn)營(yíng)效率、優(yōu)化客戶服務(wù)、挖掘數(shù)據(jù)價(jià)值并開拓新的業(yè)務(wù)增長(zhǎng)點(diǎn)。
目標(biāo)收益
1.理解大模型核心原理，數(shù)據(jù)預(yù)處理，模型訓(xùn)練和優(yōu)化策略
2.掌握設(shè)計(jì)有效提示詞，以及提示詞工程優(yōu)化實(shí)踐
3.掌握OLlama搭建方法，以及3種調(diào)用大模型方式
4.掌握常用大模型推理參數(shù)微調(diào)方法
5.基于dify掌握agent架構(gòu)與部署
6.掌握搭建本地私有化知識(shí)庫(kù)，利用RAG技術(shù)提升大模型結(jié)果準(zhǔn)確性
7.掌握Agent與LLM集成，設(shè)計(jì)pipeline
培訓(xùn)對(duì)象
課程大綱
| 大語(yǔ)言模型核心技術(shù)與應(yīng)用 ~ 3小時(shí) |
一、AI大模型與應(yīng)用典型問(wèn)題分析 1.問(wèn)題分析 2.討論 二、大模型在各領(lǐng)域的發(fā)展與應(yīng)用 1.AI在各行業(yè)的落地應(yīng)用 2.個(gè)性化推薦系統(tǒng) 3.商品自動(dòng)識(shí)別搜索 4.智能客服與AI助理 5.數(shù)據(jù)分析與市場(chǎng)訂單趨勢(shì)預(yù)測(cè) 6.商品描述與廣告自動(dòng)化生成 7.價(jià)格優(yōu)化與動(dòng)態(tài)定價(jià)策略 8.客戶反饋分析 9.風(fēng)險(xiǎn)評(píng)估與預(yù)防欺詐 三、大語(yǔ)言模型技術(shù) 1.AI技術(shù)概覽 2.AI技術(shù)的四要素 3.AI模型的研發(fā)流程 4.深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò) 5.大語(yǔ)言模型的定義和特點(diǎn) 6.大語(yǔ)言模型技術(shù)演變簡(jiǎn)史 7.大語(yǔ)言模型訓(xùn)練方法和優(yōu)化技術(shù) 8.大模型面臨的挑戰(zhàn) 四、大語(yǔ)言模型Transformer核心技術(shù) 1.Transformer核心原理 2.Self-Attention 3.多頭注意力機(jī)制 4.位置前饋網(wǎng)絡(luò) 5.殘差連接和層歸一化 6.位置編碼 7.解碼器 8.Mask（掩碼） 9.最后的線性層和 Softmax 層 10.正則化操作 11.模型參數(shù)量 |
| 大模型優(yōu)化與部署 ~ 3小時(shí) |
一、大模型結(jié)果優(yōu)化策略 1.溫度微調(diào) 2.使用top-k/top-p采樣 3.增加上下文信息 4.模型后處理 5.大模型微調(diào) 6.多模型融合 7.【案例】生產(chǎn)環(huán)境數(shù)據(jù)抽檢評(píng)測(cè) 8.【案例】badcase分析與優(yōu)化推薦 二、主流大模型介紹 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、數(shù)據(jù)預(yù)處理 1.數(shù)據(jù)的重要性 2.數(shù)據(jù)質(zhì)量 3.小模型+大數(shù)據(jù) 4.大模型+小數(shù)據(jù) 5.數(shù)據(jù)清洗 6.【案例】數(shù)據(jù)預(yù)處理案例 四、OLlama部署應(yīng)用 1.OLlama簡(jiǎn)介 2.模型參數(shù) 3.網(wǎng)絡(luò)安全隔離 4.部署OLlama環(huán)境 5.OLlama常用操作命令 6.離線模型CLI接口 7.模型API接口 8.API調(diào)用方式 9.UI調(diào)試界面 10.模型微調(diào) 11.【案例】實(shí)現(xiàn)離線大模型人機(jī)對(duì)話 五、上機(jī)實(shí)踐 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3種方式調(diào)用大模型練習(xí) 5.【案例】大模型進(jìn)行圖像理解 |
| 提示詞工程與實(shí)踐 ~ 3小時(shí) |
一、提示詞工程 1.什么是提示詞工程？ 2.提示詞原理 3.如何設(shè)計(jì)有效提示詞 4.提示詞的基本結(jié)構(gòu) 4.1.指令 4.2.上下文 4.3.輸入數(shù)據(jù) 4.4.輸出格式 4.5.示例 5.提示詞優(yōu)化方案 6.【案例】提示詞返回精準(zhǔn)答案 二、提示詞庫(kù)與腳本調(diào)用大模型 1.維護(hù)提示詞庫(kù) 2.關(guān)鍵詞匹配 3.開發(fā)腳本調(diào)用大模型 4.【案例】一鍵式調(diào)用大模型 三、上機(jī)實(shí)踐 1.提示詞優(yōu)化練習(xí) 2.運(yùn)行一鍵式調(diào)用大模型 |
| Agent技術(shù)與應(yīng)用 ~ 3小時(shí) |
一、Agent概念與典型架構(gòu) 1.AI Agent 概述 2.感知層 3.決策層 4.執(zhí)行層 5.學(xué)習(xí)與記憶層 6.安全與倫理層 二、Agent開發(fā)框架和發(fā)展 1.AI Agent 開發(fā)框架概述 2.典型框架介紹 3.深度學(xué)習(xí)在 AI Agent 中的應(yīng)用 4.多Agent系統(tǒng) 三、Agent與LLM集成 1.集成pipeline設(shè)計(jì) 2.自然語(yǔ)言輸入處理 3.基于自然語(yǔ)言的決策 4.執(zhí)行模塊實(shí)現(xiàn) 5.自然語(yǔ)言輸出生成 6.動(dòng)作執(zhí)行與控制 7.模型優(yōu)化與調(diào)參 四、業(yè)界的典型案例介紹 1.對(duì)話系統(tǒng) 2.任務(wù)執(zhí)行系統(tǒng) 3.智能客服系統(tǒng) 4.文本生成系統(tǒng) 5.編程助手 |
| 智能體Dify部署與主要功能詳解 ~ 3小時(shí) |
一、Dify概述與主要功能 1.Dify平臺(tái)概述 2.Dify的核心功能與優(yōu)勢(shì) 3.Dify與其他平臺(tái)對(duì)比 4.低代碼/無(wú)代碼開發(fā)模式 5.模塊化設(shè)計(jì)與豐富的功能組件 6.Prompt工程與模型微調(diào) 7.工作流與自動(dòng)化任務(wù) 8.多模態(tài)應(yīng)用開發(fā) 二、上機(jī)實(shí)踐 1.部署Dify環(huán)境 2.啟動(dòng)Dify 3.從應(yīng)用模版創(chuàng)建 4.創(chuàng)建Agent 5.選擇大模型 6.創(chuàng)建聊天助手 7.創(chuàng)建工作流 8.【案例】AI語(yǔ)音識(shí)別集成至Dify 9.【案例】AI情緒識(shí)別 10.【案例】Agent實(shí)現(xiàn)代碼自動(dòng)化生成 11.【案例】Agent實(shí)現(xiàn)代碼自動(dòng)化評(píng)審 |
| RAG與Agent應(yīng)用實(shí)踐 ~ 3小時(shí) |
一、RAG概述 1.什么是RAG 2.RAG 架構(gòu) 3.檢索模塊 4.生成模塊 5.融合模塊 二、構(gòu)建本地知識(shí)庫(kù) 1.什么是知識(shí)庫(kù) 2.向量數(shù)據(jù)庫(kù) 3.使用Embedding模型將文本轉(zhuǎn)換為數(shù)值向量 4.導(dǎo)入文本 5.連接外部知識(shí)庫(kù) 6.調(diào)試與優(yōu)化RAG效果 三、上機(jī)實(shí)踐 1.導(dǎo)入本地知識(shí)庫(kù) 2.創(chuàng)建AI agent 3.【案例】利用RAG實(shí)現(xiàn)智能客服 |
|
大語(yǔ)言模型核心技術(shù)與應(yīng)用 ~ 3小時(shí) 一、AI大模型與應(yīng)用典型問(wèn)題分析 1.問(wèn)題分析 2.討論 二、大模型在各領(lǐng)域的發(fā)展與應(yīng)用 1.AI在各行業(yè)的落地應(yīng)用 2.個(gè)性化推薦系統(tǒng) 3.商品自動(dòng)識(shí)別搜索 4.智能客服與AI助理 5.數(shù)據(jù)分析與市場(chǎng)訂單趨勢(shì)預(yù)測(cè) 6.商品描述與廣告自動(dòng)化生成 7.價(jià)格優(yōu)化與動(dòng)態(tài)定價(jià)策略 8.客戶反饋分析 9.風(fēng)險(xiǎn)評(píng)估與預(yù)防欺詐 三、大語(yǔ)言模型技術(shù) 1.AI技術(shù)概覽 2.AI技術(shù)的四要素 3.AI模型的研發(fā)流程 4.深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò) 5.大語(yǔ)言模型的定義和特點(diǎn) 6.大語(yǔ)言模型技術(shù)演變簡(jiǎn)史 7.大語(yǔ)言模型訓(xùn)練方法和優(yōu)化技術(shù) 8.大模型面臨的挑戰(zhàn) 四、大語(yǔ)言模型Transformer核心技術(shù) 1.Transformer核心原理 2.Self-Attention 3.多頭注意力機(jī)制 4.位置前饋網(wǎng)絡(luò) 5.殘差連接和層歸一化 6.位置編碼 7.解碼器 8.Mask（掩碼） 9.最后的線性層和 Softmax 層 10.正則化操作 11.模型參數(shù)量 |
|
大模型優(yōu)化與部署 ~ 3小時(shí) 一、大模型結(jié)果優(yōu)化策略 1.溫度微調(diào) 2.使用top-k/top-p采樣 3.增加上下文信息 4.模型后處理 5.大模型微調(diào) 6.多模型融合 7.【案例】生產(chǎn)環(huán)境數(shù)據(jù)抽檢評(píng)測(cè) 8.【案例】badcase分析與優(yōu)化推薦 二、主流大模型介紹 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、數(shù)據(jù)預(yù)處理 1.數(shù)據(jù)的重要性 2.數(shù)據(jù)質(zhì)量 3.小模型+大數(shù)據(jù) 4.大模型+小數(shù)據(jù) 5.數(shù)據(jù)清洗 6.【案例】數(shù)據(jù)預(yù)處理案例 四、OLlama部署應(yīng)用 1.OLlama簡(jiǎn)介 2.模型參數(shù) 3.網(wǎng)絡(luò)安全隔離 4.部署OLlama環(huán)境 5.OLlama常用操作命令 6.離線模型CLI接口 7.模型API接口 8.API調(diào)用方式 9.UI調(diào)試界面 10.模型微調(diào) 11.【案例】實(shí)現(xiàn)離線大模型人機(jī)對(duì)話 五、上機(jī)實(shí)踐 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3種方式調(diào)用大模型練習(xí) 5.【案例】大模型進(jìn)行圖像理解 |
|
提示詞工程與實(shí)踐 ~ 3小時(shí) 一、提示詞工程 1.什么是提示詞工程？ 2.提示詞原理 3.如何設(shè)計(jì)有效提示詞 4.提示詞的基本結(jié)構(gòu) 4.1.指令 4.2.上下文 4.3.輸入數(shù)據(jù) 4.4.輸出格式 4.5.示例 5.提示詞優(yōu)化方案 6.【案例】提示詞返回精準(zhǔn)答案 二、提示詞庫(kù)與腳本調(diào)用大模型 1.維護(hù)提示詞庫(kù) 2.關(guān)鍵詞匹配 3.開發(fā)腳本調(diào)用大模型 4.【案例】一鍵式調(diào)用大模型 三、上機(jī)實(shí)踐 1.提示詞優(yōu)化練習(xí) 2.運(yùn)行一鍵式調(diào)用大模型 |
|
Agent技術(shù)與應(yīng)用 ~ 3小時(shí) 一、Agent概念與典型架構(gòu) 1.AI Agent 概述 2.感知層 3.決策層 4.執(zhí)行層 5.學(xué)習(xí)與記憶層 6.安全與倫理層 二、Agent開發(fā)框架和發(fā)展 1.AI Agent 開發(fā)框架概述 2.典型框架介紹 3.深度學(xué)習(xí)在 AI Agent 中的應(yīng)用 4.多Agent系統(tǒng) 三、Agent與LLM集成 1.集成pipeline設(shè)計(jì) 2.自然語(yǔ)言輸入處理 3.基于自然語(yǔ)言的決策 4.執(zhí)行模塊實(shí)現(xiàn) 5.自然語(yǔ)言輸出生成 6.動(dòng)作執(zhí)行與控制 7.模型優(yōu)化與調(diào)參 四、業(yè)界的典型案例介紹 1.對(duì)話系統(tǒng) 2.任務(wù)執(zhí)行系統(tǒng) 3.智能客服系統(tǒng) 4.文本生成系統(tǒng) 5.編程助手 |
|
智能體Dify部署與主要功能詳解 ~ 3小時(shí) 一、Dify概述與主要功能 1.Dify平臺(tái)概述 2.Dify的核心功能與優(yōu)勢(shì) 3.Dify與其他平臺(tái)對(duì)比 4.低代碼/無(wú)代碼開發(fā)模式 5.模塊化設(shè)計(jì)與豐富的功能組件 6.Prompt工程與模型微調(diào) 7.工作流與自動(dòng)化任務(wù) 8.多模態(tài)應(yīng)用開發(fā) 二、上機(jī)實(shí)踐 1.部署Dify環(huán)境 2.啟動(dòng)Dify 3.從應(yīng)用模版創(chuàng)建 4.創(chuàng)建Agent 5.選擇大模型 6.創(chuàng)建聊天助手 7.創(chuàng)建工作流 8.【案例】AI語(yǔ)音識(shí)別集成至Dify 9.【案例】AI情緒識(shí)別 10.【案例】Agent實(shí)現(xiàn)代碼自動(dòng)化生成 11.【案例】Agent實(shí)現(xiàn)代碼自動(dòng)化評(píng)審 |
|
RAG與Agent應(yīng)用實(shí)踐 ~ 3小時(shí) 一、RAG概述 1.什么是RAG 2.RAG 架構(gòu) 3.檢索模塊 4.生成模塊 5.融合模塊 二、構(gòu)建本地知識(shí)庫(kù) 1.什么是知識(shí)庫(kù) 2.向量數(shù)據(jù)庫(kù) 3.使用Embedding模型將文本轉(zhuǎn)換為數(shù)值向量 4.導(dǎo)入文本 5.連接外部知識(shí)庫(kù) 6.調(diào)試與優(yōu)化RAG效果 三、上機(jī)實(shí)踐 1.導(dǎo)入本地知識(shí)庫(kù) 2.創(chuàng)建AI agent 3.【案例】利用RAG實(shí)現(xiàn)智能客服 |
近期公開課推薦
