課程簡介
此課程可在短短2 天之內(nèi)，讓不具備 AI 知識，甚至沒有編程基礎(chǔ)的學員親手運行、修改甚至從頭搭建自己的?【LLM 大語言模型應用】。
學員將會學習大語言模型應用的科學知識、技術(shù)框架、編碼技術(shù)、業(yè)務(wù)應用。借助課程提供的?【積木代碼】?，學員可以根據(jù)自己的實際需求創(chuàng)建?【假想產(chǎn)品】?，并通過為其增加功能來贏得?【勛章】?，用于評估學習效果。
學員還會跟隨講師探索 Langchain 官網(wǎng)、學習使用 ChatGpt 編寫代碼以完成?【自學賦能】，以便保證在課后仍然有能力擴展自己的產(chǎn)品功能。
目標收益
1.跨越門檻：快速消除初入人工智能領(lǐng)域的陌生與畏懼感。
2.認知提升：深入理解大語言模型的工作原理及其在多種場景下的實際應用。
3.編程技能：非編程背景的學員也能通過課程提供的積木代碼嘗試編寫和改進代碼。
4.項目實戰(zhàn)：圍繞假想產(chǎn)品實際操作 LLM 平臺，解決實際問題。
5.自學賦能：通過對 Langchain 框架的解讀、基于 ChatGpt 的自動化編程，讓沒有 AI 和 python 基礎(chǔ)的學員在課后仍然能編寫和擴展應用
培訓對象
1、希望成為?LLM 產(chǎn)品經(jīng)理?的專業(yè)人士，希望了解 LLM 的商業(yè)和技術(shù)應用。
2、想要轉(zhuǎn)型成為?LLM 軟件工程師的開發(fā)者，希望通過實際編程加深對 LLM 的理解。
課程大綱
| 概述：LLM 簡介與核心概念 |
一、知識點 1、什么是大語言模型 LLM LLM 的發(fā)展歷史 LLM 是如何工作的 LLM 與 AI 的關(guān)系 二、應用與限制 1、LLM 在理解、生成、推理能力方面的具體表現(xiàn) 2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性 3、討論如何通過技術(shù)和策略改進來克服這些局限 案例《ChatGpt 框架》 通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺關(guān)系 案例《辨別極限》 通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時可能遇到的問題，并提出可能的解決方案。 |
| 第一課：Hello World! |
一、 知識點 1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學習如何調(diào)用 LLM 進行簡單的文本生成 2、解釋 API 的使用方法與調(diào)用參數(shù) 3、講解如何安全有效地管理 API 賬號與密鑰 4、理解 LLM Api 的計費方式與持續(xù)性成本 二、實用工具箱 1、利用 ChatGpt 編寫代碼 此內(nèi)容可讓完全沒有編程基礎(chǔ)的學員，生成、改進、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題 三、練習《我的第一條 AI 生成文本》 1、使用提供的 API，編寫一個簡單的問題回答腳本 2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程） |
| 第二課：提示詞工程 |
一、知識點 1、學習如何設(shè)計有效的提示詞以引導 LLM 生成更高質(zhì)量的內(nèi)容 2、介紹不同類型的提示詞模板，如靜態(tài)提示、動態(tài)提示 3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量 二、練習《優(yōu)化提示詞》 1、讓 LLM 編寫并執(zhí)行代碼 2、讓 LLM 進行智能銷售分析 3、對參數(shù)的排列組合后傳入 LLM 4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù) 三、 假想產(chǎn)品升級 1、為 AI 設(shè)置一個合理的人設(shè)與規(guī)則 2、限定 AI 回答問題的范圍 3、使用 2 種以上人類語言回答問題 4、使輸出格式成為一個可以被解析的 json 結(jié)構(gòu) |
| 第三課：檢索增強生成（RAG） |
一、知識點 1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性 2、講解如何構(gòu)建一個向量數(shù)據(jù)庫，并使用檢索增強技術(shù)來改進模型的答案質(zhì)量 二、練習《內(nèi)部 OA 助手》 1、創(chuàng)建一個簡單的 OA 助手 2、借助本地文檔回答問題 3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題 三、假想產(chǎn)品升級 1、訪問本地一個目錄中的所有文檔（Markdown 格式） 2、訪問一個 URL 頁面的網(wǎng)頁內(nèi)容 |
| 第四課：記憶與持久化 |
一、知識點 1、探討如何通過對話記憶和持久化技術(shù)來實現(xiàn)復雜的會話管理 2、介紹如何使用 LLM 存儲和回憶過往對話內(nèi)容 3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略 二、練習《內(nèi)部 OA 助手》 1、與用戶進行多輪相關(guān)聯(lián)的對話 2、在多輪對話中使用多個不同文檔的內(nèi)容進行分析 三、假想產(chǎn)品升級 1、執(zhí)行多輪關(guān)聯(lián)對話 2、上下文來自不同的文檔 3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容 |
| 第五課：智能體 |
一、知識點 1、了解智能體與工具的基本運行原理原理 2、進一步實踐與感受大語言模型的能力與限制 二、練習《智能 OA 助手》 1、調(diào)用搜索工具，回答實時問題（如搜索天氣） 2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題 3、調(diào)用數(shù)學工具，對數(shù)學問題進行計算 三、假想產(chǎn)品升級 1、自主調(diào)用工具，訪問本地一個目錄中的所有文檔（Markdown 格式） 2、自主調(diào)用工具，訪問一個 URL 頁面的網(wǎng)頁內(nèi)容 與上一個練習的區(qū)別是，智能體可以自主選擇工具，無需人工指定 |
| 擴展：自學賦能 |
一、LLM 相關(guān)資源 1、Langchain 官網(wǎng)概覽 此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能 特別會提及部署方案 LangServe 和運維方案 LangSmith 2、github 簡單使用指南 在 github 上搜索、瀏覽 LLM 相關(guān)代碼 3、Docker 簡單使用指南 在本機部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法 二、假想產(chǎn)品升級 1、每組推選本組一個前面練習后最成熟的假想產(chǎn)品為代表產(chǎn)品 以組為單位（之前可以單個學員自己做） 分工協(xié)作，有計劃地為此產(chǎn)品擴展功能。 2、基于 Langchain 官網(wǎng)提供的功能，嘗試實現(xiàn)課上未涉及的功能 自主決定添加何種新功能（需要與產(chǎn)品相關(guān)） 添加新功能可持續(xù)獲得勛章 |
|
概述：LLM 簡介與核心概念 一、知識點 1、什么是大語言模型 LLM LLM 的發(fā)展歷史 LLM 是如何工作的 LLM 與 AI 的關(guān)系 二、應用與限制 1、LLM 在理解、生成、推理能力方面的具體表現(xiàn) 2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性 3、討論如何通過技術(shù)和策略改進來克服這些局限 案例《ChatGpt 框架》 通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺關(guān)系 案例《辨別極限》 通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時可能遇到的問題，并提出可能的解決方案。 |
|
第一課：Hello World! 一、 知識點 1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學習如何調(diào)用 LLM 進行簡單的文本生成 2、解釋 API 的使用方法與調(diào)用參數(shù) 3、講解如何安全有效地管理 API 賬號與密鑰 4、理解 LLM Api 的計費方式與持續(xù)性成本 二、實用工具箱 1、利用 ChatGpt 編寫代碼 此內(nèi)容可讓完全沒有編程基礎(chǔ)的學員，生成、改進、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題 三、練習《我的第一條 AI 生成文本》 1、使用提供的 API，編寫一個簡單的問題回答腳本 2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程） |
|
第二課：提示詞工程 一、知識點 1、學習如何設(shè)計有效的提示詞以引導 LLM 生成更高質(zhì)量的內(nèi)容 2、介紹不同類型的提示詞模板，如靜態(tài)提示、動態(tài)提示 3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量 二、練習《優(yōu)化提示詞》 1、讓 LLM 編寫并執(zhí)行代碼 2、讓 LLM 進行智能銷售分析 3、對參數(shù)的排列組合后傳入 LLM 4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù) 三、 假想產(chǎn)品升級 1、為 AI 設(shè)置一個合理的人設(shè)與規(guī)則 2、限定 AI 回答問題的范圍 3、使用 2 種以上人類語言回答問題 4、使輸出格式成為一個可以被解析的 json 結(jié)構(gòu) |
|
第三課：檢索增強生成（RAG） 一、知識點 1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性 2、講解如何構(gòu)建一個向量數(shù)據(jù)庫，并使用檢索增強技術(shù)來改進模型的答案質(zhì)量 二、練習《內(nèi)部 OA 助手》 1、創(chuàng)建一個簡單的 OA 助手 2、借助本地文檔回答問題 3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題 三、假想產(chǎn)品升級 1、訪問本地一個目錄中的所有文檔（Markdown 格式） 2、訪問一個 URL 頁面的網(wǎng)頁內(nèi)容 |
|
第四課：記憶與持久化 一、知識點 1、探討如何通過對話記憶和持久化技術(shù)來實現(xiàn)復雜的會話管理 2、介紹如何使用 LLM 存儲和回憶過往對話內(nèi)容 3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略 二、練習《內(nèi)部 OA 助手》 1、與用戶進行多輪相關(guān)聯(lián)的對話 2、在多輪對話中使用多個不同文檔的內(nèi)容進行分析 三、假想產(chǎn)品升級 1、執(zhí)行多輪關(guān)聯(lián)對話 2、上下文來自不同的文檔 3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容 |
|
第五課：智能體 一、知識點 1、了解智能體與工具的基本運行原理原理 2、進一步實踐與感受大語言模型的能力與限制 二、練習《智能 OA 助手》 1、調(diào)用搜索工具，回答實時問題（如搜索天氣） 2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題 3、調(diào)用數(shù)學工具，對數(shù)學問題進行計算 三、假想產(chǎn)品升級 1、自主調(diào)用工具，訪問本地一個目錄中的所有文檔（Markdown 格式） 2、自主調(diào)用工具，訪問一個 URL 頁面的網(wǎng)頁內(nèi)容 與上一個練習的區(qū)別是，智能體可以自主選擇工具，無需人工指定 |
|
擴展：自學賦能 一、LLM 相關(guān)資源 1、Langchain 官網(wǎng)概覽 此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能 特別會提及部署方案 LangServe 和運維方案 LangSmith 2、github 簡單使用指南 在 github 上搜索、瀏覽 LLM 相關(guān)代碼 3、Docker 簡單使用指南 在本機部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法 二、假想產(chǎn)品升級 1、每組推選本組一個前面練習后最成熟的假想產(chǎn)品為代表產(chǎn)品 以組為單位（之前可以單個學員自己做） 分工協(xié)作，有計劃地為此產(chǎn)品擴展功能。 2、基于 Langchain 官網(wǎng)提供的功能，嘗試實現(xiàn)課上未涉及的功能 自主決定添加何種新功能（需要與產(chǎn)品相關(guān)） 添加新功能可持續(xù)獲得勛章 |
近期公開課推薦
