AI大模型應用企業(yè)內部數(shù)據(jù)-2天

AI大模型應用企業(yè)內部數(shù)據(jù)
-15240011430課程簡介
大模型的應用場景很廣泛，可以用于處理多種類型的對話，包過對話機器人、問答機器人和客服機器人等。它還可以用于各種自然語言處理任務，比如文本摘要、情感分析和信息提取等。例如，在一個問答系統(tǒng)中，大模型可以提供準確的答案，解決用戶的疑惑；在一個客服機器人中,他可以幫助用戶解決問題，提供更好的服務體驗。
大模型是用網絡上之前的數(shù)據(jù)訓練的，因此會有信息滯后的局限性。雖然這些模型的通用知識很棒，但是如果能讓它們連接到自定義的數(shù)據(jù)和計算，就會有更多的實用價值，LangChain即可以解決以上的局限性和提供實用價值。LangChain是一個開源的框架，它可以讓AI開發(fā)人員把大型語言模型（LLM）和企業(yè)內部數(shù)據(jù)結合起來。它提供了Python或JavaScript（TypeScript）的包。
LangChain可以讓自己的LLM在回答問題時參考整個數(shù)據(jù)庫。所以可以讓自己的大模型訪問最新的數(shù)據(jù)，比如報告、文檔和網站信息。
此課程是尹立慶老師多年人工智能工作經驗的分享，重點介紹LangChain帶來的技術變革與應用落地和未來發(fā)展趨勢。
-15240011430培訓目標

深入講解AI大模型應用企業(yè)內部數(shù)據(jù)，大模型微調；
LangChain概述；
LangChain環(huán)境部署；
LangChain的Pipeline現(xiàn)場實操；
深度解讀LangChain帶來的技術變革與行業(yè)應用落地；
深度解讀業(yè)界最新的LangChain技術；
深度解讀LangChain的原理、技術特性；
深度解讀glm2_6b大模型；
深度剖析LangChain的價值、應用場景；
課程重點探討LangChain的未來發(fā)展趨勢；
介紹LangChain實施落地技術；
-15240011430培訓對象

本課程適合于對ChatGPT、LangChain感興趣的人員；
本課程適合于架構師、技術經理、高級工程師；
適合于企業(yè)科技研發(fā)人員和人工智能科學家；
-15240011430培訓方式

以課堂講解、演示、案例分析為主，內容偏實用，結合講解與演示方式，循序漸進，輔以互動研討、現(xiàn)場答疑、學以致用。
-15240011430課程安排

課程時間：2天
課程內容：
時間
內容
備注
第1天
AI大模型應用企業(yè)內部數(shù)據(jù)大模型微調（深入講解AI大模型應用企業(yè)內部數(shù)據(jù)）（120分鐘）
AI大模型應用企業(yè)內部數(shù)據(jù)
大模型微調
大模型微調的概念和意義
預訓練模型的優(yōu)勢和應用場景
大模型微調基本原理
大模型微調方法
數(shù)據(jù)加載、模型訓練、調參等常見操作的優(yōu)化和加速方法
使用可視化工具進行模型訓練過程的分析和調試
大模型微調的基本流程和關鍵步驟
常用的深度學習框架和工具
TensorFlow、PyTorch等常見深度學習框架
Parameter-Efficient Fine-Tuning (PEFT)
預訓練階段
目標任務準備
構建微調任務
PEFT微調
常用的PEFT方法
Adapter Tuning
Prefix Tuning
Prompt Tuning
P-Tuning
LoRA
案例剖析：應用大模型微調技術解決實際問題
大模型微調技術與實踐（大模型微調技術與實踐）（90分鐘）
大模型微調技術與實踐
常見的大模型微調技術
知識蒸餾
遷移學習
領域適應
案例大模型微調的實踐
文本分類
圖像識別
自然語言處理
探討大模型微調過程中可能遇到的問題和解決方案
選擇合適的預訓練模型并進行微調
如何評估微調效果和改進方案
實際應用案例分享與討論
LangChain概述（LangChain概述）（30分鐘）
LangChain概述
LangChain介紹
LangChain的重要概念
Components
Prompts
Chains
Agents
大模型微調
LangChain工作原理（LangChain工作原理）（30分鐘）
LangChain工作原理
LangChain如何與OpenAI的LLM合作
LoRA模型（LoRA模型）（90分鐘）
LoRA模型
LangChain如何與OpenAI的LLM合作
LoRA模型概述
繪畫模型
LoRA 原論文
LoRA模型的核心思想
數(shù)學原理
LoRA模型訓練
低秩適應訓練方法
LoRA 庫的GitHub存儲庫
時間
內容
備注
第2天
深度解讀glm2_6b大模型（深度解讀glm2_6b大模型）（90分鐘）
深度解讀glm2_6b大模型
glm2_6b大模型的原理
GPT（Generative Pre-trained Transformer）架構
glm2_6b大模型數(shù)據(jù)集
glm2_6b大模型的部署
準備環(huán)境
安裝依賴庫
下載模型權重
加載模型
部署API或服務
調優(yōu)和監(jiān)控
glm2_6b大模型的訓練
glm2_6b大模型的應用
自然語言處理
文本生成
機器翻譯
問答系統(tǒng)
LangChain環(huán)境部署（LangChain環(huán)境部署）（90分鐘）
LangChain環(huán)境部署
安裝依賴包
配置環(huán)境
獲取pinecone環(huán)境和KPI_KEY
獲取OPENAI_KPI_KEY
LangChain的Pipeline現(xiàn)場實操（LangChain的Pipeline現(xiàn)場實操）（90分鐘）
LangChain的Pipeline現(xiàn)場實操
Pipeline執(zhí)行流程
大模型包裝器
LangChain應用實戰(zhàn)（LangChain應用實戰(zhàn)）（90分鐘）
模型（LLM包裝器）
提示Prompts
Prompts模板
鏈Chains
嵌入和向量存儲Embeddings and VectorStores
代理Agents
示例代碼

尹立慶老師的其它課程