新範式來臨: 用PyTorch了解LLM開發微調ChatGLM全過程

新範式來臨: 用PyTorch了解LLM開發微調ChatGLM全過程

出版日期:
2024/04/23
9
980882
查詢門市庫存
★從0開始打造自己的LLM
★動手實作中英文都通的ChatGLM
★PyTorch 2完整實作NLP
★各種神經網路實作:CNN、RNN、GRU、Transformer、BERT、GPT

內容簡介

★從0開始打造自己的LLM
★動手實作中英文都通的ChatGLM
★PyTorch 2完整實作NLP
★各種神經網路實作:CNN、RNN、GRU、Transformer、BERT、GPT
★預訓練模型、編碼器、解碼器、Seq2Seq2
★獎勵模型的RLHF、PPO、Rewarded Model
★LLM在專業領域的應用:金融、醫療
★使用PEFT、LORA等Huggingface函式庫進行LLM的Finetune

大型語言模型是深度學習自然語言處理皇冠上的一顆明珠,也是當前AI和NLP研究與產業中最重要的方向。全書使用PyTorch 2.0作為學習大型語言模型的基本框架,以中英文通曉的ChatGLM為範例,詳細講解大型語言模型的基本理論、演算法、程式實現、應用實戰以及微調技術,完整演示大型語言模型開發技術。

全書共18章,內容包括人工智慧與大型語言模型、PyTorch 2.0深度學習環境搭建、從零開始學習PyTorch 2.0、深度學習基礎演算法詳解、以PyTorch卷積層為基礎的的MNIST分類實戰、PyTorch資料處理與模型展示、ResNet實戰、有趣的詞嵌入、PyTorch循環神經網路的中文情感分類實戰、自然語言處理的編碼器、預訓練模型BERT、自然語言處理的解碼器、強化學習實戰、只具有解碼器的GPT-2模型、實戰訓練自己的ChatGPT、開源大型語言模型ChatGLM使用詳解、ChatGLM高級定制化應用實戰、對ChatGLM進行高級微調。

展開看更多

產品目錄

第1章 新時代的曙光—人工智慧與大模型
1.1 人工智慧:思維與實踐的融合
1.2 大模型開啟人工智慧的新時代
1.3 本章小結

第2章 PyTorch 2.0深度學習環境架設
2.1 環境架設1:安裝Python
2.2 環境架設2:安裝PyTorch 2.0
2.3 生成式模型實戰:古詩詞的生成
2.4 影像降噪:一步步實戰第一個深度學習模型
2.5 本章小結

第3章 從零開始學習PyTorch 2.0
3.1 實戰MNIST手寫體辨識
3.2 自訂神經網路框架的基本設計
3.3 本章小結

第4章 一學就會的深度學習基礎演算法詳解
4.1 反向傳播神經網路的前身歷史
4.2 反向傳播神經網路兩個基礎演算法詳解
4.3 回饋神經網路反向傳播演算法介紹
4.4 本章小結

第5章 基於PyTorch卷積層的MNIST分類實戰
5.1 卷積運算的基本概念
5.2 實戰:基於卷積的MNIST手寫體分類
5.3 PyTorch的深度可分離膨脹卷積詳解
5.4 本章小結

第6章 視覺化的PyTorch資料處理與模型展示
6.1 用於自訂資料集的torch.utils.data工具箱使用詳解
6.2 實戰:基於tensorboardX的訓練視覺化展示
6.3 本章小結

第7章 ResNet實戰
7.1 ResNet基礎原理與程式設計基礎
7.2 ResNet實戰:CIFAR-10資料集分類
7.3 本章小結

第8章 有趣的詞嵌入
8.1 文字資料處理
8.2 更多的詞嵌入方法—FastText和預訓練詞向量
8.3 針對文字的卷積神經網路模型簡介—字元卷積
8.4 針對文字的卷積神經網路模型簡介—詞卷積
8.5 使用卷積對文字分類的補充內容
8.6 本章小結

第9章 基於迴圈神經網路的中文情感分類實戰
9.1 實戰:迴圈神經網路與情感分類
9.2 迴圈神經網路理論講解
9.3 本章小結

第10章 從零開始學習自然語言處理的編碼器
10.1 編碼器的核心—注意力模型
10.2 編碼器的實現
10.3 實戰編碼器:拼音中文字轉化模型
10.4 本章小結

第11章 站在巨人肩膀上的預訓練模型BERT
11.1 預訓練模型BERT
11.2 實戰BERT:中文文字分類
11.3 更多的預訓練模型
11.4 本章小結

第12章 從1開始自然語言處理的解碼器
12.1 解碼器的核心—注意力模型
12.2 解碼器實戰—拼音中文字翻譯模型
12.3 本章小結
第13章 基於PyTorch 2.0的強化學習實戰
13.1 基於強化學習的火箭回收實戰
13.2 強化學習的基本演算法—PPO演算法
13.3 本章小結

第14章 ChatGPT前身—只具有解碼器的GPT-2模型
14.1 GPT-2模型簡介
14.2 Hugging Face GPT-2模型原始程式模型詳解
14.3 Hugging Face GPT-2模型的使用與自訂微調
14.4 自訂模型的輸出
14.5 本章小結

第15章 實戰訓練自己的ChatGPT
15.1 什麼是ChatGPT
15.2 RLHF模型簡介
15.3 基於RLHF實戰的ChatGPT正向評論的生成
15.4 本章小結

第16章 開放原始碼大模型ChatGLM使用詳解
16.1 為什麼要使用大模型
16.2 ChatGLM使用詳解
16.3 本章小結

第17章 開放原始碼大模型ChatGLM 高級訂製化應用實戰
17.1 醫療問答GLMQABot架設實戰—基於ChatGLM架設專業客服問答機器人
17.2 金融資訊取出實戰—基於知識鏈的ChatGLM當地語系化知識庫檢索與智慧答案生成
17.3 基於ChatGLM的一些補充內容
17.4 本章小結

第18章 對訓練成本上億美金的ChatGLM進行高級微調
18.1 ChatGLM模型的當地語系化處理
18.2 高級微調方法1—基於加速庫Accelerator的全量資料微調
18.3 高級微調方法2—基於LoRA的模型微調
18.4 高級微調方法3—基於Huggingface的PEFT模型微調
18.5 本章小結

作者介紹

王曉華
大專電腦專業講師,研究方向為雲端運算、巨量資料與人工智慧。
著有:
《PyTorch2.0深度學習從零開始學》
《Python機器學習與可視化分析實戰》
《Google JAX深度學習從零開始學》
《Spark3.0巨量資料分析與挖掘:基於機器學習》
《TensorFlow深度學習應用實踐》
《OpenCV+TensorFlow深度學習與電腦視覺實戰》
《TensorFlow知識圖譜實戰》
《TensorFlow人臉識別實戰》
《TensorFlow語音識別實戰》
《TensorFlow+Keras自然語言處理實戰》
《TensorFlow2.0卷積神經網絡實戰》
《Keras實戰:基於TensorFlow2.2的深度學習實踐》
《Tensorflow 2.0深度學習從零開始學》
《深度學習的數學原理與實作》

規格

誠品貨碼 / 2682551544004
ISBN13 / 9786267383513
ISBN10 /
EAN貨碼 / 9786267383513
頁數 / 544
裝訂 / P:平裝
語言 / 1:中文/繁體
尺寸 / 17X23X2.7CM
級別 / N:無

退貨說明

退貨須知:

  1. 依照消費者保護法的規定,您享有商品貨到次日起七天猶豫期(含例假日)的權益(請注意!猶豫期非試用期),辦理退貨之商品必須是全新狀態(不得有刮傷、破損、受潮)且需完整(包含全部商品、配件、原廠內外包裝、贈品及所有附隨文件或資料的完整性等)。
  2. 請您以送貨廠商使用之包裝紙箱將退貨商品包裝妥當,若原紙箱已遺失,請另使用其他紙箱包覆於商品原廠包裝之外,切勿直接於原廠包裝上黏貼紙張或書寫文字。若原廠包裝損毀將可能被認定為已逾越檢查商品之必要程度,本公司得依毀損程度扣除回復原狀必要費用(整新費)後退費;請您先確認商品正確、外觀可接受,再行拆封,以免影響您的權利;若為產品瑕疵,本公司接受退貨。

依「通訊交易解除權合理例外情事適用準則」,下列商品不適用七日猶豫期,除產品本身有瑕疵外,不接受退貨:

  1. 易於腐敗、保存期限較短或解約時即將逾期。(如:生鮮蔬果、乳製品、冷凍冷藏食材、蛋糕)
  2. 依消費者要求所為之客製化給付。(如:客製印章、鋼筆刻字)
  3. 報紙、期刊或雜誌。
  4. 經消費者拆封之影音商品或電腦軟體。
  5. 非以有形媒介提供之數位內容或一經提供即為完成之線上服務,經消費者事先同意始提供。(如:電子書)
  6. 已拆封之個人衛生用品。(如:內衣褲、襪類、褲襪、刮鬍刀、除毛刀等貼身用品)
  7. 國際航空客運服務。

若您退貨時有下列情形,可能被認定已逾越檢查商品之必要程度而須負擔為回復原狀必要費用(整新費),或影響您的退貨權利,請您在拆封前決定是否要退貨:

  1. 以數位或電磁紀錄形式儲存或著作權相關之商品(包含但不限於CD、VCD、DVD、電腦軟體等) 包裝已拆封者(除運送用之包裝以外)。
  2. 耗材(包含但不限於墨水匣、碳粉匣、紙張、筆類墨水、清潔劑補充包等)之商品包裝已拆封者(除運送用之包裝以外)。
  3. 衣飾鞋類/寢具/織品(包含但不限於衣褲、鞋子、襪子、泳裝、床單、被套、填充玩具)或之商品缺件(含購買商品、附件、內外包裝、贈品等)或經剪標或下水或商品有不可回復之髒污或磨損痕跡。
  4. 食品、美容/保養用品、內衣褲等消耗性或個人衛生用品、商品銷售頁面上特別載明之商品已拆封者(除運送用之包裝外一切包裝、包括但不限於瓶蓋、封口、封膜等接觸商品內容之包裝部分)或已非全新狀態(外觀有刮傷、破損、受潮等)與包裝不完整(缺少商品、附件、原廠外盒、保護袋、配件紙箱、保麗龍、隨貨文件、贈品等)。
  5. 家電、3C、畫作、電子閱讀器等商品,除商品本身有瑕疵外,退回之商品已拆封(除運送用之包裝外一切包裝、包括但不限於封膜等接觸商品內容之包裝部分、移除封條、拆除吊牌、拆除貼膠或標籤等情形)或已非全新狀態(外觀有刮傷、破損、受潮等)與包裝不完整(缺少商品、附件、原廠外盒、保護袋、配件紙箱、保麗龍、隨貨文件、贈品等)。
  6. 退貨程序請參閱【客服專區→常見問題→誠品線上退貨退款】之說明。
付款/配送