幫助中心 | 我的帳號 | 關於我們
進階搜尋
car

同類熱銷排行榜

最近瀏覽的商品

大語言模型基礎(微課視頻版)/跟我一起學人工智慧

  • 作者：編者:孫弋|責編:趙佳霓
  • 出版社：清華大學
  • ISBN：9787302721031
  • 出版日期：2026/08/01
  • 裝幀：平裝
  • 頁數：344
人民幣：RMB 69 元      售價：元
放入購物車
加入收藏夾
內容大鋼
    本書以Transformer模型為核心，全面覆蓋大語言模型的構建與應用全流程，包括深度學習基礎、注意力機制、預訓練語料處理、數據表徵、擴展法則、架構優化、預訓練、微調、推理、人類對齊及評測等關鍵環節。內容兼顧理論深度與實踐指導，通過數學推導、演算法解析、代碼實現及案例分析，為讀者提供清晰的學習路徑。
    全書共9章，第1章介紹Transformer模型的理論基礎與代碼實現，第2?4章探討預訓練語料、數據表徵及擴展法則與架構設計，第5?7章深入預訓練、微調與推理的優化技術，第8章聚焦人類對齊的理論與實踐，第9章系統介紹評測方法。
    本書面向高校學生、研究人員及人工智慧領域從業者，注重前沿技術與最新研究成果結合，適合作為人工智慧、電腦科學相關專業的教材，也可作為自然語言處理及大語言模型開發者的參考書。通過閱讀本書，讀者可以掌握大語言模型的核心知識與基礎研究框架，為學術研究與技術應用奠定堅實基礎。
作者介紹
編者:孫弋|責編:趙佳霓
    孫弋，教授、工學博士，長期從事信息學科教學與智能軟硬體產品的研究開發工作。信息技術與人工智慧領域技術博主，跟蹤相關領域前沿技術與框架，並在各大媒體平台分享相關視頻，受廣大網友好評。
目錄
第1章  Transformer模型基礎（90min）
  1.1  深度學習
    1.1.1  深度學習基礎
    1.1.2  語言模型及其演變
  1.2  注意力機制
    1.2.1  注意力機制的定義
    1.2.2  注意力機制的分類
    1.2.3  注意力機制的數學原理
    1.2.4  注意力機制的變體
    1.2.5  注意力機制的應用
  1.3  Transformer模型的關鍵支撐技術
    1.3.1  歸一化方法
    1.3.2  激活函數
    1.3.3  位置編碼
  1.4  Transformer基礎模型的代碼實現
    1.4.1  輸入編碼模塊代碼實現
    1.4.2  多頭自注意力機制模塊代碼實現
    1.4.3  位置前饋網路代碼實現
    1.4.4  殘差連接與層歸一化代碼實現
    1.4.5  編碼器代碼實現
    1.4.6  解碼器代碼實現
第2章  大語言模型訓練語料（45min）
  2.1  預訓練目標與方法
    2.1.1  語言建模
    2.1.2  上下文理解
    2.1.3  知識獲取
    2.1.4  多任務學習
  2.2  預訓練語料
    2.2.1  預訓練語料的定義
    2.2.2  預訓練語料的來源
    2.2.3  語言覆蓋
    2.2.4  數據規模
  2.3  語料預處理
    2.3.1  語料去噪
    2.3.2  低質過濾
    2.3.3  冗余去除
    2.3.4  隱私消除
    2.3.5  詞元切分
  2.4  語料調度
    2.4.1  語料調度的定義
    2.4.2  語料調度的基本原則和方法
    2.4.3  預訓練案例
第3章  大語言模型數據表徵（77min）
  3.1  語言數據表徵的歷史演進
    3.1.1  基於規則和統計的方法
    3.1.2  詞嵌入
    3.1.3  上下文感知的詞嵌入
    3.1.4  多模態表徵
  3.2  語言數據表徵與信息表示
    3.2.1  數據表徵的基本概念

    3.2.2  數據表徵理論基礎
  3.3  詞嵌入技術
    3.3.1  詞嵌入技術的數學基礎
    3.3.2  Skip?gram模型
    3.3.3  CBoW模型
    3.3.4  詞嵌入模型實現的關鍵技術
  3.4  句子與篇章嵌入技術
    3.4.1  靜態句子嵌入技術
    3.4.2  上下文句子嵌入
  3.5  多模態表徵技術
    3.5.1  共享嵌入空間
    3.5.2  CLIP： 圖文對比學習
    3.5.3  ViLBERT： Vision?and?Language BERT
  3.6  具身智能表徵技術
    3.6.1  具身智能基本概念與原理
    3.6.2  具身智能表徵方法
    3.6.3  具身智能表徵技術應用
第4章  大語言模型訓練的擴展法則和架構（67min）
  4.1  擴展法則概述
  4.2  擴展法則的數學建模
    4.2.1  模型規模對性能的影響
    4.2.2  訓練數據規模對性能的影響
    4.2.3  計算量對性能的影響
    4.2.4  綜合擴展法則的聯合優化
  4.3  大語言模型主流擴展法則
    4.3.1  Kaplan?McCandlish 擴展法則
    4.3.2  Chinchilla 擴展法則
  4.4  大語言模型架構
    4.4.1  編碼器?解碼器架構
    4.4.2  僅編碼器架構
    4.4.3  僅解碼器架構
  4.5  架構優化技術
    4.5.1  稀疏注意力機制
    4.5.2  模型並行化
    4.5.3  混合專家模型
  4.6  擴展法則與架構的協同設計
    4.6.1  架構對擴展法則的影響
    4.6.2  基於擴展法則的架構優化
第5章  大語言模型預訓練（74min）
  5.1  預訓練概述
  5.2  預訓練任務
    5.2.1  掩碼語言模型
    5.2.2  因果語言模型
    5.2.3  序列到序列任務
  5.3  預訓練優化
    5.3.1  學習率調度
    5.3.2  梯度裁剪
    5.3.3  混合精度訓練
  5.4  因果解碼器模型預訓練參數量計算與效率分析
    5.4.1  大語言模型參數量計算

    5.4.2  大語言模型預訓練運算量計算
    5.4.3  大語言模型預訓練時間計算
    5.4.4  大語言模型預訓練顯存計算
第6章  大語言模型微調（63min）
  6.1  微調的基本概念
    6.1.1  微調的定義與目標
    6.1.2  微調與預訓練的區別
    6.1.3  微調的應用場景
  6.2  微調技術
    6.2.1  全參數微調
    6.2.2  提示微調
    6.2.3  部分參數微調
    6.2.4  高效微調技術
  6.3  微調策略
    6.3.1  數據準備
    6.3.2  訓練過程優化
    6.3.3  多任務與多語言微調
第7章  大語言模型推理（59min）
  7.1  推理原理
    7.1.1  推理的定義與類型
    7.1.2  大語言模型中的推理任務
  7.2  推理方法基礎
    7.2.1  基於規則的推理
    7.2.2  概率推理
    7.2.3  思維鏈推理
    7.2.4  自回歸推理
  7.3  推理演算法
    7.3.1  解碼控制演算法
    7.3.2  結構化生成演算法
    7.3.3  複雜推理增強
  7.4  推理優化技術
    7.4.1  計算資源優化
    7.4.2  模型結構優化
    7.4.3  系統級優化
第8章  人類對齊（68min）
  8.1  人類對齊概述
    8.1.1  人類對齊基礎知識
    8.1.2  人類對齊問題背景
    8.1.3  人類對齊目標
  8.2  人類對齊方法
    8.2.1  人類對齊指令微調
    8.2.2  人類反饋強化學習
    8.2.3  RLHF的數學原理
  8.3  人類對齊評估方法
    8.3.1  人類對齊評估指標
    8.3.2  人類對齊綜合評估框架
  8.4  人類對齊案例研究
    8.4.1  ChatGPT?3的對齊實踐
    8.4.2  GPT?4的對齊案例
    8.4.3  LLaMA模型的對齊實踐

第9章  大語言模型評測（47min）
  9.1  大語言模型評測方法
    9.1.1  定量評測方法
    9.1.2  定性評測方法
  9.2  標準基準數據集
    9.2.1  基準數據集
    9.2.2  基準數據集應用
  9.3  大語言模型特定能力評估
    9.3.1  語言理解能力
    9.3.2  語言生成評估
    9.3.3  推理和常識
    9.3.4  世界知識
    9.3.5  多模態能力
  9.4  少樣本和零樣本評測
    9.4.1  少樣本和零樣本評測概念
    9.4.2  評估技術
  9.5  穩健性和倫理考慮
    9.5.1  穩健性評估
    9.5.2  公平性和偏見評估
    9.5.3  安全和倫理問題
  9.6  評估技術實踐
    9.6.1  實驗設置
    9.6.2  統計顯著性
    9.6.3  評測報告
參考文獻

  • 商品搜索：
  • | 高級搜索
首頁│ 新手上路│ 客服中心│ 關於我們│ 聯絡我們│ Top↑│
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話：02-2381-2033 02-2381-1863　時間：週一-週五 10:00-17:00
　服務信箱：bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證：浙B2-20060032