幫助中心 | 我的帳號 | 關於我們

AI編譯器開髮指南/芯科技前沿技術叢書

  • 作者:汪岩|責編:李培培
  • 出版社:機械工業
  • ISBN:9787111716747
  • 出版日期:2023/01/01
  • 裝幀:平裝
  • 頁數:307
人民幣:RMB 119 元      售價:
放入購物車
加入收藏夾

內容大鋼
    本書結合專用AI加速器和GPGPU兩類晶元架構,系統介紹了AI編譯器的基本框架和開發流程,著重論述了在AI編譯器開發過程中,針對這兩類架構需要重點考慮的實現方法。全書共分為7章,內容涵蓋了以TVM為代表的開源AI編譯器實現分析和定製化方法,以及GPGPU編譯器後端相關設計方法。在介紹AI編譯器一般原理的同時,書中通過對開源編譯器項目的源代碼分析,使讀者能通過實例對AI編譯器開發過程有更直觀的認識。
    本書為讀者提供了一些相關技術資料和高清學習視頻,讀者可以直接掃描二維碼觀看。
    本書填補了AI編譯器開發類書籍的空白,可作為從事AI軟硬體設計、開發人員的參考用書,也可作為普通高等院校智能科學與技術、電腦科學與技術等專業的本科生和研究生的教輔書籍。

作者介紹
汪岩|責編:李培培
    汪岩,博士,高級工程師。目前在美國矽谷某AI晶元創業公司從事編譯器開發。曾在聯發科、索尼移動、摩托羅拉等公司從事軟體研發管理工作,歷任技術主管、研發經理、研發高級經理、軟體總監等職務,在無線通信、Android系統、編譯器等軟體領域有17年工作經驗,曾主持30餘款手機產品的Android框架軟體開發,參與或主持多款AI類晶元編譯器的開發,並有多款晶元流片經驗。發表論文20余篇,授權專利20余項。

目錄
前言
第1章  AI編譯器基礎
  1.1  AI編譯器概述
    1.1.1  AI晶元及其分類
    1.1.2  AI編譯器的結構與特徵
  1.2  常用AI編譯器介紹
    1.2.1  TVM整體架構
    1.2.2  TensorFlow XLA整體架構
    1.2.3  Glow整體架構
  1.3  LLVM編譯器基礎
    1.3.1  LLVM前端工作流程
    1.3.2  LLVM IR格式和語法
    1.3.3  LLVM後端工作流程
  1.4  GPGPU編譯器基礎
    1.4.1  GPGPU編譯器工作流程
    1.4.2  Clang對CUDA的處理
    1.4.3  GPGPU編譯器的IR優化
第2章  開源AI編譯器實現分析
  2.1  TVM的系統設計
    2.1.1  TVM的圖級優化
    2.1.2  TVM的計算與調度
    2.1.3  TVM的自動調優框架
  2.2  TensorFlow XLA的系統設計
    2.2.1  XLA的聚類過程
    2.2.2  XLA的IR設計和編譯過程
    2.2.3  開啟XLA的方式
    2.2.4  XLA JIT的圖優化過程
    2.2.5  XLA JIT的代碼生成
  2.3  Glow的系統設計
    2.3.1  Glow的高階IR
    2.3.2  Glow的低階IR
    2.3.3  Glow的量化方法
    2.3.4  Glow的後端設計
  2.4  AI編譯器特性總結
    2.4.1  AI編譯器的多階IR設計
    2.4.2  AI編譯器的前端優化
    2.4.3  AI編譯器的後端優化
第3章  定製化AI編譯器設計與實現
  3.1  定製化AI編譯器設計框架
  3.2  TVM的高階中間表示
    3.2.1  TVM高階中間表示的表達
    3.2.2  TVM高階中間表示的數據表示實現
    3.2.3  TVM高階中間表示的運算元實現
  3.3  TVM的低階中間表示
    3.3.1  TVM低階中間表示的表達
    3.3.2  TVM代碼生成的定製化開發
    3.3.3  TVM運行時的定製化開發
  3.4  TVM的前後端優化
    3.4.1  TVM pass的功能與實現
    3.4.2  TVM的前端優化

    3.4.3  TVM的後端優化
第4章  GPGPU編譯器後端設計
  4.1  LLVM後端開發流程
    4.1.1  異構計算程序工作流程
    4.1.2  LLVM後端執行流程
    4.1.3  LLVM中的pass及其管理機制
  4.2  指令選擇
    4.2.1  指令選擇原理與實現方式
    4.2.2  基於SelectionDAG的指令選擇
    4.2.3  快速指令選擇
    4.2.4  全局指令選擇
  4.3  指令調度
    4.3.1  指令調度原理
    4.3.2  LLVM中的指令調度器及其工作過程
    4.3.3  調度pass的定製
  4.4  寄存器分配
    4.4.1  寄存器分配原理
    4.4.2  LLVM寄存器分配
    4.4.3  貪厭寄存器分配實現過程分析
第5章  張量核的編程方法與編譯器支持
  5.1  沃爾塔、圖靈和安培架構特性
    5.1.1  沃爾塔架構特性
    5.1.2  圖靈架構特性
    5.1.3  安培架構特性
  5.2  張量核編程方法
    5.2.1  WMMA API及其用法
    5.2.2  CUTLASS中的張量核編程
  5.3  編譯器後端對張量核的支持
    5.3.1  wmma PTX指令及其用法
    5.3.2  mma和ldmatrix PTX指令及其用法
    5.3.3  WMMA intrinsic函數定義
    5.3.4  NVPTX後端對wmma PTX指令的支持
第6章  AI模型性能分析與編譯器優化方法
  6.1  AI模型性能的衡量指標和影響因素
    6.1.1  計算訪存比
    6.1.2  算術強度和操作位元組比
    6.1.3  內存級並行性和線程束並行性
  6.2  SM佔用率及其編程介面
    6.2.1  理論佔用率和實際佔用率
    6.2.2  理論佔用率約束條件分析
    6.2.3  CUDA運行時佔用率編程介面
  6.3  基於佔用率的指令調度優化
    6.3.1  AMD GPU編程模型和硬體執行模型
    6.3.2  AMDGPU後端的指令調度演算法優化
第7章  AI晶元軟硬體系統介面設計
  7.1  GPGPU軟硬體介面設計
    7.1.1  GPGPU主機端編程介面
    7.1.2  內核分派過程
    7.1.3  GPGPU硬體分派過程
  7.2  AI加速器軟硬體介面設計

    7.2.1  AI加速器硬體架構
    7.2.2  AI加速器設備軟體棧
  7.3  量化技術與實現
    7.3.1  量化技術原理
    7.3.2  運算元量化和激活函數量化
    7.3.3  激活函數量化方法
參考文獻

  • 商品搜索:
  • | 高級搜索
首頁新手上路客服中心關於我們聯絡我們Top↑
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話:02-2381-2033 02-2381-1863 時間:週一-週五 10:00-17:00
 服務信箱:bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證:浙B2-20060032