幫助中心 | 我的帳號 | 關於我們

深度學習之模型優化(核心演算法與案例實踐)/循序漸進學AI系列叢書

  • 作者:言有三|責編:米俊萍
  • 出版社:電子工業
  • ISBN:9787121481529
  • 出版日期:2024/07/01
  • 裝幀:平裝
  • 頁數:230
人民幣:RMB 89 元      售價:
放入購物車
加入收藏夾

內容大鋼
    本書由淺入深、系統性地介紹了深度學習模型壓縮與優化的核心技術。本書共9章,主要內容有:深度學習模型性能評估、模型可視化、輕量級模型設計、模型剪枝、模型量化、遷移學習與知識蒸餾、自動化模型設計、模型優化與部署工具。本書理論知識體系完備,同時提供了大量實例,供讀者實戰演練。
    本書適合深度學習相關領域的演算法技術人員、教職員工,以及人工智慧方向的本科生、研究生閱讀。讀者既可以將本書作為核心演算法書籍學習理論知識,也可以將其作為工程參考手冊查閱相關技術。

作者介紹
言有三|責編:米俊萍

目錄
第1章  引言
  1.1  人工智慧時代背景
  1.2  數據處理
    1.2.1  大數據時代背景
    1.2.2  數據獲取
    1.2.3  數據清洗與整理
  1.3  演算法基礎
    1.3.1  卷積的概念
    1.3.2  CNN基本概念
  1.4  計算晶元
    1.4.1  GPU
    1.4.2  ARM
  1.5  深度學習框架
    1.5.1  Caffe
    1.5.2  TensorFlow
    1.5.3  PyTorch
第2章  模型性能評估
  2.1  性能指標
    2.1.1  基準模型
    2.1.2  參數量
    2.1.3  計算量與內存訪問代價
    2.1.4  計算速度
    2.1.5  並行化程度
    2.1.6  能耗
  2.2  學術與產業競賽
第3章  模型可視化
  3.1  模型可視化基礎
    3.1.1  為什麼要研究模型可視化
    3.1.2  模型可視化的研究方向
  3.2  模型結構可視化
    3.2.1  Netscope可視化方法
    3.2.2  TensorBoard模型結構可視化
    3.2.3  Graphiz可視化工具
    3.2.4  Netron可視化工具
  3.3  模型參數與特徵可視化
    3.3.1  參數可視化
    3.3.2  激活值可視化
    3.3.3  工具
  3.4  輸入區域重要性可視化
    3.4.1  基本原理
    3.4.2  基於反向傳播的輸入可視化
    3.4.3  類激活映射可視化
  3.5  輸入激活模式可視化
    3.5.1  概述
    3.5.2  梯度計演算法
    3.5.3  反卷積法
    3.5.4  網路反轉法
    3.5.5  小結
  3.6  模型可視化分析實踐
    3.6.1  基於梯度計演算法的可視化

    3.6.2  反卷積可視化
    3.6.3  CAM可視化
    3.6.4  小結
第4章  輕量級模型設計
  4.1  卷積核的使用和設計
    4.1.1  全連接層的壓縮
    4.1.2  小卷積核的應用
  4.2  卷積拆分與分組
    4.2.1  卷積拆分操作
    4.2.2  分組卷積Xception與MobileNet
    4.2.3  ShuffleNet
    4.2.4  級連通道分組網路
    4.2.5  多解析度卷積核通道分組網路
    4.2.6  多尺度通道分組網路
    4.2.7  多精度分組網路
  4.3  特徵與參數重用設計
    4.3.1  特徵重用
    4.3.2  參數重用
  4.4  動態自適應模型設計
    4.4.1  什麼是動態模型
    4.4.2  基於提前終止與模塊丟棄原理的動態模型
    4.4.3  基於注意力感知的動態模型
  4.5  卷積乘法操作優化和設計
    4.5.1  移位網路
    4.5.2  加法網路
    4.5.3  移位網路與加法網路結合
  4.6  重參數化技巧
    4.6.1  網路層合併
    4.6.2  分支合併
  4.7  新穎運算元設計
  4.8  低秩稀疏化設計
第5章  模型剪枝
  5.1  模型剪枝基礎
    5.1.1  什麼是模型剪枝
    5.1.2  模型剪枝的粒度
  5.2  模型稀疏學習
    5.2.1  權重正則化約束
    5.2.2  基於網路結構的設計
  5.3  非結構化剪枝技術
    5.3.1  基於優化目標的方法
    5.3.2  基於權重幅度的方法
    5.3.3  向量剪枝技術
  5.4  結構化剪枝技術
    5.4.1  基於重要性因子的剪枝演算法
    5.4.2  基於輸出重建誤差的通道剪枝演算法
    5.4.3  基於優化目標敏感性的剪枝演算法
    5.4.4  卷積核剪枝和通道剪枝的差異
  5.5  模型剪枝的一些問題
    5.5.1  剪枝的必要性
    5.5.2  訓練策略

    5.5.3  整個網路同時剪枝
    5.5.4  運行時剪枝
  5.6  圖像分類模型結構化剪枝實戰
    5.6.1  模型定義與數據集
    5.6.2  模型訓練
    5.6.3  模型剪枝
    5.6.4  殘差網路
    5.6.5  小結
第6章  模型量化
  6.1  模型量化基礎
    6.1.1  什麼是模型量化
    6.1.2  量化的優勢
  6.2  二值量化演算法
    6.2.1  基於閾值映射函數的方法
    6.2.2  基於重建誤差的方法
    6.2.3  從二值量化模型到三值量化模型
    6.2.4  二值量化的主要問題
  6.3  8bit量化
    6.3.1  基於變換函數的非對稱量化
    6.3.2  基於信息損失的對稱量化
  6.4  混合精度量化演算法
    6.4.1  一般混合精度量化演算法
    6.4.2  自動位寬學習
  6.5  半精度浮點數訓練演算法
  6.6  模型量化的一些其他問題
    6.6.1  非均勻量化
    6.6.2  更穩定地訓練量化模型
    6.6.3  量化訓練與離線量化的比較
  6.7  基於TensorRT框架的模型量化推理實踐
    6.7.1  項目簡介
    6.7.2  量化演算法實現
    6.7.3  TensorRT模型量化與推理
第7章  遷移學習與知識蒸餾
  7.1  遷移學習與知識蒸餾基礎
    7.1.1  遷移學習的基本概念
    7.1.2  知識蒸餾的基本概念
  7.2  基於優化目標驅動的知識蒸餾
    7.2.1  預訓練大模型框架
    7.2.2  大模型與小模型共同學習框架
    7.2.3  小結
  7.3  基於特徵匹配的知識蒸餾
    7.3.1  基本框架
    7.3.2  注意力機制的使用
  7.4  自蒸餾框架
    7.4.1  深度協同學習
    7.4.2  自監督學習
    7.4.3  自進化學習
  7.5  知識蒸餾的一些問題
    7.5.1  教師模型是否越強越好
    7.5.2  學生模型與教師模型的相互學習

  7.6  基於經典知識蒸餾的圖像分類實戰
    7.6.1  基準模型定義
    7.6.2  基準模型訓練
    7.6.3  知識蒸餾學習
    7.6.4  小結
第8章  自動化模型設計
  8.1  自動化機器學習基礎
    8.1.1  什麼是AutoML
    8.1.2  AutoML在數據工程中的應用
    8.1.3  AutoML在超參數優化中的典型應用
    8.1.4  現有的AutoML系統
  8.2  神經網路結構搜索基礎
    8.2.1  什麼是NAS
    8.2.2  NAS的搜索空間
    8.2.3  NAS的搜索策略
    8.2.4  NAS的評估
  8.3  基於柵格搜索的NAS
    8.3.1  網路基礎參數搜索
    8.3.2  網路拓撲結構搜索
  8.4  基於強化學習的NAS
    8.4.1  強化學習基礎
    8.4.2  基本方法
    8.4.3  NASNet
    8.4.4  MNASNet
  8.5  基於進化演算法的NAS
    8.5.1  進化演算法簡介
    8.5.2  Genetic CNN演算法
    8.5.3  與NASNet的結合
  8.6  可微分NAS
  8.7  NAS與其他模型壓縮方法結合
    8.7.1  自動化模型剪枝
    8.7.2  自動化模型量化
    8.7.3  自動化模型蒸餾
  8.8  當前NAS的一些問題
第9章  模型優化與部署工具
  9.1  模型優化工具
    9.1.1  TensorFlow和PocketFlow框架
    9.1.2  PaddlePaddle框架
    9.1.3  PyTorch和Distiller框架
    9.1.4  NNI框架
    9.1.5  小結
  9.2  模型部署工具
    9.2.1  模型部署基礎
    9.2.2  ONNX標準
    9.2.3  NVIDIA GPU推理框架TensorRT
    9.2.4  特定框架專用模型推理框架
    9.2.5  通用移動端模型推理框架
    9.2.6  小結
  9.3  基於NCNN的模型優化部署實戰
    9.3.1  軟硬體平台介紹

    9.3.2  模型格式轉換
    9.3.3  模型部署測試
    9.3.4  小結

  • 商品搜索:
  • | 高級搜索
首頁新手上路客服中心關於我們聯絡我們Top↑
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話:02-2381-2033 02-2381-1863 時間:週一-週五 10:00-17:00
 服務信箱:bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證:浙B2-20060032