幫助中心 | 我的帳號 | 關於我們

高效卷積神經網路的結構設計與優化(精)/清華大學優秀博士學位論文叢書

  • 作者:丁霄漢|責編:孫亞楠
  • 出版社:清華大學
  • ISBN:9787302673187
  • 出版日期:2024/09/01
  • 裝幀:精裝
  • 頁數:140
人民幣:RMB 79 元      售價:
放入購物車
加入收藏夾

內容大鋼
    本書從基本架構設計、新式通用組件、模型壓縮方法三個方面著手,試圖普遍地、一般地提升卷積神經網路的精度和效率。書中介紹的方法與深度學習實踐聯繫緊密:現實生活中的視覺應用一般要求在一定的推理延遲、吞吐量、模型大小和功耗的約束下盡可能追求更高的精度,所以開發者既可以應用一種新的架構,可以用一些新式組件來提升現有架構,亦可以對一個精度更高也更大的模型應用壓縮技術使之滿足既定的效率約束條件。本書聚焦基礎,所提出的「結構重參數化」理論、新式模型結構和模型壓縮方法可以廣泛用於多種模型和多種任務。
    本書可為機器學習和電腦視覺領域的初學者和具備一定基礎的工程技術人員及研究人員提供參考。

作者介紹
丁霄漢|責編:孫亞楠

目錄
第1章  緒論
  1.1  研究背景與意義
  1.2  國內外研究現狀
    1.2.1  基本架構設計
    1.2.2  新式通用組件
    1.2.3  通道剪枝方法
    1.2.4  其他模型壓縮方法
  1.3  研究內容和主要貢獻
    1.3.1  基本架構設計
    1.3.2  新式通用組件
    1.3.3  通道剪枝方法
  1.4  符號系統
  1.5  本書的組織結構
第2章  基於結構重參數化的極簡架構
  2.1  本章引言
  2.2  相關工作
    2.2.1  單路架構的訓練方法
    2.2.2  重參數化
    2.2.3  Winograd卷積演算法
  2.3  結構重參數化
  2.4  RepVGG:基於結構重參數化的極簡架構
    2.4.1  效率分析
    2.4.2  架構詳細定義
  2.5  實驗分析
    2.5.1  ImageNet分類實驗
    2.5.2  消融和對比實驗
    2.5.3  語義分割實驗
  2.6  本章小結
第3章  非對稱卷積模塊
  3.1  本章引言
  3.2  相關工作
    3.2.1  非對稱卷積
    3.2.2  多架構通用的基本組件
  3.3  對卷積核內部空間位置的定量分析
  3.4  非對稱卷積模塊
    3.4.1  卷積的廣義可加性
    3.4.2  非對稱卷積模塊的結構和轉換
  3.5  實驗分析
    3.5.1  CIFAR實驗
    3.5.2  ImageNet實驗
    3.5.3  消融實驗
    3.5.4  ACB卷積核的定量分析
  3.6  本章小結
第4章  重參數化大卷積核模塊
  4.1  本章引言
  4.2  相關工作
    4.2.1  單層大感受野模型
    4.2.2  模型放大技術
  4.3  應用大卷積核的五條準則
  4.4  RepLKB:一種大卷積核組件

  4.5  實驗分析
    4.5.1  RepLKNet上增大卷積核尺寸的實驗
    4.5.2  ImageNet圖像分類
    4.5.3  語義分割
    4.5.4  目標檢測
  4.6  討論
    4.6.1  有效感受野
    4.6.2  形狀偏好
  4.7  本章小結
第5章  用於通道剪枝的向心隨機梯度下降演算法
  5.1  本章引言
  5.2  相關工作
  5.3  向心隨機梯度下降
    5.3.1  通道剪枝的符號表示
    5.3.2  C-SGD更新規則
    5.3.3  C-SGD的直觀解釋
    5.3.4  C-SGD的高效實現
    5.3.5  C-SGD訓練后的剪枝重構
    5.3.6  用C-SGD解決受約束剪枝問題
  5.4  寬度濃縮:一種基於C-SGD的訓練方法論
  5.5  實驗分析
    5.5.1  CIFAR-10剪枝實驗
    5.5.2  ImageNet剪枝實驗
    5.5.3  語義分割和目標檢測
    5.5.4  聚類方法研究
    5.5.5  趨同與歸零冗余模式的對比
    5.5.6  C-SGD與其他剪枝方法的嚴格對比
    5.5.7  冗余訓練與常規訓練的對比
    5.5.8  「全局瘦身」和「局部裁剪」的對比
    5.5.9  寬度濃縮
  5.6  關於C-SGD效率的討論
  5.7  本章小結
第6章  基於結構變換的高精度通道剪枝方法
  6.1  本章引言
  6.2  相關工作
  6.3  ResRep
    6.3.1  Rep:卷積重參數化
    6.3.2  Res:梯度重置
    6.3.3  Res和Rep的有機結合
  6.4  實驗分析
    6.4.1  ImageNet和CIFAR-10剪枝實驗
    6.4.2  基線和變體對比實驗
    6.4.3  Res和Rep的消融實驗
  6.5  本章小結
第7章  總結與展望
  7.1  工作總結
  7.2  未來工作展望
參考文獻
在學期間完成的相關學術成果
致謝

  • 商品搜索:
  • | 高級搜索
首頁新手上路客服中心關於我們聯絡我們Top↑
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話:02-2381-2033 02-2381-1863 時間:週一-週五 10:00-17:00
 服務信箱:bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證:浙B2-20060032