幫助中心 | 我的帳號 | 關於我們
進階搜尋
car

同類熱銷排行榜

最近瀏覽的商品

分散式機器學習(系統工程與實戰)

  • 作者：柳浩|責編:黃愛萍
  • 出版社：電子工業
  • ISBN：9787121458149
  • 出版日期：2023/07/01
  • 裝幀：平裝
  • 頁數：575
人民幣：RMB 139 元      售價：元
放入購物車
加入收藏夾
內容大鋼
    本書主要講解分散式機器學習演算法和開源框架，讀者既可以從宏觀的設計上了解分散式機器學習的概念和理論，也可以深入核心技術的細節設計中，對分散式機器學習形成深刻而直觀的認識，做到學以致用。
    本書共分為5篇，第1篇是分散式基礎，首先介紹了分散式機器學習的概念、基礎設施，以及機器學習並行化技術、框架和軟體系統，然後對集合通信和參數伺服器PS-Lite進行了介紹。第2篇是數據並行，以PyTorch和Horovod為主對數據並行進行分析，讀者可以了解在具體工程領域內實現數據並行有哪些挑戰和解決方案。第3篇是流水線並行，講解了除模型劃分之外，還通過引入額外的流水線來提高效率，以GPipe/PyTorch/PipeDream為例進行分析。第4篇是模型並行，首先對NVIDIAMegatron進行分析，講解如何進行層內模型並行，然後講解PyTorch如何支持模型並行，最後介紹分散式優化器。第5篇是TensorFlow分散式，前面幾篇以PyTorch為綱，結合其他框架/庫來穿插完成，
    本篇帶領大家進入TensorFlow分散式領域。
作者介紹
柳浩|責編:黃愛萍
    柳浩，網名「羅西的思考」，浙江大學碩士。曾就職于多家世界500強企業，主導過多個大型項目，現就職于某新能源車企。技術棧廣博，有豐富的各種大型軟體開發和系統架構經驗，對機器學習框架、微服務框架、大數據引擎、NoSQL、消息隊列、分散式追蹤系統、可觀測系統、可靠性設計、移動開發方案和源碼有著深刻的理解和認識。
目錄
第1篇  分散式基礎
  第1章  分散式機器學習
    1.1  機器學習概念
    1.2  機器學習的特點
    1.3  分散式訓練的必要性
    1.4  分散式機器學習研究領域
      1.4.1  分散式機器學習的目標
      1.4.2  分散式機器學習的分類
    1.5  從模型角度看如何並行
      1.5.1  並行方式
      1.5.2  數據並行
      1.5.3  模型並行
      1.5.4  流水線並行
      1.5.5  比對
    1.6  從訓練併發角度看如何並行
      1.6.1  參數分佈和通信拓撲
      1.6.2  模型一致性和通信模式
      1.6.3  訓練分佈
    1.7  分散式機器學習編程介面
      1.7.1  手動同步更新
      1.7.2  指定任務和位置
      1.7.3  猴子補丁優化器
      1.7.4  Python作用域
    1.8  PyTorch分散式
      1.8.1  歷史脈絡
      1.8.2  基本概念
    1.9  總結
  第2章  集合通信
    2.1  通信模式
    2.2  點對點通信
    2.3  集合通信
      2.3.1  Broadcast
      2.3.2  Scatter
      2.3.3  Gather
      2.3.4  All-Gather
      2.3.5  All-to-All
      2.3.6  Reduce
      2.3.7  All-Reduce
      2.3.8  Reduce-Scatter
    2.4  MPI_AllReduce
    2.5  Ring All-Reduce
      2.5.1  特點
      2.5.2  策略
      2.5.3  結構
      2.5.4  Reduce-Scatter
      2.5.5  All-Gather
      2.5.6  通信性能
      2.5.7  區別
  第3章  參數伺服器之PS-Lite
    3.1  參數伺服器

      3.1.1  概念
      3.1.2  歷史淵源
      3.1.3  問題
    3.2  基礎模塊Postoffice
      3.2.1  基本邏輯
      3.2.2  系統啟動
      3.2.3  功能實現
    3.3  通信模塊Van
      3.3.1  功能概述
  ……
第2篇  數據並行
第3篇  流水線並行
第4篇  模型並行
第5篇  TensorFlow分散式

  • 商品搜索：
  • | 高級搜索
首頁│ 新手上路│ 客服中心│ 關於我們│ 聯絡我們│ Top↑│
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話：02-2381-2033 02-2381-1863　時間：週一-週五 10:00-17:00
　服務信箱：bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證：浙B2-20060032