聯邦學習

作者：(美)海科·路德維希//娜塔莉·巴拉卡爾多|責編:王軍|譯者:劉璐//張玉君
出版社：清華大學
ISBN：9787302679431

出版日期：2025/03/01
裝幀：平裝
頁數：474

人民幣：RMB 128 元售價：元

內容大鋼

    《聯邦學習》為研究人員和從業者深入探討了聯邦學習最重要的問題和方法。
    聯邦學習（Federated Learning，FL）是一種機器學習方法，其中訓練數據不是集中管理的。數據由參與聯邦學習過程的各方保留，不與任何其他實體共享。這使得聯邦學習成為一種日益流行的機器學習解決方案，適用於因隱私、監管或實際原因而難以將數據集中到一個存儲庫中的任務。
    本書闡述了聯邦學習的最新研究進展和最先進的發展成果，包括從最初構想到首次應用和商業化使用。為了全面、深入地了解這個領域，研究人員從不同的角度探討了聯邦學習：機器學習、隱私和安全、分散式系統以及具體應用領域。讀者將從這些角度了解聯邦學習所面臨的挑戰、它們之間的相互關係，以及解決這些挑戰的前沿方法。
    本書第1章介紹了聯邦學習的基礎知識，之後的24章深入探討了各種不同的主題。第Ⅰ部分涉及以聯邦方式解決各種機器學習任務的演算法問題，以及如何進行高效、規模化和公平的訓練。第Ⅱ部分主要介紹聯邦學習過程運行的系統的實際問題。第Ⅲ部分著重介紹如何選擇隱私和安全解決方案，以適應特定的應用場景。第Ⅳ部分講解了聯邦學習的其他重要應用案例，如拆分學習和縱向聯邦學習。最後，第Ⅴ部分介紹實際企業環境中聯邦學習的應用和案例。

作者介紹

(美)海科·路德維希//娜塔莉·巴拉卡爾多|責編:王軍|譯者:劉璐//張玉君

第Ⅰ部分  聯邦學習概述及其作為機器學習方法的問題
  第1章  聯邦學習介紹
    1.1  概述
    1.2  概念與術語
    1.3  機器學習視角
      1.3.1  深度神經網路
      1.3.2  經典機器學習模型
      1.3.3  橫向聯邦學習、縱向聯邦學習和拆分學習
      1.3.4  模型個性化
    1.4  安全和隱私
      1.4.1  操縱攻擊
      1.4.2  推斷攻擊
    1.5  聯邦學習系統
    1.6  本章小結
  第2章  採用基於樹的模型的聯邦學習系統
    2.1  介紹
      2.1.1  基於樹的模型
      2.1.2  聯邦學習中基於樹的模型的關鍵研究挑戰
      2.1.3  聯邦學習中基於樹的模型的優勢
    2.2  基於樹的聯邦學習方法綜述
      2.2.1  橫向與縱向聯邦學習
      2.2.2  聯邦學習中基於樹的演算法類型
      2.2.3  基於樹的聯邦學習的安全需求
      2.2.4  聯邦學習中基於樹的模型的實現
    2.3  決策樹和梯度提升的初步探討
      2.3.1  聯邦學習系統
      2.3.2  集中式ID3模型初探
      2.3.3  梯度提升初探
    2.4  用於聯邦學習的決策樹
    2.5  用於聯邦學習的XGBoost
    2.6  開放性問題及未來研究方向
      2.6.1  數據保真度閾值策略
      2.6.2  基於樹的聯邦學習模型的公平性和偏差緩解方法
      2.6.3  在其他網路拓撲上訓練基於樹的聯邦學習模型
    2.7  本章小結
  第3章  語義向量化：基於文本和圖的模型
    3.1  介紹
    3.2  背景
      3.2.1  自然語言處理
      3.2.2  文本向量化器
      3.2.3  圖向量化器
    3.3  問題表述
      3.3.1  共同學習
      3.3.2  向量空間映射
    3.4  實驗與設置
      3.4.1  數據集
      3.4.2  實現
    3.5  結果：共同學習
    3.6  結果：向量空間映射
      3.6.1  餘弦距離

      3.6.2  排名相似度
    3.7  本章小結
  第4章  聯邦學習中的個性化
    4.1  介紹
    4.2  個性化的第一步
      4.2.1  對全局模型進行個性化微調
      4.2.2  作為一階元學習方法的聯邦平均
    4.3  個性化策略
      4.3.1  客戶端（參與方）聚類
      4.3.2  客戶端語境化
      4.3.3  數據增強
      4.3.4  蒸餾
      4.3.5  元學習方法
      4.3.6  模型混合
      4.3.7  模型正則化
      4.3.8  多任務學習
    4.4  個性化技術的基準
      4.4.1  合成聯邦數據集
      4.4.2  模擬聯邦數據集
      4.4.3  公共聯邦數據集
    4.5  偶然參數問題
    4.6  本章小結
  第5章  使用Fed+進行個性化的魯棒聯邦學習
    5.1  介紹
    5.2  文獻綜述
    5.3  聯邦學習訓練失敗的示例
    5.4  個性化聯邦學習
      5.4.1  問題表述
      5.4.2  處理魯棒聚合
      5.4.3  個性化
      5.4.4  均值與魯棒聚合的重組與統一
      5.4.5  Fed+演算法
      5.4.6  Fed+的均值和魯棒變體
      5.4.7  從Fed+推導現有演算法
    5.5  Fed+的固定點
    5.6  收斂性分析
    5.7  實驗
      5.7.1  數據集
      5.7.2  結果
    5.8  本章小結
  第6章  通信高效的分散式優化演算法
    6.1  介紹
    6.2  本地更新SGD和FedAvg
      6.2.1  本地更新SGD及其變體
      6.2.2  FedAvg演算法及其變體
    6.3  模型壓縮
      6.3.1  帶有壓縮更新的SGD
      6.3.2  自適應壓縮率
      6.3.3  模型剪枝
    6.4  本章小結

  第7章  通信高效的模型融合
    7.1  介紹
    7.2  模型的置換不變結構
      7.2.1  匹配平均的一般表述
      7.2.2  求解匹配平均
    7.3  概率聯邦神經匹配
      7.3.1  PFNM生成過程
      7.3.2  PFNM推理
      7.3.3  實踐中的PFNM
    7.4  帶有SPAHM的無監督聯邦學習
      7.4.1  SPAHM模型
      7.4.2  SPAHM推理
      7.4.3  實踐中的SPAHM
    7.5  后驗分佈的模型融合
      7.5.1  KL散度下的模型融合
      7.5.2  實踐中的KL-fusion
    7.6  低通信預算的深度神經網路融合
      7.6.1  將PFNM擴展到深度神經網路
      7.6.2  實踐中的FedMA
    7.7  模型融合的理論理解
      7.7.1  預備知識：參數化模型
      7.7.2  聯邦設置中模型融合的優點和缺點
    7.8  本章小結
  第8章  聯邦學習與公平性
    8.1  介紹
    8.2  預備知識和現有的緩解方法
      8.2.1  符號和術語
      8.2.2  偏差緩解方法的類型
      8.2.3  數據隱私和偏差
    8.3  偏差來源
      8.3.1  集中式和聯邦式的原因
      8.3.2  聯邦學習的特定原因
    8.4  文獻探究
      8.4.1  集中式方法
      8.4.2  聯邦學習採用集中式方法
      8.4.3  沒有敏感屬性的偏差緩解
    8.5  衡量偏差
    8.6  未解決的問題
    8.7  本章小結
第Ⅱ部分  系統和框架
  第9章  聯邦學習系統介紹
    9.1  介紹
    9.2  跨設備聯邦學習與跨孤島聯邦學習
    9.3  跨設備聯邦學習
      9.3.1  問題表述
      9.3.2  系統概述
      9.3.3  訓練過程
      9.3.4  挑戰
    9.4  跨孤島聯邦學習
      9.4.1  問題表述

      9.4.2  系統概述
      9.4.3  訓練過程
      9.4.4  挑戰
    9.5  本章小結
  第10章  聯邦學習系統的本地訓練和可擴展性
    10.1  參與方本地訓練
      10.1.1  計算資源
      10.1.2  內存
      10.1.3  能量
      10.1.4  網路
    10.2  大規模聯邦學習系統
      10.2.1  聚類聯邦學習
      10.2.2  分層聯邦學習
      10.2.3  去中心化聯邦學習
      10.2.4  非同步聯邦學習
    10.3  本章小結
  第11章  掉隊者管理
    11.1  介紹
    11.2  異構性影響研究
      11.2.1  制定標準的聯邦學習
      11.2.2  異構性影響分析
      11.2.3  實驗研究
    11.3  TiFL的設計
      11.3.1  系統概述
      11.3.2  分析和分層
      11.3.3  稻草人提議：靜態層選擇演算法
      11.3.4  自適應層選擇演算法
      11.3.5  訓練時間估計模型
    11.4  實驗評估
      11.4.1  實驗設置
      11.4.2  資源異構性
      11.4.3  數據異構性
      11.4.4  資源加數據異構性
      11.4.5  自適應選擇策略
      11.4.6  TiFL的評估
    11.5  本章小結
  第12章  聯邦學習中的系統偏差
    12.1  介紹
    12.2  背景
      12.2.1  機器學習中的公平性
      12.2.2  聯邦學習中的公平性
      12.2.3  聯邦學習中的資源使用
    12.3  特性研究
      12.3.1  性能指標
      12.3.2  公平性與訓練時間的權衡
      12.3.3  參與方退出對公平性和模型誤差的影響
      12.3.4  成本與模型誤差的權衡
    12.4  方法論
      12.4.1  問題表述
      12.4.2  DCFair概述

      12.4.3  選擇概率
      12.4.4  選擇互惠性
    12.5  評估
      12.5.1  成本分析
      12.5.2  模型誤差與公平性分析
      12.5.3  訓練時間分析
      12.5.4  帕累托最優性分析
    12.6  本章小結
第Ⅲ部分  隱私和安全
  第13章  聯邦學習中應對隱私威脅的防禦措施
    13.1  介紹
    13.2  系統實體、攻擊面和推斷攻擊
      13.2.1  系統設置、假設和攻擊面
      13.2.2  潛在對手
      13.2.3  聯邦學習中的推斷攻擊
    13.3  減輕聯邦學習中的推斷威脅
      13.3.1  安全聚合方法
      13.3.2  句法和擾動方法
      13.3.3  可信執行環境
      13.3.4  其他分散式機器學習和縱向聯邦學習技術
    13.4  選擇合適的防禦措施
      13.4.1  完全可信的聯邦
      13.4.2  確保聚合器可信
      13.4.3  聚合器不可信的聯邦
    13.5  本章小結
  第14章  聯邦學習中的隱私參數聚合
    14.1  介紹
    14.2  重點、信任模型和假設
    14.3  差分隱私聯邦學習
      14.3.1  差分隱私的背景知識
      14.3.2  將差分隱私應用於SGD
      14.3.3  實驗和討論
    14.4  加法同態加密
      14.4.1  參與方、學習器和管理域
      14.4.2  架構
      14.4.3  MYSTIKO演算法
      14.4.4  一個管理域內有多個學習器
    14.5  可信執行環境
    14.6  基於HE和TEE的聚合與SMC的比較
      14.6.1  MYSTIKO和SPDZ的比較
      14.6.2  使用TEE的開銷：AMD SEV
    14.7  本章小結
  第15章  聯邦學習中的數據泄露
    15.1  介紹
      15.1.1  動機
      15.1.2  背景及相關研究
      15.1.3  隱私保護
    15.2  聯邦學習中的數據泄露攻擊
    15.3  性能評估
      15.3.1  實驗設置和數據集

      15.3.2  HFL設置中的CAFE
      15.3.3  VFL設置中的CAFE
      15.3.4  在聯邦學習訓練過程中攻擊
      15.3.5  消融實驗
    15.4  本章小結
      15.4.1  CAFE小結
      15.4.2  相關討論
  第16章  聯邦學習中的安全性和魯棒性
    16.1  介紹
    16.2  聯邦學習中的威脅
      16.2.1  攻擊者的類型
      16.2.2  攻擊者的能力
      16.2.3  攻擊者的目標
      16.2.4  攻擊者的了解程度
      16.2.5  攻擊策略
    16.3  防禦策略
      16.3.1  防禦收斂攻擊
      16.3.2  基於參與方的時間一致性的防禦
      16.3.3  基於冗余的防禦
    16.4  攻擊
      16.4.1  收斂攻擊
      16.4.2  針對性的模型投毒
    16.5  本章小結
  第17章  處理神經網路中的拜占庭威脅
    17.1  背景和動機
      17.1.1  拜占庭威脅
      17.1.2  緩解拜占庭威脅影響的挑戰
    17.2  基於梯度的魯棒性
      17.2.1  梯度平均
      17.2.2  威脅模型
      17.2.3  坐標中位數
      17.2.4  Krum
    17.3  對拜占庭威脅的分層魯棒性
    17.4  LEGATO：分層梯度聚合
      17.4.1  LEGATO
      17.4.2  LEGATO的複雜度分析
    17.5  比較基於梯度和分層的魯棒性
      17.5.1  處理非IID參與方數據分佈
      17.5.2  處理拜占庭失敗
      17.5.3  處理過參數化神經網路
      17.5.4  日誌大小的有效性
    17.6  本章小結
第Ⅳ部分  橫向聯邦學習之外：以不同方式劃分模型和數據
  第18章  保護隱私的縱向聯邦學習
    18.1  介紹
    18.2  理解縱向聯邦學習
      18.2.1  符號、術語和假設
      18.2.2  縱向聯邦學習的兩個階段
    18.3  在縱向聯邦學習中應用梯度下降的挑戰
      18.3.1  集中式機器學習中的梯度下降

      18.3.2  縱向聯邦學習中的梯度下降
    18.4  典型的縱向聯邦學習解決方案
      18.4.1  對比通信拓撲和效率
      18.4.2  對比隱私保護機制及其威脅模型
      18.4.3  對比支持的機器學習模型
    18.5  FedV：一種高效的縱向聯邦學習框架
      18.5.1  FedV概述
      18.5.2  FedV威脅模型和假設
      18.5.3  縱向訓練過程：FedV-SecGrad
      18.5.4  分析與討論
    18.6  本章小結
  第19章  拆分學習
    19.1  介紹
    19.2  通信效率
    19.3  延遲
    19.4  拆分學習拓撲結構
      19.4.1  多樣的配置
      19.4.2  用ExpertMatcher進行模型選擇
      19.4.3  實現詳情
    19.5  利用拆分學習進行協作推斷
      19.5.1  在協作推斷中防止重建攻擊
      19.5.2  激活值共享的差分隱私
    19.6  本章小結
第Ⅴ部分  應用
  第20章  聯邦學習在協同金融犯罪偵查中的應用
    20.1  金融犯罪偵查簡介
      20.1.1  利用機器學習和圖學習打擊金融犯罪
      20.1.2  全球金融犯罪檢測的需求與貢獻
    20.2  圖學習
    20.3  用於金融犯罪檢測的聯邦學習
      20.3.1  本地特徵計算
      20.3.2  全局特徵計算
      20.3.3  聯邦學習
    20.4  評估
      20.4.1  數據集和圖建模
      20.4.2  參與方關係圖的圖特徵
      20.4.3  模型準確性
    20.5  本章小結
  第21章  投資組合管理的聯邦強化學習
    21.1  介紹
    21.2  深度強化學習公式
    21.3  金融投資組合管理
    21.4  數據增強方法
      21.4.1  幾何布朗運動
      21.4.2  可變階馬爾可夫模型
      21.4.3  生成對抗網路
    21.5  實驗結果
      21.5.1  實驗設置
      21.5.2  數值結果
    21.6  本章小結

  第22章  聯邦學習在醫學影像中的應用
    22.1  介紹
    22.2  圖像分割
    22.3  3D圖像分類
    22.4  2D圖像分類
    22.5  討論
    22.6  本章小結
  第23章  通過聯邦學習推進醫療保健解決方案
    23.1  介紹
    23.2  聯邦學習如何應用於醫療保健
    23.3  使用IBM FL構建醫療保健聯邦學習平台
    23.4  醫療保健領域應用聯邦學習構建平台和解決方案的指導原則
      23.4.1  基礎設施設計
      23.4.2  數據連接器設計
      23.4.3  用戶體驗設計
      23.4.4  部署注意事項
    23.5  醫療保健領域聯邦學習的核心技術考慮事項
      23.5.1  數據異構性
      23.5.2  模型治理和激勵
      23.5.3  信任和隱私考慮
    23.6  本章小結
  第24章  保護隱私的產品推薦系統
    24.1  介紹
    24.2  相關研究
    24.3  聯邦推薦系統
      24.3.1  演算法
      24.3.2  實現
    24.4  結果
    24.5  本章小結
  第25章  聯邦學習在電信和邊緣計算中的應用
    25.1  概述
    25.2  用例
      25.2.1  車輛網路
      25.2.2  跨境支付
      25.2.3  邊緣計算
      25.2.4  網路攻擊
      25.2.5  6G
      25.2.6  「緊急服務」用例演示聯邦學習的能力
    25.3  挑戰與未來方向
      25.3.1  安全和隱私挑戰及注意事項
      25.3.2  環境方面的考慮
      25.3.3  數據方面的考慮
      25.3.4  監管方面的考慮
    25.4  本章小結

同類熱銷排行榜

最近瀏覽的商品

聯邦學習