幫助中心 | 我的帳號 | 關於我們
進階搜尋
car

同類熱銷排行榜

最近瀏覽的商品

大語言模型安全(構建安全的AI應用)

  • 作者：(美)史蒂夫·威爾遜|責編:王春華|譯者:郭笑鵬//侯振偉//鍾季龍//徐麗霞
  • 出版社：機械工業
  • ISBN：9787111788836
  • 出版日期：2025/09/01
  • 裝幀：平裝
  • 頁數：189
人民幣：RMB 79 元      售價：元
放入購物車
加入收藏夾
內容大鋼
    本書圍繞大語言模型應用程序的安全問題展開，共12章，分三個部分層層遞進。第一部分（第1-3章）以真實案例引入大語言模型應用程序面臨的安全挑戰，介紹作者創立的應對項目及經驗，同時探討大語言模型應用架構與數據流控制的重要性，搭建知識框架。第二部分（第4-9章）剖析開發大語言模型應用程序的主要風險，既包含注入攻擊、敏感信息泄露等傳統安全風險，也涵蓋訓練數據投毒、幻覺等新興AI系統特有的問題，每章通過實際案例分析，揭示風險及影響，並給出預防和減輕風險的建議。第三部分（第10-12章）通過科幻故事案例警示安全漏洞疊加的危害，闡述將安全實踐融入軟體開發全流程的方法，並展望大語言模型與AI技術的發展趨勢，引入負責任的人工智慧軟體工程（RAISE）框架，助力讀者維護軟體安全。
作者介紹
(美)史蒂夫·威爾遜|責編:王春華|譯者:郭笑鵬//侯振偉//鍾季龍//徐麗霞
    史蒂夫·威爾遜（Steve Wilson）是人工智慧、網路安全和雲計算領域的領導者和創新者，擁有超過20年的行業經驗。他主導了「OWASP大語言模型應用十大安全風險」項目，這是一份關於生成式人工智慧安全研究的權威指南，為開發者、設計師、架構師及相關機構提供了在部署和管理大語言模型技術時需要關注的關鍵安全漏洞和風險指導。     史蒂夫現任全球網路安全公司Exabeam的首席產品官，該公司利用人工智慧和機器學習技術進行威脅檢測和調查。他曾在思傑（Citrix）和甲骨文（Oracle）公司任職，並曾是Sun Microsystems公司Java開發團隊的早期成員。他擁有聖地亞哥大學工商管理學位，也是美國跆拳道協會認證的二段黑帶。
目錄
前言
第1章  聊天機器人之殤
  1.1  讓我們談談Tay
  1.2  Tay的光速墮落
  1.3  為什麼Tay會失控
  1.4  這是一個棘手的問題
第2章  OWASP大語言模型應用十大安全風險
  2.1  關於OWASP
  2.2  大語言模型應用十大風險項目
    2.2.1  項目執行
    2.2.2  反響
    2.2.3  成功的關鍵
  2.3  本書與十大風險榜單
第3章  架構與信任邊界
  3.1  人工智慧、神經網路和大語言模型：三者有何區別
  3.2  Transformer革命：起源、影響及其與LLM的關係
    3.2.1  Transformer的起源
    3.2.2  Transformer架構對AI的影響
  3.3  基於大語言模型的應用類型
  3.4  大語言模型應用架構
    3.4.1  信任邊界
    3.4.2  模型
    3.4.3  用戶交互
    3.4.4  訓練數據
    3.4.5  訪問實時外部數據源
    3.4.6  訪問內部服務
  3.5  結論
第4章  提示詞注入
  4.1  提示詞注入攻擊案例
    4.1.1  強勢誘導
    4.1.2  反向心理學
    4.1.3  誤導
    4.1.4  通用和自動化對抗性提示
  4.2  提示詞注入的影響
  4.3  直接與間接提示詞注入
    4.3.1  直接提示詞注入
    4.3.2  間接提示詞注入
    4.3.3  關鍵差異
  4.4  緩解提示詞注入風險
    4.4.1  速率限制
    4.4.2  基於規則的輸入過濾
    4.4.3  使用專用大語言模型進行過濾
    4.4.4  添加提示結構
    4.4.5  對抗性訓練
    4.4.6  悲觀信任邊界定義
  4.5  結論
第5章  你的大語言模型是否知道得太多了
  5.1  現實世界中的案例
    5.1.1  Lee Luda案例
    5.1.2  GitHub Copilot和OpenAI的Codex

  5.2  知識獲取方法
  5.3  模型訓練
    5.3.1  基礎模型訓練
    5.3.2  基礎模型的安全考慮
    5.3.3  模型微調
    5.3.4  訓練風險
  5.4  檢索增強生成
    5.4.1  直接網路訪問
    5.4.2  訪問資料庫
  5.5  從用戶交互中學習
  5.6  結論
第6章  語言模型會做電子羊的夢嗎
  6.1  為什麼大語言模型會產生幻覺
  6.2  幻覺的類型
  6.3  實例分析
    6.3.1  虛構的法律先例
    6.3.2  航空公司聊天機器人訴訟案
    6.3.3  無意的人格詆毀
    6.3.4  開源包幻覺現象
  6.4  誰該負責
  6.5  緩解最佳實踐
    6.5.1  擴展領域特定知識
    6.5.2  思維鏈推理：提高準確性的新路徑
    6.5.3  反饋循環：用戶輸入在降低風險中的作用
    6.5.4  明確傳達預期用途和局限性
    6.5.5  用戶教育：以知識賦能用戶
  6.6  結論
第7章  不要相信任何人
  7.1  零信任解碼
  7.2  為什麼要如此偏執
  7.3  為大模型實施零信任架構
    7.3.1  警惕過度授權
    7.3.2  確保輸出處理的安全性
  7.4  構建輸出過濾器
    7.4.1  使用正則表達式查找個人信息
    7.4.2  評估毒性
    7.4.3  將過濾器鏈接到大模型
    7.4.4  安全轉義
  7.5  結論
第8章  保護好你的錢包
  8.1  拒絕服務攻擊
    8.1.1  基於流量的攻擊
    8.1.2  協議攻擊
    8.1.3  應用層攻擊
    8.1.4  史詩級拒絕服務攻擊：Dyn事件
  8.2  針對大模型的模型拒絕服務攻擊
    8.2.1  稀缺資源攻擊
    8.2.2  上下文窗口耗盡
    8.2.3  不可預測的用戶輸入
  8.3  拒絕錢包攻擊

  8.4  模型克隆
  8.5  緩解策略
    8.5.1  特定領域防護
    8.5.2  輸入驗證和清理
    8.5.3  嚴格的速率限制
    8.5.4  資源使用上限
    8.5.5  監控和告警
    8.5.6  財務閾值和告警
  8.6  結論
第9章  尋找最薄弱環節
  9.1  供應鏈基礎
    9.1.1  軟體供應鏈安全
    9.1.2  Equifax數據泄露事件
    9.1.3  SolarWinds黑客攻擊
    9.1.4  Log4Shell漏洞
  9.2  理解大語言模型供應鏈
    9.2.1  開源模型風險
    9.2.2  訓練數據污染
    9.2.3  意外不安全的訓練數據
    9.2.4  不安全的插件
  9.3  建立供應鏈追蹤工件
    9.3.1  軟體物料清單的重要性
    9.3.2  模型卡片
    9.3.3  模型卡片與軟體物料清單的比較
    9.3.4  CycloneDX：SBOM標準
    9.3.5  機器學習物料清單的興起
    9.3.6  構建機器學習物料清單示例
  9.4  大語言模型供應鏈安全的未來
    9.4.1  數字簽名和水印技術
    9.4.2  漏洞分類和資料庫
  9.5  結論
第10章  從未來的歷史中學習
  10.1  回顧OWASP大語言模型應用程序十大安全風險
  10.2  案例研究
    10.2.1  《獨立日》：一場備受矚目的安全災難
    10.2.2  《2001太空漫遊》中的安全缺陷
  10.3  結論
第11章  信任流程
  11.1  DevSecOps的演進歷程
    11.1.1  機器學習運維
    11.1.2  大模型運維
  11.2  將安全性構建到大模型運維中
  11.3  大模型開發過程中的安全性
    11.3.1  保護你的持續集成和持續部署
    11.3.2  大語言模型專用安全測試工具
    11.3.3  管理你的供應鏈
  11.4  運用防護機制保護應用程序
    11.4.1  防護機制在大模型安全策略中的作用
    11.4.2  開源與商業防護方案比較
    11.4.3  自定義防護機制與成熟防護機制的融合應用

  11.5  應用監控
    11.5.1  記錄每個提示和響應
    11.5.2  日誌和事件集中管理
    11.5.3  用戶與實體行為分析
  11.6  建立你的AI紅隊
    11.6.1  AI紅隊測試的優勢
    11.6.2  紅隊與滲透測試
    11.6.3  工具和方法
  11.7  持續改進
    11.7.1  建立和調整防護機制
    11.7.2  管理數據訪問和質量
    11.7.3  利用人類反饋強化學習實現對齊和安全
  11.8  結論
第12章  負責任的人工智慧安全實踐框架
  12.1  力量
    12.1.1  圖形處理器
    12.1.2  雲計算
    12.1.3  開源
    12.1.4  多模態
    12.1.5  自主智能體
  12.2  責任
    12.2.1  RAISE框架
    12.2.2  RAISE檢查清單
  12.3  結論

  • 商品搜索：
  • | 高級搜索
首頁│ 新手上路│ 客服中心│ 關於我們│ 聯絡我們│ Top↑│
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話：02-2381-2033 02-2381-1863　時間：週一-週五 10:00-17:00
　服務信箱：bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證：浙B2-20060032