生成式AI安全(GenAI驅動的智能安全體系)/網路空間安全技術叢書
內容大鋼
這是一本全面解析生成式AI安全的前瞻性著作，系統講解了生成式AI的技術原理、安全風險與防護體系。從技術基礎到發展趨勢，從安全原理到治理框架，從應用實踐到內生安全，本書將為讀者構建前瞻、系統的生成式AI安全知識體系。
具體內容上，全書分為4個部分：
第一部分（第1?3章）介紹了GenAI的基本概念、核心技術及其在不同領域的應用現狀與前景。在這一部分中，讀者將了解GenAI與其他AI技術的區別，特別是LLM、GAN等技術如何推動GenAI的創新發展。同時，本部分還探討了GenAI在醫療保健、金融服務、教育等領域的成功應用，展示了它如何通過智能生成提高效率、增強個性化服務，並解決一些傳統技術無法應對的問題。
第二部分（第4和5章）重點探討了GenAI在網路安全領域的應用及安全隱患。GenAI已經在惡意代碼生成、深度偽造等方面展現出強大的技術能力，但這些技術一旦被惡意使用，其影響將是災難性的。還詳細分析了GenAI在網路安全生命周期中的影響，並給出了相應的實踐案例。
第三部分（第6和7章）探討了GenAI的內生安全風險。伴隨著技術的發展，生成模型的複雜性和自主性不斷提高，傳統的安全防護措施已難以應對新興的智能攻擊與威脅。從NISTAIRMF出發，探討了如何從風險管理、合規性、價值觀對齊等角度來確保GenAI的安全。
第四部分（第8和9章）展望了AGI（通用人工智慧）在未來可能帶來的風險和挑戰。隨著AI智能水平的逐漸提升，AI失控的風險逐漸成為現實威脅，特別是當智能系統的決策能力超出人類控制時。深入探討了在通往AGI的道路上，如何通過技術創新、政策引導和倫理框架的建立，確保AI的安全發展。
作者介紹
張棟|責編:楊福川//陳潔
張棟
資深安全專家，從業近10年，曾就職于中興通訊公司，現就職於國內頭部終端智能公司，擔任AI安全研究員，負責AIGC安全相關的研究和實踐，積累了豐富的經驗。
持有CISSP(Certified Information Systems Security Professional，註冊信息系統安全專業人員)認證，獲得國家級網路安全中級職稱。多篇LLM安全與對抗主題論文的作者，兼具傳統數據安全與生成式AI風險研究背景，擅長跨學科方法論。
目錄
第一部分 GenAI：從基礎到前沿
第1章 GenAI概述
1.1 GenAI的產生
1.1.1 AI的發展歷程
1.1.2 什麼是GenAI
1.1.3 與GenAI相關的核心概念
1.2 GenAI與其他AI類型的比較
1.2.1 GenAI與基於規則的AI
1.2.2 GenAI與專家系統
1.2.3 GenAI與演化演算法
1.3 GenAI帶來變革的本質原因
1.4 GenAI在不同領域的應用
1.4.1 醫療保健
1.4.2 金融服務
1.4.3 教育
1.4.4 網路安全
1.4.5 娛樂與媒體
1.5 GenAI的挑戰與未來發展
1.5.1 AI的擴張與失控風險
1.5.2 兩種思潮：有效加速主義與有效利他主義
1.5.3 應對風險的策略：從倫理到技術
1.5.4 GenAI的未來發展
第2章 GenAI的關聯學科及應用
2.1 GenAI與自然語言處理
2.2 GenAI與數據科學
2.3 GenAI與人腦認知科學
2.4 GenAI與決策科學
2.5 GenAI與複雜性科學
第3章 GenAI的核心技術
3.1 GenAI的核心演算法和架構
3.1.1 生成模型的演算法
3.1.2 生成對抗網路
3.1.3 變分自編碼器
3.1.4 循環神經網路
3.1.5 遞歸生成網路
3.1.6 Transformer
3.1.7 強化學習
3.2 生成模型解析：從數據到部署的系統化框架
3.3 GenAI模型評價指標
3.4 GenAI技術的下一步發展：多模態與AI Agent
3.4.1 多模態
3.4.2 AI Agent
第二部分 未來防禦：GenAI與網路安全
第4章 GenAI在網路安全中的發展
4.1 網路安全概述
4.2 GenAI在網路安全中的應用與挑戰
4.2.1 虛假新聞生成
4.2.2 深度偽造技術濫用
4.2.3 自動化網路攻擊
4.2.4 人工智慧對抗攻擊
4.3 GenAI對網路安全的影響
第5章 GenAI在網路安全生命周期中的影響與實踐
5.1 安全和風險管理
5.1.1 背景
5.1.2 挑戰
5.1.3 應用
5.1.4 案例
5.2 資產安全
5.2.1 背景
5.2.2 挑戰
5.2.3 應用
5.2.4 案例
5.3 安全架構和工程
5.3.1 背景
5.3.2 挑戰
5.3.3 應用
5.3.4 案例
5.4 身份識別和訪問管理
5.4.1 背景
5.4.2 挑戰
5.4.3 應用
5.4.4 案例
5.5 安全評估和測試
5.5.1 背景
5.5.2 挑戰
5.5.3 應用
5.5.4 案例
5.6 安全運營
5.6.1 背景
5.6.2 挑戰
5.6.3 應用
5.6.4 案例
5.7 軟體開發安全
5.7.1 背景
5.7.2 挑戰
5.7.3 應用
5.7.4 案例
第三部分 面對未知：GenAI的內生安全風險
第6章 GenAI的內生安全風險概述
6.1 GenAI面臨的內生安全風險
6.2 價值觀對齊與AI倫理
第7章 GenAI的內生安全：基於NIST AI RMF的風險評估與實踐
7.1 NIST AI RMF概述
7.2 GenAI系統風險評估過程中的挑戰
7.3 風險控制關鍵措施
7.3.1 風險映射：明確風險來源與影響邊界
7.3.2 風險度量：量化評估與優先順序排序
7.3.3 風險管理：組織層面的資源分配與持續治理
7.3.4 場景化應用方案：貼合實際與法規要求
7.3.5 測試-評估-驗證-確認：技術流程中的性能檢測與法律遵從
7.3.6 人機交互的複雜性與風險應對
7.4 NIST AI RMF與大模型價值觀對齊的實踐
7.4.1 NIST AI RMF對於價值觀對齊的總體思路
7.4.2 GenAI價值觀對齊中的核心技術
7.4.3 安全有監督微調與人類反饋強化學習的局限性
7.4.4 價值觀對齊技術的發展趨勢
第四部分 在邊緣跳舞：AGI的雙面未來
第8章 從幻想到現實：AGI與智能自主系統
8.1 什麼是AGI
8.2 什麼是意識
8.3 管理主動型AI系統風險的實踐
8.4 智能自主系統帶來的挑戰
[