幫助中心 | 我的帳號 | 關於我們
進階搜尋
car

同類熱銷排行榜

最近瀏覽的商品

通義千問(大模型架構與智能體開發實戰基於QwQ-32B開源模型)

  • 作者：編者:芯智智能//溫凱楠|責編:高洪霞
  • 出版社：電子工業
  • ISBN：9787121508073
  • 出版日期：2025/09/01
  • 裝幀：平裝
  • 頁數：395
人民幣：RMB 128 元      售價：元
放入購物車
加入收藏夾
內容大鋼
    本書系統深入地剖析了通義千問QwQ-32B開源大模型的技術原理與工程應用，聚焦智能體強化學習下的模型架構創新與企業級項目交付實戰。
    本書分為12章，內容包括通義千問QwQ-32B模型架構精解、數據管線與數據對齊、智能體架構與性能調優、模型推理加速與高效部署、模型的多模態能力、模型微調與領域自適應技術、複雜任務的語義推理與規劃、系統對話能力增強與上下文處理、模型可控性與響應約束技術；隨後以企業級自動化知識助手、大規模企業RAG檢索生成實戰等為工程案例，呈現出QwQ-32B在複雜商業場景中的構建路徑與部署規範。同時，圍繞企業級定製、多模型版本管理等內容，提供從模型到系統、從研發到交付的完整解決方案。
    本書適合具備一定大模型基礎的研發人員、AI系統架構師、數據工程師、技術管理者閱讀。對企業級AI系統構建、跨模態交互系統、RAG增強知識系統、多智能體協同平台等項目有明確訴求的技術團隊，也可以將本書作為系統設計的參考藍圖與技術支撐。
作者介紹
編者:芯智智能//溫凱楠|責編:高洪霞
目錄
第1章  通義千問QwQ-32B模型架構精解
  1.1  QwQ-32B模型簡介及Transformer架構原理基礎
    1.1.1  通義千問QwQ-32B模型簡介
    1.1.2  為什麼要有QwQ-32B
    1.1.3  何為Transformer
    1.1.4  基於RoPE的旋轉位置編碼優化
    1.1.5  SwiGLU激活函數的高維表示
    1.1.6  Decoder-only架構的Token並行路徑
    1.1.7  層歸一化的前置設計實現
    1.1.8  DropPath與殘差融合策略
  1.2  多專家路由機制在大模型中的微粒化配置
    1.2.1  Experts參數隔離與Token稀疏激活
    1.2.2  Top-2 Gating機制的動態路徑選擇
    1.2.3  路由器梯度問題與正則優化
    1.2.4  ECF動態調節
  1.3  高效注意力機制的重構
    1.3.1  FlashAttention-2的流水線優化
    1.3.2  KV Cache壓縮與解碼時動態管理
    1.3.3  查詢位置關聯哈希索引加速
    1.3.4  稀疏注意力vs線性注意力
  1.4  模型壓縮與結構稀疏性優化
    1.4.1  LoRA在QwQ-32B中的精調集成
    1.4.2  QLoRA的量化與適配策略
    1.4.3  分層剪枝與權重重要性評估
    1.4.4  模型蒸餾下的學生/教師協同框架
  1.5  參數初始化與訓練穩定性控制
    1.5.1  Fan-in vs Fan-out初始化策略對比
    1.5.2  DeepNorm正則化機制在深層網路中的穩定性
    1.5.3  Pre-LN與Post-LN在梯度傳播中的角色
    1.5.4  Embedding漂移與Clip策略
    1.5.5  AGC的閾值搜索
  1.6  本章小結
第2章  數據管線與數據對齊
  2.1  多模態數據混合構建
    2.1.1  文本數據去重與語料覆蓋率分析
    2.1.2  中英對齊與語義映射規則
    2.1.3  多輪對話上下文歸一化
    2.1.4  專業領域語料強化覆蓋
  2.2  高質量指令微調樣本構造
    2.2.1  Alpaca格式與多樣化指令改寫
    2.2.2  複雜推理鏈構建
    2.2.3  增強型Few-Shot樣本自動生成器
    2.2.4  偽標籤生成與驗證機制
    2.2.5  對抗樣本注入
  2.3  強化學習對齊：RLAIF與RLEIF融合機制
    2.3.1  人類偏好數據採樣分佈
    2.3.2  獎勵模型訓練的對比損失構造
    2.3.3  蒸餾引導的強化微調管線
    2.3.4  自監督獎勵信號抽取
  2.4  本章小結

第3章  智能體架構與性能調優
  3.1  智能體系統架構剖析
    3.1.1  多模塊協同調度引擎
    3.1.2  Agent核心介面封裝與協議設計
    3.1.3  工具調用的上下文注入機制
    3.1.4  狀態感知與事件驅動模型
  3.2  工具調用與函數推理
    3.2.1  OpenFunction格式的介面定義
    3.2.2  函數調用路徑追蹤與推理反射機制
    3.2.3  多函數調用調度隊列設計
    3.2.4  函數選擇條件與Prompt動態拼接
    3.2.5  工具調用錯誤恢復與重試策略
  3.3  多智能體協同對話系統
    3.3.1  基於角色的智能體定義與策略注入
    3.3.2  LLM中嵌套Agent交互協議
    3.3.3  任務分解
    3.3.4  中央調度Agent與子Agent路由
  3.4  本章小結
第4章  模型推理加速與高效部署
  4.1  模型量化精度與性能平衡
    4.1.1  SmoothQuant與PTQ策略比較
    4.1.2  INT4/INT8量化矩陣逼近誤差評估
    4.1.3  基於LLM.int8的低秩補償機制
  4.2  編譯優化與圖融合技術
    4.2.1  ONNX圖優化Pass鏈設計
    4.2.2  TensorRT融合策略與層緩存分配
    4.2.3  FlashAttention圖內核替換技巧
  4.3  分散式推理系統設計
    4.3.1  Zero-Inference策略與激活稀疏管理
    4.3.2  Pipeline Parallel與Token Interleaving
    4.3.3  DeepSpeed Inference引擎集成
  4.4  本章小結
第5章  模型的多模態能力
  5.1  圖文融合建模機制
    5.1.1  CLIP預訓練編碼器嵌入集成
    5.1.2  圖文Token混合輸入結構設計
    5.1.3  圖像Patch映射到語義空間優化
    5.1.4  VisionEncoder解耦與Prompt Bridge注入
  5.2  語音輸入與處理擴展
    5.2.1  Whisper語音識別模型集成路徑
    5.2.2  語音指令向文本對齊機制
    5.2.3  文本-to-語音模型適配
  5.3  視頻/多幀信息建模技術
    5.3.1  Video-LLaMA框架結構適配
    5.3.2  多幀關鍵幀提取與時間編碼
  5.4  本章小結
第6章  模型微調與領域自適應技術
  6.1  參數高效微調技術全景
    6.1.1  LoRA結構插入位置策略
    6.1.2  QLoRA量化+低秩協同機制

  6.2  基於QLoRA的資源敏感型訓練
    6.2.1  4-bit量化配置與ACT-ordering優化
    6.2.2  NF4量化與相對縮放因子的融合
  6.3  多任務指令微調機制
    6.3.1  Instruction Template通用抽象
    6.3.2  多任務樣本採樣概率建模
  6.4  本章小結
第7章  複雜任務的語義推理與規劃
  7.1  多步推理路徑建模
    7.1.1  CoT Prompt自動插入引擎
    7.1.2  推理路徑中的中間驗證
    7.1.3  多階段Token選擇
    7.1.4  漏推/誤推樣本分析與回滾機制
  7.2  數學與符號推理能力增強
    7.2.1  MathInstruct微調語料構建
    7.2.2  算式格式標準化解析模塊
    7.2.3  SymPy交互介面集成
  7.3  工具輔助規劃任務
    7.3.1  Toolformer任務自動合成框架
    7.3.2  函數調用時機預測模型
  7.4  本章小結
第8章  系統對話能力增強與上下文處理
  8.1  多輪上下文記憶機制
    8.1.1  Sliding Window策略
    8.1.2  Memory Retrieval+Generation一體化
  8.2  長上下文支持機制
    8.2.1  ALiBi vs RoPE長程位置編碼策略
    8.2.2  Sliding Attention窗口動態縮放機制
  8.3  本章小結
第9章  模型可控性與響應約束技術
  9.1  響應長度與格式控制機制
    9.1.1  結構化格式約束Template自動注入
    9.1.2  響應Token數量動態預測器
    9.1.3  Decoding階段格式追蹤解碼器
  9.2  指令遵循度優化
    9.2.1  Instruction Following Score學習目標
    9.2.2  Prompt模板結構剖析與重寫引擎
    9.2.3  Multi-turn Instruction Tracking模塊
  9.3  可控情緒與語氣表達
    9.3.1  語氣Prompt標籤與模型響應一致性訓練
    9.3.2  風格Embedding注入機制
  9.4  本章小結
第10章  商業級多智能體系統：企業級自動化知識助手
  10.1  項目背景與系統需求分析
    10.1.1  多角色多Agent併發架構目標
    10.1.2  企業知識密集型任務特性解析
    10.1.3  用戶意圖多樣性與任務轉移場景
    10.1.4  跨部門介面接入與許可權控制約束
    10.1.5  部署規模、響應延遲與SLA指標
  10.2  多智能體分工協同設計

    10.2.1  CEO、法務、銷售、技術等角色Agent建模
    10.2.2  思維鏈傳遞與中介Agent設計模式
    10.2.3  工具調用調度中心與任務流引擎
    10.2.4  子任務分解器與上下文派發機制
    10.2.5  Response Stitching模塊與多Agent響應合成
  10.3  工具集成與函數調用自動化
    10.3.1  企業內網API函數文檔解析自動生成調用描述
    10.3.2  JSON Schema函數註冊與工具動態注入機制
    10.3.3  多數據源交叉查詢：SQL+Elasticsearch+GraphQL融合
    10.3.4  工具調用鏈追蹤與結果緩存優化
    10.3.5  函數調用錯誤恢復與信任打分機制
  10.4  上下文記憶與任務鏈持久化
    10.4.1  KV存儲與向量檢索混合型短期記憶系統
    10.4.2  Long-Term Task Memory格式化設計（任務+狀態+用戶偏好）
  10.5  本章小結
第11章  千億級知識系統：QwQ-32B驅動的大規模企業RAG檢索生成實戰
  11.1  場景建模：法律+財務+人力資源文檔千億級知識系統
    11.1.1  法律法規+合同條款+財稅規章語料特點
    11.1.2  非結構化、時效性強、多版本內容
    11.1.3  多語言、法律術語、編號引用關係建模
  11.2  文檔預處理與Embedding策略
    11.2.1  分層段落切割：標題、條款、說明塊粒度控制
    11.2.2  編號結構映射與多粒度索引綁定
    11.2.3  多語種知識混合Embedding訓練方案（BGE+LaBSE+Qwen）
  11.3  檢索/生成（RAG）管線工程
    11.3.1  基於Faiss/Weaviate/Elasticsearch的異構Retriever融合
    11.3.2  Hybrid Retrieval方案：關鍵詞召回+向量篩選
    11.3.3  Retrieval-Augmented Prompt動態生成器設計
    11.3.4  千億級知識系統：RAG檢索生成實戰
  11.4  本章小結
第12章  開源協作與企業級定製交付實戰
  12.1  項目初始化與版本控制規範
    12.1.1  多模型版本組織：Base/INT4/LoRA等多變體管理
    12.1.2  Huggingface Hub+Git LFS大模型文件協同策略
  12.2  企業定製需求工程流程與交付機制
    12.2.1  場景調研與Prompt標準建立工作坊機制
    12.2.2  Triton+vLLM+FastAPI統一服務框架與交付機制
    12.2.3  定製交付實戰
  12.3  本章小結

  • 商品搜索：
  • | 高級搜索
首頁│ 新手上路│ 客服中心│ 關於我們│ 聯絡我們│ Top↑│
Copyrightc 1999~2008 美商天龍國際圖書股份有限公司 臺灣分公司. All rights reserved.
營業地址:臺北市中正區重慶南路一段103號1F 105號1F-2F
讀者服務部電話：02-2381-2033 02-2381-1863　時間：週一-週五 10:00-17:00
　服務信箱：bookuu@69book.com 客戶、意見信箱:cs@69book.com
ICP證：浙B2-20060032