內容大鋼
數值線性代數旨在高性能計算平台上高效且準確地實現各種矩陣運算,是科學與工程計算的核心支柱,同時也為數據科學和人工智慧等前沿研究領域提供了關鍵的底層演算法。本教材涵蓋數值線性代數的理論、演算法及典型應用,從浮點數表示與誤差分析入手,系統介紹線性方程組、最小二乘問題、特徵值分解和奇異值分解等經典數值線性代數問題的理論、演算法及分析;在此基礎上,通過擴散系統、Markov鏈、圖繪製、主成分分析、非負矩陣分解和譜聚類等典型案例,展示矩陣計算在各個領域的應用潛力;最後,簡要介紹壓縮感知、線性降維、隨機數值線性代數和深度神經網路等密切相關的前沿主題。
本書可作為高等學校計算數學、數據科學、電腦科學和人工智慧專業的教材,也可供相關科技工作者參考使用。
目錄
第一章 基礎知識
1.1 向量、矩陣及其范數
1.1.1 向量和向量范數
1.1.2 矩陣和矩陣范數
1.2 矩陣的存儲及BLAS
1.2.1 三角方程組的求解
1.2.2 矩陣的存儲
☆1.2.3 BLAS函數庫
1.3 四大矩陣分解
1.3.1 LU分解
1.3.2 QR分解
1.3.3 特徵值分解
1.3.4 奇異值分解
1.4 浮點數與舍入誤差
1.4.1 科學計數法和浮點數
★1.4.2 IEEE標準浮點數
1.4.3 舍入誤差
1.5 誤差分析與條件數
內容註釋及參考文獻
習題
第二章 線性方程組和LU分解
2.1 線性方程組的可解性
2.2 Gauss消去和LU分解
2.2.1 Gauss消去
2.2.2 從Gauss消去到LU分解
2.2.3 LU分解演算法
2.3 選主元Gauss消去和LU分解
2.4 Cholesky分解
2.4.1 Cholesky分解演算法
★2.4.2 Cholesky分解和Gauss消去的向後誤差分析
2.5 線性方程組敏度分析
2.6 案例:擴散系統
內容註釋及參考文獻
習題
第三章 QR分解和最小二乘
3.1 QR分解和Gram-Schmidt正交化
3.1.1 正交投影
3.1.2 Gram-Schmidt正交化
3.2 Householder QR方法
3.2.1 Householder變換
3.2.2 Householder QR方法
☆3.2.3 列選取QR分解
3.3 線性回歸和最小二乘
3.4 最小二乘的兩個變形
3.4.1 正則化最小二乘
3.4.2 線性等式約束最小二乘
內容註釋及參考文獻
習題
第四章 特徵值分解和特徵提取
4.1 基本性質
4.2 單一特徵值計算
4.2.1 冪法
4.2.2 反冪法
4.2.3 Rayleigh商迭代
4.3 多個特徵值計算
4.3.1 從正交迭代到基本QR演算法
4.3.2 對稱QR演算法
☆4.3.3 Jacobi演算法和分而治之法
4.4 敏度分析和擾動理論
4.5 案例:Markov鏈和網頁排序
4.5.1 Markov鏈
4.5.2 網頁排序
4.6 案例:圖繪製
4.6.1 基本概念
4.6.2 無向圖繪製
內容註釋及參考文獻
習題
第五章 奇異值分解和低秩逼近
5.1 奇異值分解
5.1.1 基本性質
5.1.2 最佳低秩逼近
5.1.3 奇異值分解與特徵值分解
☆5.1.4 矩陣雙對角化
5.2 求解最小二乘和總體最小二乘
5.2.1 求解最小二乘
5.2.2 求解總體最小二乘
5.3 案例:主成分分析
5.4 非負矩陣分解
5.4.1 非負矩陣分解演算法
5.4.2 應用舉例
內容註釋及參考文獻
習題
第六章 迭代法
6.1 線性方程組:古典迭代法
6.1.1 定常迭代法的收斂性
6.1.2 古典迭代法
6.1.3 古典迭代法的收斂性
★6.1.4 收斂速度比較
6.2 線性方程組:梯度下降法和共軛梯度法
6.2.1 梯度下降法
6.2.2 共軛梯度法
6.2.3 收斂性估計
☆6.2.4 預條件共軛梯度法
6.3 特徵值計算:非線性梯度下降法和共軛梯度法
6.3.1 一般優化框架
6.3.2 廣義特徵值
6.3.3 迭代法求解廣義特徵值
6.4 案例:2維Poisson方程
6.4.1 2維Poisson方程及其離散
6.4.2 Kronecker乘積
6.4.3 共軛梯度法求解Poisson方程
6.5 案例:譜聚類
6.5.1 k均值聚類
6.5.2 譜聚類
內容註釋及參考文獻
習題
第七章 進階主題
7.1 壓縮感知
7.1.1 欠定線性方程組
7.1.2 壓縮感知信號處理背景
7.1.3 最小化$\ell_1$-范數求解欠定線性方程組的稀疏解
7.1.4 近端梯度法及其加速
7.1.5 數值案例