模式識別(使用Python分析與實現微課視頻版高等學校電子信息類專業系列教材)
內容大鋼
本書依據作者多年從事模式識別教學和研究的體會,並參考相關文獻編寫而成,概括地介紹模式識別理論和技術的基本概念、原理、方法和實現。
全書共分為11章,每章闡述模式識別中的一個知識點,內容包括貝葉斯決策、概率密度函數的估計。線性判別分析、非線性判別分析、組合分類器、無監督模式識別、特徵選擇、特徵提取、半監督學習以及人工神經網路。本書除了經典演算法以外,增加了部分較新的理論和演算法,讀者可以選擇性地學習。本書還配以PPT課件、Python模擬程序和實驗指導書,便於教和學。
本書可以作為高等學校人工智慧、電腦、信息、自動化、遙感、控制等專業本科生或研究生的教材或參考書,也可以作為從事相關研究與應用人員的參考用書。
作者介紹
編者:蔡利梅|責編:范德一
蔡利梅,中國礦業大學信息與控制工程學院副教授。長期從事圖像處理與模式識別領域的教學和研究工作。先後開設「圖像處理」「模式識別」「電腦圖形學」「數字視頻技術」「圖像分析及識別」等多門本科生及研究生課程。獲教育部高等學校科學技術進步獎二等獎、河南省科技進步獎二等獎、江蘇省科學技術獎三等獎、中國煤炭工業協會科學技術獎一等獎等省部級以上科技獎勵8項,並獲得其他科技獎勵6項;申請國家發明專利4項(已獲授權2項);出版教材1部;獲校級優秀教學成果一等獎1項,全國煤炭行業教育教學成果獎三等獎1項。
目錄
第1章 緒論
微課視頻4分鐘
1.1 模式識別的基本概念
1.2 模式識別方法
1.3 模式識別系統
1.4 模式識別的應用
1.5 模擬環境與工具簡介
習題
第2章 貝葉斯決策
微課視頻15分鐘
2.1 貝葉斯決策的基本概念
2.2 最小錯誤率貝葉斯決策
2.2.1 決策規則
2.2.2 錯誤率
2.2.3 模擬實現
2.3 最小風險貝葉斯決策
2.3.1 決策規則
2.3.2 兩種貝葉斯決策的關係
2.4 樸素貝葉斯分類器
2.5 Neyman?Pearson決策規則
2.6 判別函數和決策面
2.7 正態分佈模式的貝葉斯決策
2.7.1 正態概率密度函數
2.7.2 正態概率模型下的最小錯誤率貝葉斯分類器
2.7.3 模擬實現
2.8 貝葉斯決策的實例
習題
第3章 概率密度函數的估計
微課視頻6分鐘
3.1 基本概念
3.2 參數估計
3.2.1 最大似然估計
3.2.2 最大后驗估計
3.2.3 貝葉斯估計
3.3 非參數估計
3.3.1 直方圖方法
3.3.2 Parzen窗法
3.3.3 kN近鄰密度估計法
3.4 最小錯誤率貝葉斯決策的實例
習題
第4章 線性判別分析
微課視頻17分鐘
4.1 基本概念
4.1.1 線性判別函數
4.1.2 廣義線性判別函數
4.1.3 線性判別函數的設計
4.2 Fisher法
4.2.1 基本原理
4.2.2 準則函數及求解
4.2.3 分類決策
4.2.4 模擬實現
4.3 感知器演算法
4.3.1 基本概念
4.3.2 感知器準則函數及求解
4.3.3 模擬實現
4.4 最小二乘法
4.4.1 平方誤差和準則函數
4.4.2 均方誤差準則函數
4.4.3 模擬實現
4.5 支持向量機
4.5.1 最優分類超平面與線性支持向量機
4.5.2 非線性可分與線性支持向量機
4.5.3 核函數與支持向量機
4.5.4 模擬實現
4.6 多類分類問題
4.6.1 化多類分類為兩類分類
4.6.2 多類線性判別函數
4.6.3 糾錯輸出編碼方法
4.7 線性判別分析的實例
習題
第5章 非線性判別分析
微課視頻11分鐘
5.1 近鄰法
5.1.1 最小距離分類器
5.1.2 分段線性距離分類器
5.1.3 近鄰法及模擬實現
5.2 二次判別函數
5.3 決策樹
5.3.1 基本概念
5.3.2 決策樹的構建
5.3.3 過學習與決策樹的剪枝
5.3.4 模擬實現
5.4 Logistic回歸
5.4.1 基本原理
5.4.2 多類分類任務
5.4.3 模擬實現
5.5 非線性判別分析的實例
習題
第6章 組合分類器
微課視頻12分鐘
6.1 組合分類器的設計
6.1.1 個體分類器的差異設計
6.1.2 分類器性能度量
6.1.3 組合策略
6.2 Bagging演算法
6.3 隨機森林
6.4 Boosting演算法
6.4.1 AdaBoost演算法
6.4.2 多類分類AdaBoost演算法
6.4.3 GradientBoosting演算法
6.5 組合分類的實例
習題
第7章 無監督模式識別
微課視頻3分鐘
7.1 聚類演算法的基本概念
7.2 相似性測度
7.2.1 樣本相似性測度
7.2.2 點和集合之間的相似性測度
7.2.3 集合和集合之間的相似性測度
7.3 動態聚類演算法
7.3.1 C均值聚類演算法
7.3.2 ISODATA演算法
7.4 層次聚類演算法
7.4.1 分裂層次聚類
7.4.2 合併層次聚類
7.4.3 模擬實現
7.5 高斯混合聚類演算法
7.5.1 高斯混合分佈
7.5.2 高斯混合聚類
7.5.3 EM演算法
7.5.4 模擬實現
7.6 模糊聚類演算法
7.6.1 模糊集合的基本知識
7.6.2 模糊C均值聚類演算法
7.7 密度聚類演算法
7.8 聚類性能度量
7.8.1 外部準則
7.8.2 內部準則
7.9 聚類分析的實例
習題
第8章 特徵選擇
微課視頻9分鐘
8.1 概述
8.2 特徵的評價準則
8.2.1 基於類內類間距離的可分性判據
8.2.2 基於概率分佈的可分性判據
8.2.3 基於熵函數的可分性判據
8.2.4 基於統計檢驗的可分性判據
8.2.5 特徵的相關性評價
8.3 特徵選擇的優化演算法
8.3.1 特徵選擇的最優演算法
8.3.2 特徵選擇的次優演算法
8.3.3 特徵選擇的啟髮式演算法
8.4 過濾式特徵選擇方法
8.5 包裹式特徵選擇方法
8.6 嵌入式特徵選擇方法
習題
第9章 特徵提取
微課視頻3分鐘
9.1 概述
9.2 基於類可分性判據的特徵提取
9.3 K?L變換
9.3.1 K?L變換的定義
9.3.2 K?L變換的性質
9.3.3 信息量分析
9.3.4 奇異值分解
9.3.5 模擬實現
9.4 獨立成分分析
9.4.1 問題描述
9.4.2 ICA演算法
9.4.3 模擬實現
9.5 非負矩陣分解
9.6 稀疏濾波
9.7 多維尺度法
9.7.1 經典尺度法
9.7.2 度量型MDS法
9.7.3 非度量型MDS法
9.7.4 等度量映射
9.8 t?SNE演算法
9.9 其他非線性降維方法
9.9.1 拉普拉斯特徵映射
9.9.2 局部線性嵌入
習題
第10章 半監督學習
10.1 基本概念
10.2 半監督分類
10.2.1 生成式模型
10.2.2 半監督支持向量機
10.2.3 基於圖的半監督學習
10.3 半監督聚類
10.3.1 約束C均值演算法
10.3.2 約束種子C均值演算法
10.4 半監督降維
10.4.1 半監督局部Fisher判別分析
10.4.2 基於約束的半監督降維
習題
第11章 人工神經網路
11.1 神經元模型
11.2 多層感知器神經網路
11.2.1 單層感知器
11.2.2 多層感知器
11.2.3 學習演算法
11.2.4