這裡學習的教材採用《機器學習》，作者為周志華，出版社為清華大學出版社。
以下附上該書的目錄：
目錄
第1章 1
1.1 引言 1
1.2 基本術語 2
1.3 假設空間 4
1.4 歸納偏好 6
1.5 發展歷程 10
1.6 應用現狀 13
1.7 閱讀材料 16
習題 19
參考文獻 20
休息一會兒 22
第2章 模型評估與選擇 23
2.1 經驗誤差與過擬合 23
2.2 評估方法 24
2.3 效能度量 28
2.4 比較檢驗 37
2.5 偏差與方差 44
2.6 閱讀材料 46
習題 48
參考文獻 49
休息一會兒 51
第3章 線性模型 53
3.1 基本形式 53
3.2 線性回歸 53
3.3 對數機率回歸 57
3.4 線性判別分析 60
3.5 多分類學習 63
3.6 類別不平衡問題 66
3.7 閱讀材料 67
習題 69
參考文獻 70
休息一會兒 72
第4章 決策樹 73
4.1 基本流程 73
4.2 劃分選擇 75
4.3 剪枝處理 79
4.4 連續與缺失值 83
4.5 多變數決策樹 88
4.6 閱讀材料 92
習題 93
參考文獻 94
休息一會兒 95
第5章 神經網路 97
5.1 神經元模型 97
5.2 感知機與多層網路 98
5.3 誤差逆傳播演算法 101
5.4 全域性最小與區域性極小 106
5.5 其他常見神經網路 108
5.6 深度學習 113
5.7 閱讀材料 115
習題 116
參考文獻 117
休息一會兒 120
第6章 支援向量機 121
6.1 間隔與支援向量 121
6.2 對偶問題 123
6.3 核函式 126
6.4 軟間隔與正則化 129
6.5 支援向量回歸 133
6.6 核方法 137
6.7 閱讀材料 139
習題 141
參考文獻 142
休息一會兒 145
第7章 貝葉斯分類器 147
7.1 貝葉斯決策論 147
7.2 極大似然估計 149
7.3 樸素貝葉斯分類器 150
7.4 半樸素貝葉斯分類器 154
7.5 貝葉斯網 156
7.6 em演算法 162
7.7 閱讀材料 164
習題 166
參考文獻 167
休息一會兒 169
第8章 整合學習 171
8.1 個體與整合 171
8.2 boosting 173
8.3 bagging與隨機森林 178
8.4 結合策略 181
8.5 多樣性 185
8.6 閱讀材料 190
習題 192
參考文獻 193
休息一會兒 196
第9章 聚類 197
9.1 聚類任務 197
9.2 效能度量 197
9.3 距離計算 199
9.4 原型聚類 202
9.5 密度聚類 211
9.6 層次聚類 214
9.7 閱讀材料 217
習題 220
參考文獻 221
休息一會兒 224
第10章 降維與度量學習 225
10.1 k近鄰學習 225
10.2 低維嵌入 226
10.3 主成分分析 229
10.4 核化線性降維 232
10.5 流形學習 234
10.6 度量學習 237
10.7 閱讀材料 240
習題 242
參考文獻 243
休息一會兒 246
第11章 特徵選擇與稀疏學習 247
11.1 子集搜尋與評價 247
11.2 過濾式選擇 249
11.3 包裹式選擇 250
11.4 嵌入式選擇與l1
_11
正則化 252
11.5 稀疏表示與字典學習 254
11.6 壓縮感知 257
11.7 閱讀材料 260
習題 262
參考文獻 263
休息一會兒 266
第12章 計算學習理論 267
12.1 基礎知識 267
12.2 pac學習 268
12.3 有限假設空間 270
12.4 vc維 273
12.5 rademacher複雜度 279
12.6 穩定性 284
12.7 閱讀材料 287
習題 289
參考文獻 290
休息一會兒 292
第13章 半監督學習 293
13.1 未標記樣本 293
13.2 生成式方法 295
13.3 半監督svm 298
13.4 圖半監督學習 300
13.5 基於分歧的方法 304
13.6 半監督聚類 307
13.7 閱讀材料 311
習題 313
參考文獻 314
休息一會兒 317
第14章 概率圖模型 319
14.1 隱馬爾可夫模型 319
14.2 馬爾可夫隨機場 322
14.3 條件隨機場 325
14.4 學習與推斷 328
14.5 近似推斷 331
14.6 話題模型 337
14.7 閱讀材料 339
習題 341
參考文獻 342
休息一會兒 345
第15章 規則學習 347
15.1 基本概念 347
15.2 序貫覆蓋 349
15.3 剪枝優化 352
15.4 一階規則學習 354
15.5 歸納邏輯程式設計 357
15.6 閱讀材料 363
習題 365
參考文獻 366
休息一會兒 369
第16章 強化學習 371
16.1 任務與獎賞 371
16.2 k
kk-搖臂賭博機 373
16.3 有模型學習 377
16.4 免模型學習 382
16.5 值函式近似 388
16.6 模仿學習 390
16.7 閱讀材料 393
習題 394
參考文獻 395
休息一會兒 397
附錄 399
a 矩陣 399
b 優化 403
c 概率分布 409
後記 417
索引 419
（學完了再回來補）
因為是第一遍看這本書，剛開始是想連著公式和作業一起學的，看了幾天後發現要把所有公式參透，把題目完整解出還是有點困難的，所以現在打算先把基礎的知識框架先過一遍，回來再刷公式和作業。
第0章 機器學習基礎知識
3.託管 github lecture 00 01 02 先使用windows，等到後面再考慮學習linux。markdown 語法手冊 全面但不太細緻，不過能鏈結到其他手冊 markdown 語法 全面詳解 markdown 常用語法 標題 字型 引用 分割線 鏈結 列表 流程圖。補 關於插入本地...
神經網路與機器學習第3版學習筆記 第0章 導言
神經網路與機器學習第3版學習筆記 初學者的筆記，記錄花時間思考的各種疑惑 本文主要闡述該書在數學推導上一筆帶過的地方。參考學習，在流暢理解書本內容的同時，還能溫顧學過的數學知識，達到事半功倍的效果。1.1 logistic函式在原點的傾斜率等於a 4？varphi left v right frac...
機器學習 周志華 筆記 第2章
經驗誤差，也叫訓練誤差，在訓練集上的誤差，與之對應的是泛化誤差 generalization error，在新樣本上的誤差 評估乙個好的模型顯然是泛化誤差最小。但是實際上事先並不知道新樣本是什麼，所以實際能做的是最小化經驗誤差。經驗誤差也不能完全決定模型的泛化誤差，會存在過擬合現象。書中簡單說明了過...