本部分每個知識點分享比較好的部落格，若侵權就刪了。
1.導數
2.偏導數與梯度
3.泰勒公式
1.向量與矩陣
2.行列式
3.雅可比矩陣和hessian矩陣
4.特徵值與特徵向量
5.奇異值分解
6.二次型
7.向量與矩陣導數
1.概率公式
(1)條件概率
(2)全概率公式
(3)貝葉斯公式
2.概率分布
3.數學期望與方差
4.最大似然估計
1.梯度下降
2.牛頓法
3.擬牛頓法
4.座標下降法
5.拉格朗日乘除法
6.凸優化
7.拉格朗日對偶
8.kkt條件
毒雞湯：巨人的肩膀到底有多高？
我們都很容易批評或者貶低取得了很高成就的人。批評或者貶低他們，還會讓我們充滿了成就感，好像自己也站在了跟他們一樣的高度上，從而沾沾自喜。比如說我們特別喜歡譏笑錢學森支援氣功，特別喜歡嘲諷牛頓跑去研究神學，特別熱衷於提到季羨林年輕時候筆記裡寫過「想多日幾個女人」。
動嘴去批評乙個人的難度，和真的跟他平起平坐的難度，遠遠不是乙個數量級的，你覺得他不高，僅僅是因為他的高度遠遠超過了你的理解範圍而已。
其實只有我們在向他們那個高度攀登的時候，才感受到孤獨寂寞，感受到寒冷艱辛，感受到危險高峻，感受到如履薄冰，感受到乙個不慎就滿盤皆輸的沉重壓力，感受到無人理解的委屈和憤懣。我們看到了高山的高，看到了自己以前的卑微與狂妄，看到了更大的世界，看到了更多的角度。我們才意識到別人到底有多高。
不要因為自己的一點小山丘而沾沾自喜，別人背後早已堆砌了一座你望不見頂的峰！
機器學習 數學基礎
scalar 標量 sunspot number dalton minimum exponentiation 指數化 資訊理論 對數函式 log2 sigmod 啟用函式 relu 啟用函式 vector 向量 vector space 向量空間 歐幾里德空間 笛卡爾座標系 極座標系 norm of...
機器學習 數學基礎
前言 適用本人，在學習中記錄要用的數學知識。1.約束最優化問題求解 拉格朗日乘子法和kkt條件 2.何為二次型，二次型怎麼轉化為標準型及其意義，二次型的矩陣表示，通過正交線形變換將二次型變換為標準型 求該正交線性變換和對應的標準型 3.正定矩陣，半正定矩陣 定義 a是n階方陣，如果對任何非零向量x，...
機器學習數學基礎 （一）
1.1分類 離散值 1.2回歸分析 連續值 資料集分為 訓練集和測試集 訓練集包含n個特徵 feature 和標籤 label 測試集只有特徵沒有標籤。任務就是根據測試集 標籤。2.1聚類 2.2關聯規則 訓練集只有特徵沒有標籤。測試集需要根據已有特徵 標籤。3.1q learning 3.2時間差...