機器學習所需的數學基礎

2021-06-19 20:01:11 字數 381 閱讀 1206

數學:

l1 regularization:這篇文章解釋了l1 regularization為什麼會產生稀疏解,很不錯

拉格朗日乘子法和kkt條件: 

對偶問題:

傅利葉變換、拉普拉斯變換和z變換的意義: 

特徵值、特徵向量的意義:

似然性、最大似然估計: 

無約束最優化: 從線搜尋講到牛頓法、擬牛頓法、bfgs、lbgfs等

線性代數:

svd的幾何意義:

svd和lsa:

關於k-svd的介紹:

k-svd的實驗:

k-svd總結:

mp和omp:

lda:

1 0 機器學習所需的數學

從大學到現在,課堂上學的和自學的數學其實不算少了,可是在研究的過程中總是發現需要補充新的數學知識。learning和vision都是很多種數學的交匯場。看著不同的理論體系的交匯,對於乙個researcher來說,往往是非常exciting的enjoyable的事情。不過,這也代表著要充分了解這個領域...

機器學習所需要的數學知識

第2課 數理統計與引數估計 第3課 線性代數 第4課 凸優化 第5課 回歸 第6課 梯度下降演算法剖析 第7課 最大熵模型 第8課 pca svd lda linear discriminant analysis 第9課 聚類 第10課 決策樹和隨機森林 第11課 adaboost 第12課 svm...

AI 所需的數學基礎

基礎概念 極限 可微與可導 全導數與偏導數 只要學微積分,就必須要明白的概念,否則後面什麼都無法繼續學習。函式求導 求導是梯度的基礎,而梯度是 ai 演算法的基礎,因此求導非常重要!必須要搞清楚概念,並學會常見函式的導函式求法。鏈式法則 符合函式求導法則,反向傳播演算法的理論基礎。泰勒公式和費馬引理...