史丹福大學機器學習公開課

2022-03-13 19:24:01 字數 861 閱讀 9705

寒假玩了大半了,把各種遊戲給解除安裝了,正兒八經的學習啦。。。

一直想把這個公開課看完,上學的時候吧不想看,放假了也不想看,胡亂寫寫,作為乙個渣渣,把不明白給記下來。

這個公開課的第一課,主要是介紹了機器學習概念應用什麼的,好像主要是概念吧,之前看的記不太清了。

第二課 監督學習應用 梯度下降

可以看這個鏈結有詳細的筆記

表示這一課的很多高數的知識,我就有點不懂了,高數忘了很多。

關於那個下山的問題,我一下就聯想到模擬退火了,貌似沒啥關係。

老師是通過先用一組資料的時候更新式子,寫出m組資料裡的情況,具體怎麼算的,我有點迷糊。θ其實是乙個向量,n個特徵就應該算n次,

j應該1-n,這個式子的最後一項是表示第i個資料的第j個特徵的值,意義應該是這樣。表示反覆看了好幾遍,好像有點明白。

批梯度下降演算法和隨機梯度下降演算法感覺就像是變換了一下姿勢,把迴圈順序改變了,就類似dfs中搜尋順序吧,有的搜尋方式更容易搜到最優解。

最後二十分鐘的用線代的推導,矩陣求導,矩陣的跡,沒記得學過呢,這個推導就是對最小二乘法的證明,最小二乘法直接可以算出回歸直線方程,看到乙個人筆記說:此方法要求 x 是列滿秩的,而且求矩陣的逆比較慢。

第三課 欠擬合與過擬合的概念

區域性加權回歸演算法是構造出乙個w函式,判斷是否和想計算的x是否相近。

我覺得這個演算法結果應該更符合實際。

然後是一系列的假設和證明,沒怎麼看懂。

後邊提到擬然性,這是和概率有點類似的東西,我維基了一下。為了使得函式**的更準,用最大擬然值。

第四課 牛頓方法

牛頓方法,挺好理解的,以前在acm的模板上見過,本來想找個題切切的,結果都是數學性很強的,做不了。

擱淺了,準備筆試+面試去了 2014.3.20

資料探勘 史丹福大學公開課 筆記

第一課 監督學習 比如一組癌症資料,拿到資料的時候我就知道它是正常的基因還是癌症基因,然後分類的時候我能正確的,我能將乙個資料對映到其中,並且根據其在哪個分類中作出判斷此基因是正常的or癌症的 無監督學習 無監督學習主要的過程還是聚類。但是我們能夠將資料聚成幾類,但是卻無法知道這一類是什麼,那一類又...

史丹福大學公開課 機器學習的動機與應用

機器學習的定義 arthur samuel在1959年提出了乙個想法,打算讓他的程式比自己更會下棋。但是他並沒有給出具體的教程。1998年的時候,tom mitchell給出了關於機器學習的定義,他提出,乙個合理的學習問題應該這樣定義 對於乙個電腦程式來說,給它乙個任務t和乙個效能測量方法p,如果在...

史丹福大學公開課IOS 7學習筆記 (1)

osx kernel unix os power management,mach 3.0 keychain access 基於bsd unix os certificates.sockets,file system,security bonjour collections,core location...