ISLR 讀書筆記零 統計學習和ISLR簡介

2021-10-09 14:55:33 字數 941 閱讀 2572

islr簡介

後記統計學習(statistical learning)是一系列用來理解資料的方法。這些方法主要可以分為兩類:

監督學習 (supervised learning )

非監督學習 (unsupervised learning )

監督學習,主要根據資料特徵,來進行**或者評估;而非監督學習,主要研究資料內部的結構和關係。關於監督學習和非監督學習,後續文章會更詳細講解。

統計學習的歷史並不長,但是一些概念由來已久

十九世紀初,勒讓德(legendre)和高斯(gauss)提出了最小二乘法,這是統計學習方法 線性回歸 的最早期版本。

2023年,費希爾(fisher)提出了 linear discriminant analysis(lda)

40年代,提出了 logistic regression

70年代早期,nelder 和 wedderburn 提出了廣義線性模型(generalized linear models)

80年代起,隨著計算機技術的發展,非線性模型得到了更大的發展

80年代中期, breiman,friedman,olshen 和 stone 引入了決策樹和交叉驗證法

2023年,hastie和tibshirani提出了廣義加法模型(generalized additive models)

隨著機器學習的到來,統計學習成為了統計學的乙個新分支

2023年,hastie,tibshirani 和 friedman 發表了機器學習的經典著作:the elements of statistical learning (esl)但是這本書對數學的門檻要求較高,而越來越多人想要去了解機器學習、統計學習,所以就有了islr,islr可以看作是機器學習的入門書,門檻要求不高,稍有微積分,線性代數,概率論和數理統計知識的人,都可以閱讀,而且這本書兼顧了理論與應用。

碼字不易,以後還是等自己有興趣想寫點東西的時候再寫吧

ISLR學習筆記(1)統計學習簡介

前言 第二章理解 第二章主要是簡單的介紹了書的背景,主要強調在統計學習中並沒有免費的午餐,沒有一種方法適用於所有的問題,所以才要學習各種統計學習方法,目的針對實際問題找到適合的統計學習方法。準確性與解釋性 在統計學習中,我們的目的有的時候是為了觀察某一變數的影響,這時候我們更需要方法的解釋性,例如 ...

統計學習方法讀書筆記

感知機 perceptron 沒啥說的,感知機就是尋找乙個將空間分為兩部分的超平面 前提可分 學習過程既是損失函式極小化的過程。模型 啟用函式 損失函式 推導 首先考慮任意一點x0到超平面的距離 對於誤分類點 xi,yi 來說 所以誤分類點到超平面的總距離 損失函式 損失函式極小化 簡單的梯度下降即...

統計學(二) 讀書筆記

第三章 定量資料的描述分析 對於數值型資料,1 首先通過直方圖觀察資料分布,是單峰,雙峰還是均勻分布,左偏還是右偏,還是對稱的,2 然後分析中心趨勢 中位數和均值 和離散趨勢 四分位差,標準差,極差 通常,有偏分布,分析中位數和四分位差,對稱分布,分析均值和標準差,注意,對於單峰分布,其四分位數差通...