1、線性模型
形式簡單、易於建模、很好的可解釋性
2、邏輯回歸
無需事先假設資料分布；
可得到近似概率**；
對率函式任意階可導的凸函式，許多數值優化演算法都可直接用於求取最優解
3、線性判別分析（lda）
當兩類資料同先驗、滿足高斯分布且協方差相等時，lda可達到最優分類
4、boosting
代表adaboost：只適用於二分類
5、bagging
在易受樣本擾動的學習器上效用更明顯（如不剪枝決策樹、神經網路）
6、隨機森林
簡單、容易實現、計算開銷小、泛化效能較bagging進一步提公升（基學習器多樣性不僅來自樣本擾動，還來自屬性擾動）
起始效能相對較差，但隨著個體學習器數目的增加，通常會收斂到更低的泛化誤差
常見機器學習演算法總結
機器學習演算法主要分為以下2種 有監督與無監督。再細分可分為四種 分類，聚類，回歸，關聯四大類演算法。分類與回歸屬於有監督學習。聚類與關聯屬於無監督學習。分類演算法主要有knn，決策樹，樸素貝葉斯，svm,邏輯回歸，adaboost演算法。knn演算法 基於距離進行分類，選取前k個最相似的樣本，看這...
機器學習常見的分類演算法的優缺點
在機器學習中，種類最多的一類演算法要屬很類演算法，本文對機器學習中的各種分類演算法的優缺點做乙個總結。所需估計的引數少，對於缺失資料不敏感。有著堅實的數學基礎，以及穩定的分類效率。假設屬性之間相互獨立，這往往並不成立。喜歡吃番茄 雞蛋，卻不喜歡吃番茄炒蛋 需要知道先驗概率。分類決策存在錯誤率。不需要...
常見機器學習模型總結
1 分類 線性分類器 如lr 支援向量機 svm 樸素貝葉斯 nb k近鄰 knn 決策樹 dt 整合模型 rf gdbt等 2 回歸 線性回歸 支援向量機 svm k近鄰 knn 回歸樹 dt 整合模型 extratrees rf gdbt 資料聚類 k means 資料降維 pca 等等.1 各...