機器學習解決的問題可以分為兩類：回歸和分類
所謂回歸就是**模型的最優引數，其步驟一般為：
（1）根據最大似然（mle），最大後驗（map）或最小誤差準則建立目標函式。最大似然函式比較好理解，貝葉斯準則是利用的最大後驗準則。
（2）借助優化方法，找到模型中的最優引數。常見的優化方法有：最小二乘方法、em方法、梯度下降法（一階泰勒展開）、梯度上公升法、隨機梯度下降法、牛頓法（二階展開）。其中最小二乘法是從極大似然準則出發以高斯模型為假設前提匯出的目標函式。gmm（高斯混合模型）也是從極大似然函式出發，結合了最大後驗概率的目標函式，優化求解時使用了em方法。
cgi fastCGI php fpm關係梳理
一 cgi common gateway inte ce,通用閘道器介面。是http伺服器 nginx apache 和動態指令碼語言 php 之間的通訊介面。這個介面的好處就是只要支援標準輸入和標準輸出，就可以編寫web應用。二 fastcgi fastcgi在cgi基礎上發展而來，可以將http...
django 關聯關係變數梳理
1 多對一 一對一 多對多的邏輯 有四個表 班級表 老師表 學生表 學生明細表 學生只會在乙個班級 學生對班級 是多對一 字段 foreignkey 乙個學生只有乙份學生明細 學生對學生明細 是一對一 字段 onetoonefield 老師可以教多個班 每個班可以有多個老師 老師對班級 是 多對多 ...
演算法梳理（三）決策樹演算法梳理
目錄 1.資訊理論基礎 熵 聯合熵 條件熵 資訊增益 基尼不純度 2.決策樹的不同分類演算法 id3演算法 c4.5 cart分類樹 的原理及應用場景 3.回歸樹原理 4.決策樹防止過擬合手段 5.模型評估 6.sklearn引數詳解，python繪製決策樹 熵 資訊是很抽象的概念，一直都無法估計資...