根據任務，模式識別可以劃分為「分類」和「回歸」兩種形式。
模式識別：根據已有知識的表達，針對待識別模式，判別決策其所屬類別或者**其對應的回歸值。（本質上是一種推理過程）
1.數學解釋：看成一種函式對映f(x),將待識別模式x從輸入空間對映到輸出空間，f(x)是關於已有知識的表達。
判別公式&決策邊界：用於分類
3.特徵&特徵空間
特徵：可以用於區分不同類別模式的、可測量的量。（輸入資料也可以看作原始特徵表達）
特徵的特性：
特徵向量
特徵空間
1.模型使用機器學習技術來得到，如何進行機器學習？
1.評估方法：留出法、k折交叉法、留一驗證法
效能指標：準確度、精度、召喚率、f-score、f1-score、pr曲線、roc曲線、auc曲線
1.基於距離分類
距離的種類：歐式距離，曼哈頓距離，加權歐式距離。
2.最小歐氏距離（med）分類器
白化：通過w2對上一步變換後的特徵再進行尺度變換,實現所有特徵具有相同方差。
w1起到旋轉的作用
w轉換後的歐式距離發生改變，變成馬氏距離。
map分類器
決策邊界
決策誤差（概率誤差=未選擇的類對應所對應的後驗概率）
map分類器決策目標即為最小化概率誤差，即分類誤差最小化
（給定所有測試樣本，map分類器選擇後驗概率最大的類，等於最小化平均概率誤差，即最小化決策誤差)
1.表達先驗和觀測概率的方式
1）常數表達:例如p(ci)=0.2
2）引數化解析表達:高斯分布...
3）非引數化表達:直方圖、核密度、蒙特卡洛...
貝葉斯決策不能排除出現錯誤判斷的情況，由此會帶來決策風險；不同的錯誤決策會產生程度完全不一樣的風險。
1.損失（loss）：表徵當前決策動作相對於其他候選類別的風險程度。
2.決策風險的評估：給定乙個測試樣本x，分類器決策其屬於ci類的動作αi對應的決策風險可以定義為相對於所有候選類別的期望損失。記為r(αi|x)。(決策動作αi|cj、測試樣本的真值cj) )
3.貝葉斯分類器：在map分類器基礎上，加入決策風險因素，得到貝葉斯分類器。貝葉斯分類器選擇決策風險最小的類，即最小化期望損失。
4.樸素貝葉斯分類器：當特徵是多維的，假設特徵之間是相互獨立的，從而得到以下公式：
（特徵維度太高，通過即假設特徵之間符合獨立同分布以達到簡化計算的目的）
5.拒絕選項：當測試資料在決策邊界時，即使選擇後驗概率高的，該概率的值仍然可能很小。為了避免錯誤決策，引入閾值，當概率低於閾值時不決策。
1.根據概率分布的表達形式，監督式學習方法有以下兩種：
2.引數估計方法
3.最大似然估計
1.無偏估計
1.貝葉斯估計：給定引數分布的先驗概率以及訓練樣本，估計引數分布的後驗概率。
2.貝葉斯估計具有不斷學習的能力，隨著訓練樣本的不斷增加，可以序列的不斷修正引數的估計值，從而達到該引數的期望真值。
3.貝葉斯估計的目的：估計觀測似然概率，給定量為觀測似然分布的形式、引數的先驗概率、訓練樣本。
4.1）貝葉斯估計與最大似然估計的對比：貝葉斯估計把引數看作引數空間的乙個概率分布，依照訓練樣本來估計引數的後驗概率，從而得到觀測似然關於引數的邊緣概率，隨著樣本個數逐漸增大，貝葉斯估計越來越能代表真實的觀測似然分布。最大似然估計的引數是確定值，不需要估算引數的邊緣概率。
2）貝葉斯估計等是假設概率分布為高斯分布，但如果分布未知，就需要使用無引數估計技術來實現概率密度估計。
3）常用的無引數估計技術：knn估計、直方圖估計、核密度估計，基於p(x)=k/(nv)估計概率密度。
1.直方圖估計
機器學習第一次作業
對話式人工智慧平台是指融合語音識別 語義理解 自然語言處理 語音合成等多種解決方案，為開發者提供具備識別 理解及反饋能力的開放式平台的技術。該技術能夠實現機器與人在對話服務場景中的自然互動，未來有望在智慧型可穿戴裝置 智慧型家居 智慧型車載等多個領域得到大規模應用。智慧型腦機互動是指通過在人腦神經與...
機器學習第一次作業
深度學習的背景是機器學習，機器學習 machine learning 是一門專門研究計算機怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的效能的學科。機器能否像人類一樣能具有學習能力呢？1959年美國的塞繆爾 samuel 設計了乙個下棋程式，這個程式具有...
機器學習第一次作業
1 自然語言理解 nlu 2 自然語言生成 nlg nlu 是要理解給定文字的含義。本內每個單詞的特性與結構需要被理解。在理解結構上，nlu 要理解自然語言中的以下幾個歧義性 詞法歧義性 詞法歧義性是指乙個單詞有多重含義。如train這個單詞，作為動詞使用時，它是訓練的意思，當作為名詞使用時，它是火...