機器學習12個關鍵詞

2021-07-12 04:02:27 字數 2317 閱讀 4948

湯姆·公尺歇爾教授任職於卡內基梅隴大學計算機學院、機器學習系,根據他在《機器學習》一書中的定義,機器學習是「研究如何打造可以根據經驗自動改善的電腦程式」。機器學習在本質上來說是跨學科的,使用了電腦科學、統計學和人工智慧以及其他學科的知識。機器學習研究的主要產物是演算法,可以幫助基於經驗的自動改善。這些演算法可以在各個行業有廣泛應用,包括計算機視覺、人工智慧和資料探勘。

分類的含義是,打造模型,將資料分類進入不同的類別。這些模型的打造方式,是輸入乙個訓練資料庫,其中有預先標記好的類別,供演算法進行學習。然後,在模型中輸入類別未經標記的資料庫,讓模型基於它從訓練資料庫中所學到的知識,來**新資料的類別。

因為這類的演算法需要明確的類別標記,因此,分類算是「監督學習」的一種形式。

回歸是與分類緊密聯絡在一起的。分類是**離散的類別,而回歸則適用的情況,是當**「類別」由連續的數字組成。線性回歸就是回歸技術的乙個例子。

聚集是用來分析不含有預先標記過的類別的資料,甚至連類別特性都沒有標記過。資料個體的分組原則是這樣的乙個概念:最大化組內相似度、最小化組與組之間的相似度。這就出現了聚集演算法,識別非常相似的資料並將其放在一組,而未分組的資料之間則沒那麼相似。k-means聚集也許是聚集演算法中最著名的例子。

由於聚集不需要預先將類別進行標記,它算是「無監督學習」的一種形式,意味著演算法通過觀察進行學習,而不是通過案例進行學習。

要解釋關聯,最簡單的辦法是引入「購物籃分析」,這是乙個比較著名的典型例子。購物籃分析是假設乙個購物者在購物籃中放入了各種各樣的物品(實體或者虛擬),而目標是識別各種物品之間的關聯,並為比較分配支援和置信度測量(編者注:置信度是乙個統計學概念,意味著某個樣本在總體引數的區間估計)。這其中的價值在於交叉營銷和消費者行為分析。關聯是購物籃分析的一種概括歸納,與分類相似,除了任何特性都可以在關聯中被**到。 apriori 演算法被稱為最知名的關聯演算法。

關聯也屬於「無監督學習」的一種形式。

決策樹是一種自上而下、分步解決的遞迴分類器。決策樹通常來說由兩種任務組成:歸納和修剪。歸納是用一組預先分類的資料作為輸入,判斷最好用哪些特性來分類,然後將資料庫分類,基於其產生的分類資料庫再進行遞迴,直到所有的訓練資料都完成分類。打造樹的時候,我們的目標是找到特性來分類,從而創造出最純粹的子節,這樣,要將資料庫中所有資料分類,只需要最少的分類次數。這種純度是以資訊的概念來衡量。

乙個完整的決策樹模型可能過於複雜,包含不必要的結構,而且很難解讀。因而我們還需要「修剪」這個環節,將不需要的結構從決策樹中去除,讓決策樹更加高效、簡單易讀並且更加精確。

svm可以分類線性與非線性資料。svm的原理是將訓練資料轉化進入更高的維度,再檢查這個維度中的最優間隔距離,或者不同分類中的邊界。在svm中,這些邊界被稱為「超平面」,通過定位支援向量來劃分,或者通過最能夠定義型別的個例及其邊界。邊界是與超平面平行的線條,定義為超平面及其支援向量之間的最短距離。

svm的巨集偉概念概括起來就是:如果有足夠多的維度,就一定能發現將兩個類別分開的超平面,從而將資料庫成員的類別進行非線性化。當重複足夠多的次數,就可以生成足夠多的超平面,在n個空間維度中,分離所有的類別。

神經網路是以人類大腦為靈感的演算法,雖然,這些演算法對真實人腦功能的模擬程度有多少,還存在很多的爭議,我們還沒法說這些演算法真正模擬了人類大腦。神經網路是由無數個相互連線的概念化人工神經元組成,這些神經元在互相之間傳送資料,有不同的相關權重,這些權重是基於神經網路的「經驗」而定的。「神經元」有啟用閾值,如果各個神經元權重的結合達到閾值,神經元就會「激發」。神經元激發的結合就帶來了「學習」。

深度學習相對來說還是個比較新的詞彙,雖然在網路搜尋大熱之前就已經有了這個詞彙。這個詞彙在研究和業界都名聲大噪,主要是因為其他一系列不同領域的巨大成功。深度學習是應用深度神經網路技術——具有多個隱藏神經元層的神經網路架構——來解決問題。深度學習是乙個過程,正如使用了深度神經網路架構的資料探勘,這是一種獨特的機器學習演算法。

對於「增強學習」最好的描述來自劍橋大學教授、微軟研究科學家christopher bishop,他用一句話精確概括:「增強學習是在某一情景中尋找最適合的行為,從而最大化獎勵。」增強學習中,並沒有給出明確的目標;機器必須通過不斷試錯的方式進行學習。我們來用經典的馬里奧遊戲舉個例子。通過不斷試錯,增強學習演算法可以判斷某些行為、也就是某些遊戲按鍵可以提公升玩家的遊戲表現,在這裡,試錯的目標是最優化的遊戲表現。

github

。交叉檢驗是一種打造模型的方法,通過去除資料庫中k層中的一層,訓練所有k減1層中的資料,然後用剩下的第k層來進行測驗。然後,再將這個過程重複k次,每一次使用不同層中的資料測試,將錯誤結果在乙個整合模型中結合和平均起來。這樣做的目的是生成最精確的**模型。

當我們討論概率的時候,有兩個最主流的學派:經典學派概率論看重隨機事件發生的頻率。與之對比,貝葉斯學派認為概率的目標是將未確定性進行量化,並隨著額外資料的出現而更新概率。如果這些概率都延伸到真值,我們就有了不同確定程度的「學習」。

科普 12個關鍵詞,告訴你到底什麼是機器學習

2016 05 27 18 31 toptal 湯姆 公尺歇爾教授任職於卡內基梅隴大學計算機學院 機器學習系,根據他在 機器學習 一書中的定義,機器學習是 研究如何打造可以根據經驗自動改善的電腦程式 機器學習在本質上來說是跨學科的,使用了電腦科學 統計學和人工智慧以及其他學科的知識。機器學習研究的主...

科普 12個關鍵詞,告訴你到底什麼是機器學習

toptal 湯姆 公尺歇爾教授任職於卡內基梅隴大學計算機學院 機器學習系,根據他在 機器學習 一書中的定義,機器學習是 研究如何打造可以根據經驗自動改善的電腦程式 機器學習在本質上來說是跨學科的,使用了電腦科學 統計學和人工智慧以及其他學科的知識。機器學習研究的主要產物是演算法,可以幫助基於經驗的...

六個關鍵詞

抽象思維,其中矩陣是一種抽象結果,通過矩陣運算,我們可以推導多維空間,或者有限運算無法得到的結果。這次又遇到乙個詞 資料結構 計算機解決乙個具體問題時,大致需要經過下列幾個步驟 首先要從具體問題中抽象出乙個適當的數學模型,然後設計乙個解此數學模型的演算法,最後編寫程式 測試 調整直至得到最終解答。其...