機器學習中No Free Launch說法的理解

2021-09-10 22:26:51 字數 489 閱讀 1394

這個說法的表面意思是不管什麼機器學習的演算法,在一些評判標準上來看,並沒有誰更好的區別。也就是不管多麼複雜的神經網路,和最簡單的knn方法其實是一樣的。

這句話給深度學習很唱了一下衰調,但真的是這樣的嗎?

這幾句話更準確的表述應該是:沒有一種萬能的演算法,能夠在所有空間中都有很好的表現。

比如對於線性的分類問題,你用該維度的模型就不合適,反之依然。每種演算法不管適應面再廣:深度神經網路就是一種光譜的模型。但它也之實用於一部分問題。如果我們硬是要把每種演算法放到所有的問題上來,得到它們在所有問題上的平均表現。因為每種問題只能應對一小部分,所以平均下來,所有演算法都是一樣的差。和簡單的把所有類別都歸為一類的分類演算法沒有區別。

但是即使是人的大腦,我們也不是所有的問題適合去解決的,比如人腦是不能憑空計算大數的乘法。

所以這個問題可以有兩個結論:

只要我們設計的演算法能夠處理大多人類平時遇到的問題,那就算作乙個好的ai。

在設計演算法的時候,一定要把問題的空間的特點考慮清楚。

機器學習 機器學習中的損失函式

在機器學習中,損失函式是用來衡量 結果與實際值之間差別大小的指標。一般的損失函式有5五種 l m 01ifm 0ifm 0 主要用於maximum margin的分類演算法,如svm演算法。hinge損失函式的描述如下式 l y max 0 1 t y 這裡t 1 or 1 y是 值,而t 是實際真...

機器學習中評估指標 周志華《機器學習》筆記

問題環境 挑出來的西瓜有多少比例是好瓜 好瓜中有多少被挑出來了 混淆矩陣可以這麼解讀 第乙個字母表示我 的結果對還是錯,t就是true,f就是false 第二個字母表示,我 的是什麼正p positive 還是負 negative 矩陣對角線上的是我 對的 查準率,準確率,precision 挑出來...

機器學習 機器學習中的基礎概念

基本概念 訓練集,測試集,特徵值,監督學習,非監督學習,半監督學習,分類,回歸 概念學習 人類學習概念 鳥,車,計算機 定義 概念學習是指從有關某個布林函式的輸入輸出訓訓練陽曆中推斷出該布林數 例子 學習 享受運動 這一概念 小明進行水上運動,是否享受運動取決於很多因素 這裡舉乙個例子 小明是否進行...