引數和超引數的區別

2021-08-28 03:29:54 字數 920 閱讀 7164

計算機學科裡有太多的術語,而且許多術語的使用並不一致。哪怕是相同的術語,不同學科的人理解一定有所不同。

比如說:「模型引數(model parameter)」和「模型超引數(model hyperparameter)」。

對於初學者來說,這些沒有明確定義的術語肯定很令人困惑。尤其是對於些來自統計學或經濟學領域的人。

我們來仔細研究一下這些條款。

什麼是模型引數?

模型引數是模型內部的配置變數,其值可以根據資料進行估計。

引數是機器學習演算法的關鍵。它們通常由過去的訓練資料中總結得出。

在經典的機器學習文獻中,我們可以將模型看作假設,將引數視為對特定資料集的量身打造的假設。

最優化演算法是估計模型引數的有效工具。

模型是否具有固定或可變數量的引數決定了它是否可以被稱為「引數」或「非引數」。

模型引數的一些示例包括:

什麼是模型超引數?

模型超引數是模型外部的配置,其值無法從資料中估計。

我們雖然無法知道給定問題的模型超引數的最佳值,但是我們可以使用經驗法則,在其他問題上使用複製值,或通過反覆試驗來搜尋最佳值。

當機器學習演算法針對特定問題進行調整時(例如,使用網格搜尋或隨機搜尋時),那麼正在調整模型的超引數或順序以發現導致最熟練的模型的引數**。

如果模型超引數被稱為模型引數,會造成很多混淆。克服這種困惑的乙個經驗法則如下:

模型超引數的一些例子包括:

總之,模型引數是根據資料自動估算的。但模型超引數是手動設定的,並且在過程中用於幫助估計模型引數。

模型超引數通常被稱為引數,因為它們是必須手動設定和調整的機器學習的一部分。

引數和超引數

舉例說明一些機器學習演算法中的普通引數和超引數 機器學習演算法 普通引數舉例 超引數舉例 決策樹在每個節點上選擇的輸入變數 每個節點上選擇的閾值 每個葉節點所應包括的最少資料量,訓練後的剪枝 pruning 策略 隨機森林 同上決策樹的數量,輸入變數的數量 支援向量機 支援向量 support ve...

機器學習中引數和超引數的區別

簡單來說,模型引數就是模型內部的配置變數,可以用資料估計它的值。具體來講,模型引數有以下特徵 1 進行模型 時需要模型引數 2 模型引數值可以定義模型功能 3 模型引數用資料估計或資料學習得到 4 模型引數一般不由實踐者手動設定 5 模型引數通常作為學習模型的一部分儲存 通常使用優化演算法估計模型引...

模型引數和超引數

總結個人理解 機器學習中的模型引數和模型超引數在作用 等方面都有所不同,而模型超引數常被稱為模型引數,這樣,很容易對初學者造成混淆。本文給出了模型引數和模型超引數的定義,並進行了對比,指出了二者本質上的區別 模型引數是模型內部的配置變數,可以用資料估計模型引數的值 模型超引數是模型外部的配置,必須手...