總結個人理解
機器學習中的模型引數和模型超引數在作用、**等方面都有所不同，而模型超引數常被稱為模型引數，這樣，很容易對初學者造成混淆。本文給出了模型引數和模型超引數的定義，並進行了對比，指出了二者本質上的區別：模型引數是模型內部的配置變數，可以用資料估計模型引數的值；模型超引數是模型外部的配置，必須手動設定引數的值。
我們在做研究的時候，會碰到很多術語。有時，在不同的研究領域還會出現同樣名稱的術語。比如，統計學、經濟學中經常使用的「模型引數」和「模型超引數」，在機器學習中也同樣存在。
機器學習領域中的「模型引數」「模型超引數」在作用、**等方面都有所不同，初學者如果對二者沒有明確的認識，學習起來往往會比較吃力，尤其是那些來自統計學和經濟學領域的初學者們。
引數作為模型從歷史訓練資料中學到的一部分，是機器學習演算法的關鍵。
統計學中的「引數」：
在統計學中，你可以假設乙個變數的分布，比如高斯分布。高斯分布的兩個引數分別是平均值（μ）和標準差（sigma）。這在機器學習中是有效的，其中這些引數可以用資料估計得到並用作**模型的一部分。
程式設計中的「引數」：
程式設計中可以將引數傳遞給函式。在這種情況下，引數是乙個函式引數，可以有乙個值範圍。在機器學習中，您正在使用的具體模型就是函式，需要引數才能對新資料進行**。
根據經典的機器學習文獻，可以將模型看作假設，而引數是根據特定的資料集對假設進行的具體調整。
模型是否具有固定或可變數量的引數，決定了模型是「引數」模型或「非參」模型。
簡單來說，模型引數就是模型內部的配置變數，可以用資料估計它的值。
具體來講，模型引數有以下特徵：
進行模型**時需要模型引數。
模型引數值可以定義模型功能。
模型引數用資料估計或資料學習得到。
模型引數一般不由實踐者手動設定。
模型引數通常作為學習模型的一部分儲存。
通常使用優化演算法估計模型引數，優化演算法是對引數的可能值進行的一種有效搜尋。
模型引數的一些例子包括：
人造神經網路中的權重。
支援向量機中的支援向量。
線性回歸或邏輯回歸中的係數。
模型超引數是模型外部的配置，其值不能從資料估計得到。
具體特徵有：
模型超引數常應用於估計模型引數的過程中。
模型超引數通常由實踐者直接指定。
模型超引數通常可以使用啟發式方法來設定。
模型超引數通常根據給定的**建模問題而調整。
怎樣得到它的最優值：對於給定的問題，我們無法知道模型超引數的最優值。但我們可以使用經驗法則來探尋其最優值，或複製用於其他問題的值，也可以通過反覆試驗的方法。
模型超引數的一些例子包括：
訓練神經網路的學習速率。
支援向量機的c和sigma超引數。
k鄰域中的k。
二者的聯絡
當針對特定問題調整機器學習演算法時，例如在使用網格搜尋或隨機搜尋時，你將調整模型或命令的超引數，以發現乙個可以使模型**最熟練的模型引數。許多模型中重要的引數無法直接從資料中估計得到。例如，在k近鄰分類模型中…這種型別的模型引數被稱為調整引數，因為沒有可用的分析公式來為其計算乙個合適的值。
二者區分
模型超引數通常被稱為模型引數，這種叫法很容易讓人產生誤解。解決這個問題的乙個很好的經驗法則如下：如果你必須手動指定乙個「模型引數」，那麼它可能就是乙個模型超引數。
讀完這篇文章可以了解模型引數和模型超引數的明確定義和區別。
總而言之，模型引數是從資料中自動估計的，而模型超引數是手動設定的，並用於估計模型引數的過程。
在最小二乘法裡，線性回歸模型中，w是權重，b是偏置，類似於y=kx+b,k就是調整直線方向的，b就是調整直線左右位置的。
模型引數與模型超引數
模型引數是模型內部的配置變數，其值可以根據資料進行估計。模型在進行 時需要它們。它們的值定義了可使用的模型。他們是從資料估計或獲悉的。它們通常不由程式設計者手動設定。他們通常被儲存為學習模型的一部分。引數是機器學習演算法的關鍵。它們通常由過去的訓練資料中總結得出。在經典的機器學習文獻中，我們可以將模...
引數和超引數
舉例說明一些機器學習演算法中的普通引數和超引數 機器學習演算法 普通引數舉例 超引數舉例 決策樹在每個節點上選擇的輸入變數 每個節點上選擇的閾值 每個葉節點所應包括的最少資料量，訓練後的剪枝 pruning 策略 隨機森林 同上決策樹的數量，輸入變數的數量 支援向量機 支援向量 support ve...
模型引數 超參（28）
模型引數 需要在訓練資料上通過某種演算法方式找出來的特徵引數，也就是需要訓練的引數，eg 線性回歸中的 值 超引數 在模型訓練過程中演算法需要使用到的引數值，這個引數值會影響最終模型引數的求解，所以需要開發人員給定，比如 ridge演算法中的正則化項係數alpha引數 給定方式 1.可以根據演算法的...