降低損失 迭代方法

2021-10-10 05:13:17 字數 978 閱讀 4689

迭代學習類似與「hot and cold」這類兒童遊戲

以下為機器學習演算法用於訓練模型的迭代試錯過程

整個機器學習過程中使用相同的迭代方法詳細說明各種複雜情況,尤其處於暴風雨中的藍雲區域

「模型」 部分將乙個或多個特徵作為輸入,然後返回乙個**(y』)作為輸出

y' = b + w1x1
對於線性回歸問題,事實證明初始值並不重要隨便取值:

假設第乙個特徵值是10,將該特徵值帶入**函式會的得到以下結果:

y' = 0 + 0(10)

y' = 0

「計算損失」部分是模型將要使用的損失函式假設使用平方損失函式,將採用兩個輸入值:

最後,檢視「計算引數更新」部分,機器學習系統檢查損失函式的值,為bw1生成新值。

機器學習系統根據所有標籤重新評估所有特徵,為損失函式生成乙個新值,新值再產生新的引數值,持續迭代,直到該演算法發現損失可能最低的模型引數。根據使用者,也可不斷迭代,知道總體損失不再變化或者變化極其緩慢為止,該模型已收斂

降低損失 迭代方法

下圖顯示了機器學習演算法用於訓練模型的迭代試錯過程 圖1用於訓練模型的迭代方法 我們將在整個機器學習課程中使用相同的迭代方法詳細說明各種複雜情況,尤其是上圖中的藍色區域。迭代策略在機器學習中的應用非常普遍,這主要是因為它們可以很好地擴充套件到大型資料集。模型 部分將乙個或多個特徵作為輸入,然後返回乙...

谷歌機器學習速成課程 3降低損失 迭代方法

迭代學習可能會讓您想到 hot and cold 這種尋找隱藏物品 如頂針 的兒童遊戲。在我們的遊戲中,隱藏的物品 就是最佳模型。剛開始,您會胡亂猜測 w 1 w1 的值為 0。等待系統告訴您損失是多少。然後,您再嘗試另一種猜測 w 1 w1 的值為 0.5。看看損失是多少。哎呀,這次更接近目標了。...

學習筆記 降低損失

機器學習模式是以迭代的方式來降低損失,這種方法有點像 hot and cold 這種兒童遊戲,在遊戲中,隱藏的物品就是最佳模型,剛開始我們會胡亂猜測,比如w 0,然後系統告訴我們損失是多少,然後我們再重新猜測乙個值,看看損失是多少,通常我們會越來越接近目標。問題是我們如何盡可能高效的找到最佳的模型。...