機器學習 關於調參

2021-09-01 18:29:37 字數 814 閱讀 9204

關於引數

feature scaling

機器學習中對於引數的理解不是數學中的數字,而是代表的是一種邏輯的趨勢的數字,這種邏輯是人類對場景的邏輯,也可以看作是人思想上對場景與數字引數的經驗,所以機器學習中的運算,不是數字的運算,而是邏輯的運算,如何設計出符合人類邏輯規律的運算,才能更好的**趨勢,這種數字概念更多指向場景對引數的邏輯,而並非數學世界的數字引數。人類邏輯是一種更為複雜的運算,它區別於單純的算數運算,但究其根本也是一種運算,所以機器學的運算是模仿人類的邏輯的複雜運算,其本源是單純的數**算,如何構建出更加符合人類邏輯的運算體系,是機器學習的最終課題。

關於 引數 -1< x < 1

方差公式的侷限性,要求最優終值無限逼近零,正是因為這種特性,我們必須對與引數調整以符合算術規則,來模仿邏輯。算術運算上的零意味著邏輯世界的最優策略,這種公式化的粗糙邏輯模仿存在許多問題,我們需要調整引數的權重讓它符合算術世界的零,從而獲得我們邏輯世界的最優策略。 (調參工程師由此產生-。- )

引數的調整,一方面是引數對場景的意義,另一方面是引數對公式的意義。如何讓公式更加有效的模仿場景去運算引數,是我們調參的重點,一是理解引數與場景的關係,而是理解引數與公式的關係,然後調整引數讓公式去模仿場景,讓算術運算去模仿邏輯運算。關於如何模仿邏輯運算,就要構建乙個像人類一樣的負責的運算體系。

特徵值權重思想更加符合場景對不同引數的敏感度,不同的引數對於場景權重不同。

引導學習的作用

場景變換,環境變化對機器學習的影響,如何正確的引導機器學習給予演算法以靈魂,當我們在場景改變的時候是否可以調整對機器學習運算的策略,如何給予機器學習更加自由的場景,以改變場景而並非改變引數來影響結果,是我們需要思考的。

機器學習 調參

在實際調整引數之前,我們先要搞清楚兩個事情 1.調參的目的是什麼?2.調參調的東西具體是什麼?第乙個問題 調參的目的是什麼?調參的最終目的是要使訓練之後的模型檢測物體更精確,向程式的方向更靠近一步的話,就是使得損失函式 例如ssd中的loss 盡量小 因為利用訓練集訓練出來的模型質量在訓練過程中只能...

機器學習 演算法調參

coding utf 8 演算法調參.ipynb automatically generated by colaboratory.original file is located at 超引數優化 這是機器學習模型解決問題的最後乙個步驟,並不是整個解決方案的最後一步。不會調參就不能說會機器學習。引數...

機器學習調參方法

網格搜尋交叉驗證 通常是在全量資料上做的,會自動切分成幾折 有時候會注意做分層抽樣去保證資料分布 參考的kaggle kernel early stopping 這個通常需要切分訓練集和驗證集,我們會根據驗證集去確定最佳的輪次,但是除掉迭代輪次以外其他的引數需要通過經驗或者gridsearch敲定。...