為什麼可以通過給目標函式增加乙個正則項來防止其過擬合？（來使其更圓滑？）
（在實現mf矩陣分解演算法的時候，也有給損失函式增加乙個正則項：推薦系統之矩陣分解及其python**實現）
經常用來控制過擬合現象的一種技術是正則化（regularization）。
這種技術涉及到給誤差函式
增加乙個懲罰項，使得係數不會達到很大的值。
這種懲罰項最簡單的形式採用所有係數
的平方和的形式。
誤差函式的修改後的形式：
其中，係數 λ 控制了正則化項相對於平方和誤差項的重要性。
像這樣的技術在統計學的文獻中被叫做收縮（shrinkage）方法，因為這種方法減小了係數的值。
二次正則項的乙個特殊情況被稱為山脊回歸（ridge regression）（hoerl and kennard, 1970）。 在
神經網路的情形中，這種方法被叫做權值衰減（weight decay）。
另外，避免過擬合的其他方法有：
1）early stopping；
：記錄到目前最好的值， 可以看loss，也可以看測評指標， 連續多少次迭代都沒有超過這個最好值就可以停了。
與增加乙個正則項的方法有什麼本質區別？
—— 增加乙個正則項的方法：是避免引數過擬合（約束所有的引數不過擬合，但是引數組合以後的情況不可預料的。
—— early stopping是從結果上看的，
2）增大資料集的規模；
正則化（regularization）包括l1、l2（l2 regularization也叫weight decay）；
3）dropout（為了防止神經網路**現的過擬合）；
【reference】
1、正則化為什麼能防止過擬合
2、prml
通過socket來進行乙個UDP通訊
前言 internet 協議集支援乙個無連線的傳輸協議，該協議稱為使用者資料報協議，一般用在廣播等地方，因為他不在意對方是否收到 udp 客戶端 先接收資料,先執行 1 建立乙個socket套接字 呼叫socket函式,建立乙個網路描述符 include include include includ...
給軟體增加乙個啟動螢幕來提公升啟動體驗
日期 備註2020.05.01 初稿2020.05.02 調整章節 2020.05.03 增加尾聲 常見的大型軟體，如word excel photoshop visual studio等等，由於啟動時要載入很多模組，為了提高介面響應，都會在啟動時會先開啟乙個小視窗，等到主介面初始化完成之後再關閉。...
H 通過按鈕來新增乙個選項卡
方法如下 說明 參照框架的contabs.js 進行方法修改，由於是在iframe層操作按鈕，所以只需要在原有的基礎上加上window.parent.document 去獲取相應的物件即可實現。新增選項卡 function createmenuitem dataurl,menuname flag f...