在神經網路的訓練當中, 神經網路可能會因為各種各樣的問題, 出現學習的效率不高, 或者是因為干擾太多, 學到最後並沒有很好的學到規律 . 而這其中的原因可能是多方面的, 可能是資料問題, 學習效率 等引數問題.
檢驗資料，我們一般將現有的資料劃分成兩個集合：訓練集和測試集，使用訓練集訓練模型，使用測試集考察訓練的模型對於未見樣本的泛化能力。
機器學習可以從誤差的開始值, 隨著訓練時間的變長, 優秀的神經網路能**到更為精準的答案, **誤差也會越少 . 到最後能夠提公升的空間變小, 曲線也趨於水平 .
最好的精度是趨向於100%精確. 比如在神經網路的分類問題中, 100個樣本中, 我有90張樣本分類正確, 那就是說我的**精確度是90%.怎樣看**值是連續數字的精確度? 這時, 我們可以引用 r2 分數在測量回歸問題的精度 . r2給出的最大精度也是100%, 所以分類和回歸就都有的統一的精度標準. 除了這些評分標準, 我們還有很多其他的標準, 比如 f1 分數 , 用於測量不均衡資料的精度.
平方差衡量回歸模型的好壞
機器學習之效能度量指標——決定係數r^2、pr曲線、roc曲線、auc值、以及準確率、查全率、召回率、f1_score
l2：l1，正規化；
dropout（失活）方法
交叉驗證
在給定的建模樣本中，拿出大部分樣本進行建模型，留小部分樣本用剛建立的模型進行預報，並求這小部分樣本的預報誤差，記錄它們的平方加和。
我們通過訓練集訓練的模型對於訓練樣本的的擬合程度十分高，就會放大一些不必要的特徵，再對測試集進行測試時，就容易造成測試精度很低，也就是模型的泛化能力很弱，這就是過擬合
神經網路學習筆記（六） 廣義回歸神經網路
可以看出，這個結構與之前我們所講過的徑向基神經網路非常相似，區別就在於多了一層加和層，而去掉了隱含層與輸出層的權值連線。1.輸入層為向量，維度為m，樣本個數為n，線性函式為傳輸函式。2.隱藏層與輸入層全連線，層內無連線，隱藏層神經元個數與樣本個數相等，也就是n，傳輸函式為徑向基函式。3.加和層中有兩...
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入，它將深度學習的思想引入到了神經網路當中，通過卷積運算來由淺入深的提取影象的不同層次的特徵，而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數，從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象，我盡量在下面描述細緻一些，但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張，通過對應位置相乘求和，我們從左邊矩陣得到了右邊矩陣，邊緣是白色寬條，當畫素大一些時候，邊緣就會變細。觀察卷積核，左邊一列權重高，右邊一列權重低。輸入，左邊的部分明亮，右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡，下面這個圖左邊暗...