1. dropout技術：在訓練深度學習網路的過程中，按照一定概率將一部分神經網路單元丟棄掉，即從原始的網路中找出乙個更瘦的網路。
2. 機器學習主流的學習演算法分為無監督學習和監督學習。
3. 監督學習下的回歸問題主要**連續值得輸出，而分類問題**離散值的輸出。
4. m：訓練樣本的數量
x：輸入變數/特徵
y：輸出變數/**的目標變數
（x，y）表示乙個訓練樣本，用（x^(i)，y^(i)）表示特定的第i個訓練樣本
5. 「batch」梯度下降演算法每一步的梯度下降都遍歷了整個訓練集，因為計算了整個訓練集的導數和。而別的梯度下降演算法只關注了訓練集的小子集。
6. 多元梯度下降演算法為了更快的下降，需要對特徵值進行縮放，一般是xi = （xi-平均值）/ （範圍最大值-最小值）
7. 求代價函式的最小值通常有梯度下降法和正規方程法求得引數的最優解。正規方程法不需要特徵縮放。
機器學習隨筆（1） 交叉驗證
基本思想 交叉驗證的基本思想是把在某種意義下將原始資料 dataset 進行分組,一部分做為訓練集 train set 另一部分做為驗證集 validation set or test set 首先用訓練集對分類器進行訓練,再利用驗證集來測試訓練得到的模型 model 以此來做為評價分類器的效能指標...
機器學習之隨筆
以下全部是自己理解。希望大神們可以給予指導，萬勿噴我，玻璃心。謝謝！1.什麼是手動標註？人為的對資料進行手動標註，給予其 類標號 2.什麼是ground truth？就是資料的真是類標號 標籤。3.什麼是監督？就是資料有自己的真實類標號。4.什麼是無監督？資料沒有自己的真實的類標號。5.什麼是半監督...
學習隨筆 1
大學四年很快就要過去了，這個學期我要做畢業設計，題目是基於twincat的機械人運動控制系統的設計。說實話，我校的機械設計製造及其自動化專業雖然在國內名列前茅，但對於本科階段的教育過於注重設計與製造，而對於其自動化的部分則有明顯輕視 也可能是因為我們沒有立足自動化的課程設計吧，反正各種課設使我具備了...