loss函式及限制條件：
無目標攻擊：l=負的（y『與y true）交叉熵（輸入的x』使y『與y true越遠越好）
有目標攻擊：輸入的x』使y『與y true越遠越好且y』與y false越近越好
限制條件：x與x0距離需要小於乙個值，不被發現，否則攻擊就無意義（攻擊的目標是x在乙個小的變化內使模型失效）
限制距離 建議使用l-infinity，及取最大的△x，否則可能乙個區域的變化足夠大到被人發現
模型攻擊分為黑箱攻擊和白箱攻擊：
白箱攻擊是已知模型的引數，直接用模型引數做梯度下降由x得出x『
黑箱攻擊是不知模型引數，但已知模型訓練用的資料集，利用此資料集自己訓練乙個網路，再對此網路進行攻擊得到x』
另外還存在對任意x都適用的攻擊noise，稱為universial attack
同時，攻擊在不同模型間可能是普遍適用的（黑箱攻擊的原理**）
防禦：加一層過濾器，可以採用smooth、padding等操作，使雜訊歸一化從而達到防禦的效果
李巨集毅機器學習 Introduction
人工智慧是我們想要達到的目標，即讓機器和人一樣智慧型。而機器學習是方法，讓機器從資料中學習，從而得到智慧型的方法。智慧型是什麼呢？對於人類智慧型而言，根據霍華德 加德納的多元智慧型理論，人類的智慧型分為以下七種智慧型 這不僅涵蓋了現在人工智慧的研究領域，計算機視覺 語音識別 自然語言處理等。而且也指...
李巨集毅機器學習 學習筆記
function set就是model 機器學習3大步驟 1.定義模型 function 集合 2.指定模型 function 好壞的評價指標 3.通過演算法選擇到最佳的模型 function alphago下棋模型抽象為棋局向下一步的分類問題 減少擁有label的data用量的方法 1.semi ...
李巨集毅機器學習任務二
偏差 偏差是指所有取樣得到大小為m的訓練資料集訓練出的所有模型的輸出平均值和真實模型輸出之間的偏差 方差 方差是指所有取樣得到大小為m的訓練資料集訓練出的所有模型的輸出的方差 公式推導 見西瓜書p45 從boosting和bagging角度解釋偏差和方差 bagging 是從降低方差的角度，多個弱分...