對抗樣本即是被用心構造出來，利用演算法的漏洞來被錯誤分類的樣本。舉個例子，前段時間有人發現，只要手持一類，監控裝置就無法將你識別為人類。前面的課程也有例子，一幅大象的，只要加上微不足道的噪點，演算法就會將它識別為別的東西。下面是另乙個例子：
左右兩個熊貓在人眼看來毫無區別，但在左圖加上乙個精心構造的縮小了很多倍的看上去毫無意義的後，計算機卻會將右邊的熊貓判別為長臂猿。更有趣的是，在進行處理後，計算機對右圖的置信度甚至還提高了：左圖被斷定為熊貓的置信度只有60％，而右圖被判定為長臂猿的置信度卻達到了99.9％。
另一種對抗樣本是，對原始樣本做出一些改動，使其在人類看來已經變成了另一類，然後演算法仍將其歸類為原來的類別。
那麼，導致深度模型對反抗樣本力不從心的原因是什麼？乙個猜想是模型過擬合導致泛化能力不夠。然而，通過加入更多雜訊訓練等方式來應對對抗樣本的企圖均告失敗。
另外乙個猜測是模型的高度非線性，但研究發現只要線性模型的輸入擁有足夠的維度（事實上大部分情況下，模型輸入的維度都比較大，因為維度過小的輸入會導致模型的準確率過低，即欠擬合），線性模型也對對抗樣本表現出明顯的脆弱性，這駁斥了關於對抗樣本是因為模型的高度非線性的解釋。
事實上，高維空間中的線性性就足以造成對抗樣本，深度模型對對抗樣本的無力最主要的還是由於其線性部分的存在。
為了利用對抗樣本來提高模型的抗干擾能力，對抗訓練誕生了，隨後變提出了對抗樣本生成網路，即gans。
day00 對抗樣本學習
接觸對抗樣本的第一天，主要從概念，結構，演算法三個方面來了解。其中學習內容多來自以下幾篇文章和部落格，侵刪。演算法 概念 概念 實現 是指資料集 影象資料集 經過優化改變其特性，而外表沒有變化得到的資料集，分類時這些樣本資料會分類錯誤，即所說的對抗樣本。乾淨樣本是原始資料集，能正確分類的樣本。生成對...
人智導（五） 對抗搜尋與博弈
對抗搜尋 adversarial search 源於博弈 game playing 博弈問題定義為搜尋問題 下圖為井字棋遊戲的博弈樹 utility值針對的是max棋手，min的值正好相反 博弈樹較小，9 362880 9 362880 9 362 880個結束狀態，對於西洋棋等現實問題來說很小 資...
STP 17 對抗單向鏈路問題
單向鏈路問題是指鏈路上的兩條傳輸路徑中，有一條出現了問題，但並不是兩條同時出現問題。這可能是因為線纜錯誤 切斷了一條光纖線纜 拔掉了一根管線 gbic問題，或其他問題。因為stp會監控入向bpdu，以便知道何時重新收斂網路，單向鏈路兩端的鄰接交換機可能都會成為 狀態，從而造成環路，如圖所示。上圖顯示...