過去，深度學習快速發展，在許多方面得到了廣泛應用，比如語音識別、影象分類、目標檢測等。但隨之而來的是它的安全性問題。2023年，szegedy等人發現，對影象新增小的擾動，能夠以高概率欺騙深度神經網路（dnn），使其產生錯誤的分類結果，這些錯誤分類的樣本被稱為對抗樣本。
對抗樣本（adversarial examples）：指在資料集中通過故意新增細微的干擾所形成的輸入樣本，這些樣本導致模型以高置信度給出乙個錯誤的輸出。在原始資料上新增的干擾是人為精心構造的，人眼難以察覺。
如下圖所示：
原來為汽車的，新增了擾動之後，我們人眼看上去依然是一輛汽車，但是在dnn模型中，它會被錯誤地識別為鴕鳥。
正因為對抗樣本的存在，深度學習所應用的各領域的安全性難以得到保障。比如自動駕駛，如果犯罪分子將人煙稀少地區的交通訊號牌改為立即停車，那麼車上的人看不出有什麼不妥，但自動駕駛汽車卻乖乖地停車了。如此一來，車上的人就會受到財產安全甚至是人身安全的威脅。
關於對抗樣本的分類，主要有以下幾種：
範數是一種強化了的距離概念，在對抗樣本中用於測量擾動的大小。範數的定義為：
l p=
∣∣x∣
∣p=∑
i=1n
xipp
l_p=||x||_p=\sqrt[p]^n x_i^p}
lp=∣∣
x∣∣p
=p∑
i=1n
xip
mnist、cifar-10和imagenet是用於評估對抗性的三個最廣泛使用的影象分類資料集。
對抗樣本在影象、語音以及惡意軟體方面都有應用。由於後面看的**都是影象領域的，所以目前研究重點是在影象這一塊。
攻擊對抗基礎知識
對抗攻擊基礎知識，主要是對抗方法 對抗方法 fgsd fast gradient sign method 一種基於梯度生成對抗樣本的演算法 fgm fast gradient method 對fgsd做了推廣，使其能夠滿足 l2約束 ifgsd iterative gradient sign met...
電腦的基礎知識 電腦的基礎知識介紹
起尾我們需相識電腦的底子形成著名我們顧到的電腦皆是由 主機 次要部分 輸出裝置 矯飾器 輸出裝置 鍵盤戰滑鼠 三年夜件形成。而主機是電腦的主體，正在主機箱中有 主機板 cpu 記憶體 電源 音卡 音效卡 網絡卡 軟盤 軟碟機 光碟機等軟體。從底子機挨開往道，電腦不妨分為五年夜部分 運算器 記憶體器 ...
相關基礎知識
宣告 在作者學習資料結構的過程中發表的博文，一般是自己學習後知識點的總結，同時有些是摘抄於教材的，學習教材為 資料結構 c語言版 秦峰主編。特此宣告，後續博文不在重複說明。一 基本概念 資料 data 是對客觀事物的符號表示，它能夠被計算機識別 儲存 和加工處理。資料元素 data element ...