在交通標誌上做手腳 黑客竟成功劫持一輛自動駕駛汽車

2022-06-04 01:18:08 字數 851 閱讀 2913

據autoblog**報道,來自華盛頓大學、密西根大學、石溪大學和加州大學伯克利分校的研究人員已經想出了一種愚弄自動駕駛汽車的影象識別系統方法,通過在交通標誌上新增標籤來入侵自動駕駛汽車。

他們先通過分析視覺系統應用的演算法得到其影象識別的方法,然後應用許多不同的攻擊方式來巧妙地改變交通標誌,以誘騙機器學習模型進入誤讀狀態。例如,他們通過列印標籤成功誘騙一輛自動駕駛車輛上配備的視覺系統,使之將45英里每小時的標誌讀取為停車標誌,這樣的後果在現實世界中顯然是非常糟糕的。

在 《對機器學習模式的強大物理世界攻擊》這篇**中,作者論證了僅使用一台彩色印表機與一部攝像頭機就能破壞機器讀取和分辨交通標誌的四種不同的方式。這些實驗中使研究人員感到困惑的問題是,交通標誌的改變從外觀上看都會迷惑人類的眼睛,不易察覺,它們或者偽裝成塗鴉等藝術,或者成為某種交通標誌的意象。

第一種方法需要列印乙個同等尺寸的停止標誌來覆蓋原有的交通標誌(可能是限速,也可能是轉彎),使之看起來很正常,但對人類而言某些地方可能有點褪色。在實驗中,無人駕駛汽車每次都把這一標誌當作限速標誌。

第二種方法,在原有的停止標誌上帖上一些塗鴉標籤,結果無人駕駛汽車在三分之二的情況下都將該標誌識讀為限速標誌,甚至有一次讀成了讓路標誌。

第三種方式,使用「抽象藝術」,即在原有標誌上帖上多個小的、放在特定位置的標籤,結果就和第一種方法一樣,無人駕駛汽車會把「停止」標誌識讀為限速標誌。

第四種方法,研究人員用灰色標籤遮住了右轉標誌的箭頭,結果,在三分之二的情況下無人駕駛汽車把該標誌誤讀為「停止」,在三分之一的情況下把它誤讀為「附加車道」。

研究人員指出,解決上述誤讀的方法並不難,只需要在自動駕駛系統中加入類似情況的處理模式,讓其判斷自己是否誤讀了交通標誌。此外,還可以借助車上配備的多個攝像頭和雷射雷達感測器,從而建立起保護機制

交通標誌識別

交通標誌識別實際上包括交通標誌的檢測和識別兩個過程,檢測是在影象中尋找到感興趣目標並定位,識別是對感興趣目標進行分類。現在r cnn系列 yolo ssd能夠很好的將檢測和分類兩個過程融合到一起,並且在pascal voc等資料集上取得了很好的效果,但對像交通標誌這種小目標的檢測效果並不好。就交通標...

交通標誌識別 語句筆記

np.unique 該函式是去除陣列中的重複數字,並進行排序之後輸出。計算label個數時適用。from colletions import counter 求陣列中每個數字出現了幾次 from collections import counter a 1,4,2,3,2,3,4,2 b count...

PaddleHub實現交通標誌識別

完成深度學習的過程一般是這個樣子的 由於資料 模型 和算力的限制,我們很難在短時間內完成乙個快速準確的工程專案,所以我們會採用遷移學習 transfer learning paddlehub完成遷移學習的過程可以被描述為六個步驟 載入資料 載入模型 資料處理 優化策略 執行配置 finetune p...