危險

AI 界仙人指路 ? 停止標誌誤判可通行 ? 有研究發現利用激光筆可影響自動駕駛判斷

中國阿里安全研究團隊發佈了一項新研究,只要簡單利用激光筆,就可讓自動導航用的 AI 模型失效。在這個研究中,他們設計了一種算法造成模擬光束,對AI模型作出「攻擊」,並有效地對現有基於 AI 的視覺系統 (如基於 AI 視覺的自動駕駛) 造成影響。 研究當中指出,只要利用簡單的激光筆,並不需要對 AI 模型作出物理攻擊,即能使 AI 對模型誤判。如上圖所示,被激光照射的路牌標示,AI 並不能正確地認出標示內容。當不同頻譜的光束射到同一物體上,AI 可能將該物體識別錯誤,比如停車標誌識