危險

中國阿里安全研究團隊發佈了一項新研究，只要簡單利用激光筆，就可讓自動導航用的 AI 模型失效。在這個研究中，他們設計了一種算法造成模擬光束，對AI模型作出「攻擊」，並有效地對現有基於 AI 的視覺系統 (如基於 AI 視覺的自動駕駛) 造成影響。 研究當中指出，只要利用簡單的激光筆，並不需要對 AI 模型作出物理攻擊，即能使 AI 對模型誤判。如上圖所示，被激光照射的路牌標示，AI 並不能正確地認出標示內容。當不同頻譜的光束射到同一物體上，AI 可能將該物體識別錯誤，比如停車標誌識