AI 辨識

近年來，AI 與機器學習的發展和應用日漸普及，不過 AI 亦不是萬能，亦會有受騙的時候。近日 OpenAI 的研究員發現，若以照片進行物件辨識的 AI 竟然會被手寫標籤的內容而影響致誤判。在研究中發現，只要以人寫的「字串」標籤直接愛到原本要讓 AI 辨識的物件上，則會導致結果錯誤，並成功被引導致手寫的字串代表的物件。如在一顆青蘋果上，貼上了寫著「iPod」的紙標籤，AI 最後竟真的將其辨認為 iPod。這種明「指鹿為馬」的瞞騙行為，被研究員命名為「印刷攻擊」(typographic attack

中國阿里安全研究團隊發佈了一項新研究，只要簡單利用激光筆，就可讓自動導航用的 AI 模型失效。在這個研究中，他們設計了一種算法造成模擬光束，對AI模型作出「攻擊」，並有效地對現有基於 AI 的視覺系統 (如基於 AI 視覺的自動駕駛) 造成影響。 研究當中指出，只要利用簡單的激光筆，並不需要對 AI 模型作出物理攻擊，即能使 AI 對模型誤判。如上圖所示，被激光照射的路牌標示，AI 並不能正確地認出標示內容。當不同頻譜的光束射到同一物體上，AI 可能將該物體識別錯誤，比如停車標誌識