智能系統並不聰明 - Tesla 自動駕存在漏洞,幾張貼紙就能使系統誤判?

- 軒仔 - 2019-04-06 - visibility Views

現在 AI 駕駛正發展得如火如荼,不過在這個領域上安全和可靠性一直備受關注。最近,有研究人員發現,只要簡單的一個方法,就能讓 TESLA 汽車的自動巡航系統錯誤判斷,從而變換線路,而且並不需要什麼駭客方式。

TESLA 的自動駕駛有多種能力,包括車道置中、自動泊車,以及在駕駛員同意後自動變道。這些功能都依靠車上的鏡頭、超聲波 Sensor、雷達來獲取環境信息,如障礙物、地形和車道變化等。車上的電腦再按照數據再以演算法來選擇最佳應對方式。

 

 

本次研究人員,以三張肉眼近乎不可見的貼紙貼於路面,但卻可使 TESLA 的自動駕駛誤認為車道線,從而作出變換車道的行為。除了方法非常簡單外,材料也十分容易取得。這個方式若果被人惡意使用,很有機會造成交通意外。

 

TESLA 官方對此表示完全不用擔心,他們認為這需要有人來改變自動駕駛汽車周圍的環境,而這不太現實。TESLA 亦多次強調駕駛員也應該負起責任,時刻注意轉向或剎車,防止自動駕駛潛在的錯誤操作。

 

資料來源