安全問題

AI 界仙人指路 ? 停止標誌誤判可通行 ? 有研究發現利用激光筆可影響自動駕駛判斷

中國阿里安全研究團隊發佈了一項新研究,只要簡單利用激光筆,就可讓自動導航用的 AI 模型失效。在這個研究中,他們設計了一種算法造成模擬光束,對AI模型作出「攻擊」,並有效地對現有基於 AI 的視覺系統 (如基於 AI 視覺的自動駕駛) 造成影響。 研究當中指出,只要利用簡單的激光筆,並不需要對 AI 模型作出物理攻擊,即能使 AI 對模型誤判。如上圖所示,被激光照射的路牌標示,AI 並不能正確地認出標示內容。當不同頻譜的光束射到同一物體上,AI 可能將該物體識別錯誤,比如停車標誌識

一個地點令 Tesla 死機 ? 台灣車主導航到「開元路土魠魚羹」即黑畫面死機 !!!

近日在一些 Tesla 的群組內,流傳一個 Tesla 的 BUG,一旦觸發這個 BUG 就會令車上的電腦系統馬上「死機」。 跟據事主的說法就是,當在 Tesla 導航說「開元路土魠魚羹」,然後電腦立即黑畫面再重啟,若果在自動導航行駛期間,碰上類似的 BUG 實在十分危險。而目前 Tesla 官方目前還未有任何說法,故未知問題的成因是什麼,不過確幸的是目前只有這個「開元路土魠魚羹」位置的導航目的地會出事。 https://www.youtube.com/watch?v=aFi1_yd