[XF 新聞] Tim Cook 不能保證 AI 幻覺不會出現  Siri 或者會提供不實或誤導訊息

- 辛尼 - 2024-06-14

在最近的一次華盛頓郵報訪問中,Apple CEO Tim Cook 表達了對於全新推出的 Apple Intelligence 系統可能產生的 AI 幻覺(AI hallucination)問題的擔憂。儘管他對這項技術的品質持有高度信心,但坦言無法百分百確保不會出現錯誤或誤導性信息。

Tim Cook 表示:“我們已經盡了最大努力,包括在我們使用技術的領域中深思熟慮技術的準備情況。我對此技術的品質非常自信,但老實說,這並不代表能達到 100% 的準確性。” Apple 在 WWDC 2024 上展示了這一系統,Apple Intelligence 將為 iPhone、iPad 和 Mac 引入 AI 功能,包括生成電子郵件回應、創建自定義表情符號、摘要文本等。然而,正如其他 AI 系統一樣,新系統也可能會出現所謂的“幻覺”問題,即 AI 提供不實或誤導的訊息。

此外,Apple 宣布將與 OpenAI 合作,在 Siri 中整合 ChatGPT。當 Siri 接收到更適合由聊天機器人回答的問題時,將轉向使用 ChatGPT,但在此之前會徵求用戶許可。Tim Cook 對此解釋說,選擇與 OpenAI 合作是因為該公司在隱私保護方面是“先驅”,且目前擁有“最佳模型”。他還提到,未來 Apple 可能不單止與 OpenAI 合作。在發布會後的直播會議上,Apple 高級副總裁 Craig Federighi 也表示,最終可能會將 Google 的 Gemini 系統帶到 iOS 上。