法官警告:AI生成式內容可能造假,首度下令禁止律師使用 ChatGPT

- Arthur Chan - 2023-06-07

美國德克薩斯州一位法官下令律師聲明不會使用 ChatGPT 等生成式 AI 技術來起草法律簡要。這一決定是由於一位律師使用 ChatGPT 撰寫的簡要被發現包含錯誤和捏造的案例。法官指出生成式 AI 存在虛假內容和偏見的風險,並強調在法律內容創作中仍需人工監督和批判性分析的重要性。

斯塔爾法官在他的命令中寫道:「這些平台在目前的狀態下容易產生虛假內容和偏見。在虛假內容方面,它們會編造東西,甚至包括引用和引證」。

圖片來源:MarketRealist

儘管如此,法官承認 AI 在法律領域的其他方面具有潛在好處,如幫助處理常規任務和加速法律研究。文章還提到生成式 AI 的限制和風險,包括可能產生不正確的答案和引入偏見。法官要求律師提交宣誓保證,以確保 AI 生成內容的正確性和職業道德。

生成式 AI 雖然令人印象深刻,但仍然是一種不斷發展的技術,帶有限制和風險。一個主要的擔憂是像ChatGPT 這樣的 AI 模型生成的答案或信息可能是不正確的。由於這些模型的不斷發展性質,它們可能出現事實、語法和推理方面的錯誤。使用者必須謹慎行事,獨立驗證 AI 生成內容的準確性。此外,由於 AI 模型是根據可能存在固有偏見的數據進行訓練,因此可能引入偏見。這引發了關於文化、種族和性別偏見的擔憂。

根據 ResumeBuilder.com 的一項調查,發現美國 49% 的公司目前正在使用 ChatGPT,另外 30% 計劃在不久的將來採用這項技術。該調查突顯了 ChatGPT 在企業中越來越受歡迎的趨勢,許多公司已經受益於它。數據顯示了一個積極的趨勢,93% 的現有用戶表示他們打算擴大對 ChatGPT 的使用。這表明AI 聊天機器人正在成為美國各行業中的一個有價值的工具。

資料來源:MarketRealist、ResumeBuilder