隨著生成式人工智能（Generative AI）技術的發展，其應用範圍日益拓展至醫療領域，吸引了包括大型科技公司和新創企業的關注與投資。然而，這一趨勢並非受到所有人的歡迎。
谷歌雲端（Google Cloud）與位於匹茲堡的非營利醫療組織 Highmark Health 合作，開發旨在個性化患者接待體驗的擬人化AI工具。亞馬遜的 AWS 部門也表示，他們正在與客戶合作使用擬人化 AI 來分析醫療數據庫，以探索「社會健康決定因素」。此外，微軟 Azure 正協助建立一個自動將患者信息分類至醫療提供者的擬人化 AI 系統。
儘管擬人化 AI 在醫療行業的創新應用受到了一部分投資者的青睞，但專業人士和患者對是否應該在此時推廣擬人化 AI 技術持有保留態度。根據德勤的一項調查，只有大約一半的美國消費者認為擬人化 AI 能夠改善醫療服務，如使其更易於獲得或縮短預約等待時間。
美國退伍軍人事務部最大的醫療系統—— VA Sunshine Healthcare Network 的首席 AI 官 Andrew Borkowski 對擬人化 AI 技術的早期部署表示擔憂。他認為，擬人化 AI 在處理複雜的醫療問題或緊急情況時存在明顯的限制，這可能導致錯誤的診斷或不當的治療。
此外，擬人化 AI 在醫療行業的應用也可能不自覺地加力建立在錯誤信念上的刻板印象。例如，斯坦福醫學院的一項研究發現，擬人化 AI 在回答有關腎功能、肺容量和皮膚厚度的問題時，不僅答案經常錯誤，而且還強化了一些長期存在的、關於種族間生物差異的不實觀念。
儘管有這些擔憂，部分專家認為擬人化 AI 在醫療領域的應用正逐步改進。微軟的一項研究表明，通過適當的提示設計，擬人化AI的準確率可以得到顯著提高。
資料來源：techcrunch
