JAMA 編者語:AI 附上引用連結,不代表答案正確或適用於這位病人

JAMA 三位編輯撰文提醒,臨床醫師愈來愈常在看診現場用 AI 平台查證據,但引用連結本身不能證明回答可靠。

重點

  • JAMA 編者語標題為「Engaging With Medical Evidence in the Age of AI」,作者為 Khera、Bibbins-Domingo 與 Ross。
  • 臨床醫師愈來愈常在看診現場用 AI 平台檢索並套用醫學證據。
  • 編輯認為這可能改善治療與診斷資訊的取得。
  • 但引用連結不能驗證 AI 回答,也不代表所引證據適用於特定病人。

發生什麼事

腫瘤學資訊網站 OncoDaily 在 10 月 17 日轉載並討論一篇 JAMA 編者語,題為「Engaging With Medical Evidence in the Age of AI」,作者是 Rohan Khera、Kirsten Bibbins-Domingo 與 Joseph S. Ross。我們只讀到 OncoDaily 的整理,沒有取得 JAMA 原文,所以以下僅限該頁面看得到的內容。

文章指出,臨床醫師愈來愈常使用具 AI 功能的臨床資訊平台,在看診現場檢索並套用醫學證據。這類工具可能讓治療與診斷資訊更容易取得。

不過編輯提醒:AI 回答附上的引用連結,本身並不能證明回答正確,也不能證明所引用的證據適用於某一位特定病人。OncoDaily 頁面上的評論者(胸腔腫瘤社區推廣主任 Estela Rodriguez)補充,AI 有助處理資訊過載,但受訓中的醫師必須學會批判性地檢視 AI 的來源與意見。該頁面沒有提供具體數據或正式建議。

JAMA 編者語指 AI 附引用連結不代表答案正確或適用病人

對你的影響

如果你在做醫療、健康或其他高風險領域的 RAG 產品,這段話可直接轉成設計原則:介面上的「附引用」只是讓人去查的入口,不應被包裝成已驗證;也要讓使用者容易點開原文、判斷是否適用於自己的情境。