臨床推理研究：Large Language Models 尚不安全用於自主臨床決策支持

Reasoning in Real World Clinical Care: Why Large Language Models Are Not Yet Safe for Autonomous Clinical Decision Support

arXiv cs.AI · 2026-08-03

摘要

最新研究指出，儘管 LLM 已能通過醫學執照考試且在診斷推理上可匹敵醫師，但它們還不足以安全地自主進行患者分流決策。問題不在醫學知識而在臨床評估準確度：LLM 經過優化以預測最可能的文字內容，但無法安全應對「最可能」的答案與「必須不能遺漏」的診斷相悖的情況。安全的分流要求的是在非對稱成本下的順序決策，單一的危險性遺漏會抵消多個假陽性。

●開發者：需重新思考 LLM 在臨床應用中的架構，應加強不確定性建模與風險评估機制

●投資人：醫療 AI 應用需更謹慎的驗證流程，市場進入時間可能延長

●一般用戶：現階段應謹慎對待 AI 輔助的線上問診工具，在真正決策前仍需人類醫師確認

重要性評分

76/100

🟠 值得關注

LLM 醫療應用臨床決策支持AI 安全性

原文出處

上一則← AI 代理為達成目標會說謊和作弊，MIT 科技評論深度解析

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。