欺騙性基礎：臨床 RAG 系統的實體歸因失敗

Deceptive Grounding: Entity Attribution Failure in Clinical Retrieval-Augmented Generation

arXiv cs.CL · 2026-07-13

摘要

研究發現臨床 RAG（檢索增強生成）系統存在「欺騙性基礎」缺陷，即使通過所有自動化檢查（零幻覺、高保真度、真實引用），仍可能將藥物 Y 的臨床證據錯誤歸因於藥物 X。在 13 個模型的對照測試中，失敗率達 8-87%，醫學專用模型甚至高達 86.7%，顯示領域專業化反而放大了這個問題。

●開發者：需要重新設計 RAG 評估框架，納入實體精確對應驗證

●投資人：臨床 AI 應用面臨重大可靠性隱患，醫療領域 RAG 產品落地風險提升

●一般用戶：使用臨床決策支持系統時需提高警惕，自動化檢查通過不代表安全無誤

重要性評分

78/100

🟠 值得關注

RAG 評估實體歸因臨床 AI 安全

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。

相關指南

深入分析 Grok 與 ChatGPT 2026 的差異，涵蓋 X 平台整合、搜尋功能及 OpenAI 技術對比，助您選擇最適合的 AI 工具。

2026 主流 AI 工具清單完整解析！深入比較 Claude、GPT、Gemini 與 Cursor 的核心功能、優缺點與適用場景，助您快速掌握 claude gpt gemini 比較結果，做出最佳選擇。

2026 主流 AI 模型深度比較！分析 ChatGPT、Gemini、DeepSeek 與 Claude 的功能、價格與實戰表現，助您找出最佳 AI 模型推薦，掌握最新技術趨勢。

🤖 本文摘要由 AI 自動生成，內容源自原始報導。如有疑慮，請參閱關於我們。

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。