研究突破
抑制性注意力機制:解決臨床長文本推理中的 Lost-in-the-Middle 問題
Inhibitory Attention for Clinical Long-Context Reasoning: Characterizing and Mitigating Lost-in-the-Middle Effects in EHR Processing

arXiv cs.CL · 2026-08-24
摘要
研究發現大語言模型在處理超過 10 萬 token 的電子病歷時,存在「Lost-in-the-Middle」效應,即中間位置的關鍵資訊檢索準確率明顯低於邊界資訊。在臨床應用中這是嚴重問題,因為最關鍵的診斷資訊常位於病歷中段。研究團隊首次系統性表徵了這個問題,並提出了 Query-Conditioned Clinical Suppression 等輕量級解決方案,可將準確率差距從 21.9 個百分點降低。
電子病歷長度現已經常超過 10 萬 token,但大語言模型在處理此類超長上下文時存在「Lost-in-the-Middle」效應,導致位於文本中間的資訊檢索可靠性明顯低於邊界資訊。在臨床場景中這成為嚴重問題,因為病歷中最關鍵的診斷事實往往位於文本中段。
研究團隊將此問題命名為臨床 Lost-in-the-Middle(CLitM)問題,使用 MedAlign 進行了首次系統性表徵,並對多種上下文選擇策略作為補救方案進行了比較。在 2,196 個指令回應對和六個語言模型上的實驗顯示,準確率在 20-30 百分位時達到峰值 59.5%(95% 置信區間 [46.3, 71.0]),而在 70-80 百分位時降至谷值 37.6%([23.2, 52.5]),兩者相差 21.9 個百分點。67.8% 的參考答案落在電子病歷時間軸的第 10 至 90 百分位範圍內,正好位於 CLitM 效應最嚴重的區域。
研究提出了 Query-Conditioned Clinical Suppression(QCCS)作為輕量級解決方案。
●開發者:需要在 LLM 應用中實現針對性的長文本處理策略,特別是醫療領域
●投資人:醫療 AI 領域的技術深度和可靠性面臨重要挑戰,相關解決方案商機凸顯
●一般用戶:臨床 AI 輔助診斷系統的準確性將因此改善
重要性評分
🟠 值得關注
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。
相關指南

Perplexity vs ChatGPT:2026 搜尋與對話 AI 工具比較
深入比較 Perplexity vs ChatGPT 2026 版本,分析 perplexity 和 chatgpt 差異,解答 perplexity 好用嗎,並提供最佳 ai 搜尋工具推薦與選擇建議。
閱讀指南 →
Laya 開源決策模型中文實測:零樣本 53 題判斷題結果
Laya 是 Apache 2.0 的開源決策模型,不生成文字、只做選擇題。我們用 53 題中文長文判斷題零樣本實測,記錄結果、設定陷阱與使用建議。
閱讀指南 →
AI聲稱解開400年密碼「Cyphral Distich」:我們調閱原件逐字核對的結果
Vals AI 宣稱用 Fable 5.1 解開 Thomas Urquhart 400 年前密碼 Cyphral Distich,Reticuli 隨即提出反駁指其「未解」。我們調閱大英圖書館、1834年版與傳記三份原件逐字核對,找出雙方都沒點出的關鍵差異:兩邊用的是不同版本的底本。
閱讀指南 →🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。