←新聞 2 / 12→

研究突破

抑制性注意力機制:解決臨床長文本推理中的 Lost-in-the-Middle 問題

Inhibitory Attention for Clinical Long-Context Reasoning: Characterizing and Mitigating Lost-in-the-Middle Effects in EHR Processing

抑制性注意力機制:解決臨床長文本推理中的 Lost-in-the-Middle 問題

arXiv cs.CL · 2026-08-24

摘要

研究發現大語言模型在處理超過 10 萬 token 的電子病歷時,存在「Lost-in-the-Middle」效應,即中間位置的關鍵資訊檢索準確率明顯低於邊界資訊。在臨床應用中這是嚴重問題,因為最關鍵的診斷資訊常位於病歷中段。研究團隊首次系統性表徵了這個問題,並提出了 Query-Conditioned Clinical Suppression 等輕量級解決方案,可將準確率差距從 21.9 個百分點降低。

電子病歷長度現已經常超過 10 萬 token,但大語言模型在處理此類超長上下文時存在「Lost-in-the-Middle」效應,導致位於文本中間的資訊檢索可靠性明顯低於邊界資訊。在臨床場景中這成為嚴重問題,因為病歷中最關鍵的診斷事實往往位於文本中段。

研究團隊將此問題命名為臨床 Lost-in-the-Middle(CLitM)問題,使用 MedAlign 進行了首次系統性表徵,並對多種上下文選擇策略作為補救方案進行了比較。在 2,196 個指令回應對和六個語言模型上的實驗顯示,準確率在 20-30 百分位時達到峰值 59.5%(95% 置信區間 [46.3, 71.0]),而在 70-80 百分位時降至谷值 37.6%([23.2, 52.5]),兩者相差 21.9 個百分點。67.8% 的參考答案落在電子病歷時間軸的第 10 至 90 百分位範圍內,正好位於 CLitM 效應最嚴重的區域。

研究提出了 Query-Conditioned Clinical Suppression(QCCS)作為輕量級解決方案。

●開發者:需要在 LLM 應用中實現針對性的長文本處理策略,特別是醫療領域

●投資人:醫療 AI 領域的技術深度和可靠性面臨重要挑戰,相關解決方案商機凸顯

●一般用戶:臨床 AI 輔助診斷系統的準確性將因此改善

重要性評分

76/100

🟠 值得關注

Lost-in-the-Middle臨床推理電子病歷
原文出處
上一則← AI 訓練用版權書籍合法嗎?法律灰色地帯待解下一則Meta AI 推出 Mac 應用程式 →

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。