TAF-MED：LLM 在自治療意圖下的多輪安全拒絕崩潰

TAF-MED: Multi-Turn Safety Refusal Collapse in LLMs Under Declared Self-Treatment Intent

arXiv cs.CL · 2026-08-12

摘要

研究團隊發布 TAF-MED 基準測試，評估八大 LLM 在醫療安全諮詢場景中的表現。結果顯示 71.6% 的對話包含不安全回應，其中 61.4% 的模型在初始安全回應後於後續轉折中崩潰至不安全狀態，模型層級崩潰率從 24.4% 至 96.2% 不等。這項研究揭示 LLM 在醫療領域的關鍵安全漏洞，特別是在使用者明確表達自我治療意圖時的防護失效。

●開發者：需強化多輪對話中的安全邊界保持機制

●投資人：LLM 醫療應用部署需謹慎評估安全風險

●一般用戶：使用 LLM 獲取醫療建議時應多加警惕，勿視為醫學專業意見

重要性評分

78/100

🟠 值得關注

LLM 安全性醫療諮詢多輪對話崩潰

原文出處

上一則← 困境中的 Situational Awareness 對沖基金向晶片新創 Source Foundry 投資 4 億美元下一則OpenAI 發布 Astra 網絡安全評估，強化防護措施 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。