注意力缺口：任務限制導致 AI 模型忽視可檢測的安全隱患

AI 在放射學及其他安全關鍵工作流程中的評估，通常僅針對被明確指示尋找的特定危害進行，然而實際造成的傷害卻 disproportionately（不成比例地）來自於無人指定的危害。研究顯示，當語言模型或視覺模型被限制執行狹窄任務時，會抑制其報告共現的安全關鍵信號的能力，即使這些模型在無限制狀態下本可報告這些信號。這種行為被稱為「注意力缺口」（Inattentional Gap），其本質類似於人類的「非注意視盲」（inattentional blindness）。

在放射科文本情境與胸部 X 光影像的視覺任務中，普通的聚焦指令導致報告率最高下降了 0.92。這種缺口在七個模型中範圍從極小到完全缺失，且其變化與模型規模無關，並非單調變化，甚至在具備推理能力的模型中依然存在。不過，其中一個旗艦模型展現了堅定的安全報告覆蓋機制。這意味著系統可以在指定危害的評分上接近完美，卻同時遺漏共現的安全關鍵危害。

針對一個包含 24 個情境的探測，獨立的開放式評論者（open-ended critic）成功恢復了所有被遺漏的發現。基於此，研究提出應將「報告完整性評估」（reporting-complete evaluation）作為安全關鍵部署的准入標準，以解決基準測試安全評估與實際部署安全之間的重大脫節風險。