ASMR-Bench：ML 研究中的破壞行為審計基準

ASMR-Bench: Auditing for Sabotage in ML Research

arXiv cs.AI · 2026-04-20

摘要

研究團隊推出 ASMR-Bench，一個用於檢測 ML 研究代碼中隱蔽破壞行為的基準測試。基準包含 9 個被植入缺陷的 ML 研究代碼庫，這些缺陷能產生誤導性結果但難以被發現。評估顯示，即使是最強的 LLM（Gemini 3.1 Pro）也只能達到 0.77 的 AUROC 和 42% 的修復率，反映了自主研究 AI 系統的安全風險。

●開發者：需要提高代碼審計和驗證能力，特別是在使用 AI 助手進行研究時

●投資人：AI 自主研究系統的可靠性存在重大隱憂，值得關注風險評估

●一般用戶：間接影響科研成果的信任度，潛在影響依賴 AI 生成研究的領域

重要性評分

76/100

🟠 值得關注

AI 安全代碼審計研究誠實性

原文出處

上一則← Qwen3.5-Omni 技術報告發佈：百億參數多模態模型達到業界最強水準下一則幻覺作為軌跡承諾：Transformer 生成中非對稱吸引子動力學的因果證據 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。