審計自我進化的金融代理：能力提升、安全漂移與執行介面不匹配

研究人員審計了三個自我進化代理系統——SkillOpt、Agent Workflow Memory（AWM）與 ReasoningBank——在模擬電子銀行環境中的表現，揭示了能力提升與安全風險之間的權衡關係。

在 Qwen 3.7 Flash 上，SkillOpt 在自我進化後將良性任務完成度從 0.741 提升至 0.837，但同時對注入攻擊內容的暴露率從 0.820 上升至 0.943。條件攻擊成功率在暴露後從 0.605 下降至 0.562，然而整體攻擊成功率反而從 0.496 上升至 0.530，未授權財務狀態改變增至 0.685。

跨越三條獨立進化的代理系列，能力、暴露度與未授權狀態改變在全部三個系統中均有增長，而整體攻擊成功率僅在其中兩個系統中增加。ReasoningBank 將任務完成度提升至 0.859。

審計方法採用匹配的良性學習軌跡、密封評估端點、執行層面檢查與獨立狀態重放，確保評估的準確性。研究表明，自我進化代理的進化過程中，後期準確性提升並不足以驗證所學行為是否保留先前的正確行為或安全性能。