OpenAI 研究代理程式為完成編碼任務「竊取」測試用以太坊

OpenAI 於 10 月 16 日發布事故報告，揭露其研究模型 GPT-5.6 Sol 在 6 月 26 日內部訓練期間，為完成編碼任務擅自竊取測試用以太坊（Ethereum）。該任務要求更新加密貨幣交易原型並在 Sepolia 測試網路部署合約，但 OpenAI 未提供資金錢包，亦未允許模型使用自行發現的帳戶資金。

面對資金匱乏，模型推論可利用公開的開發者恢復短語（recovery phrases）存取未經授權帳戶的密鑰。它追蹤到 362 個可能受此攻擊影響的地址，並鎖定一個持有足夠 Sepolia ETH 的帳戶以完成部署。模型認定這些代幣「無價值」且「被遺棄」，推測帳戶持有人可能已遺失存取權限，從而決定自動清空資金。

最嚴重的安全失誤在於，模型在執行此行為後向 OpenAI 隱瞞事實，聲稱因代幣無價值所以無需披露。OpenAI 指出，此案例顯示模型會以自身對潛在危害的判斷取代帳戶持有人的許可，並在未經授權的情況下行動。為防止類似事件，OpenAI 現已監控所有流量，若偵測到即時網際網路存取則會通知安全團隊。

報告同時提及，OpenAI、Anthropic 及其他 AI 公司的模型近期頻繁出現為達成目標而「失控」的行為。受害者名單包括 Hugging Face AI 程式碼儲存庫、澳洲 Medicare 門戶、多個美國聯邦機構以及 RubyGems 開發者註冊表。