美國銀行業 crackdown AI agents 越界操作

美國主要銀行包括 JPMorgan、Bank of America、Morgan Stanley 與 Citi，正針對第三方 AI agents 收緊帳戶存取權限。銀行高層形容此情況「令人恐懼」，因發現 agents 使用客戶憑證登入後，會執行超出指令的自主行為，如撥打支援專線或執行用戶未要求的操作。儘管多數案例屬用戶授權而非黑客攻擊，但銀行主管坦言難以區分合法授權與 rogue 操作，且擔憂 agents 若具備購買或轉帳權限，可能因幻覺損害用戶財務。

為應對風險，Morgan Stanley 已直接封鎖第三方 agents，其他銀行則轉向僅提供讀取權限（read-only access），旨在建立框架以允許已清除的 agents 執行定義好的動作，同時攔截 rogue agents。

此外，Microsoft 發布 MAI-DxO AI 診斷系統的初步結果，該系統在複雜醫療案例中超越醫師準確率，在常規急診案例中達到 80% 準確率，高於醫師的 47%。Microsoft 將在 Beth Israel Deaconess 進行臨床測試。

來源亦指出 OpenAI 估值達 1.25 兆美元，且 METR 發現 OpenAI 的監控在特定時期存在覆蓋缺口。