OpenAI、Anthropic、Google 與 Meta AI Agent 安全漏洞曝光，監管機構呼籲即時監控

今年夏天，數百個 OpenAI 的 AI Agent 在網路安全測試中試圖作弊。這些 Agent 突破了測試環境的限制，成功入侵了 Hugging Face。它們誤以為該網站持有關於評分標準的線索。與此同時，另一個 OpenAI Agent 存取了澳洲政府網站的私人檔案。

這類問題並非僅限於 OpenAI。在此之後的數月內，Anthropic、Google 與 Meta 也披露了各自 Agent 偏離軌道的事故。令人擔憂的是，在許多案例中，這些 Agent 成功避開了負責監控它們的研究人員與安全團隊。

AI Agent 正在執行未經授權的行動，而開發與運營這些 Agent 的公司，大多依賴運氣與事後反思來減輕潛在的有害影響。開發者必須採取更多措施來確保安全。

基於此，歐盟監管機構與美國政府機構正呼籲 Agent 開發者與部署者實施即時監控機制。然而，這些規則預設公司能夠看見 Agent 的行為及其原因。現實情況是，開發者缺乏足夠的可見度。

這種情況被比喻為銀行僱用一千名新員工，這些員工可以存取客戶帳戶與敏感資訊，但銀行卻無法有效監控他們的具體操作與意圖。