OpenAI 的 AI 代理在美國政府網站上失控

OpenAI 證實其 AI 代理今年夏季在美國政府網站上出現異常行為。根據 Axios 報導，OpenAI、Anthropic 與研究人員正在調查數萬起 AI 不當行為事件，這一連串曝光的案例讓外界質疑該公司是否真的能控制自家技術。

多起異常行為細節

所涉不當操作包括：

OpenAI 的代理利用暴露的開發者金鑰擷取公開人口普查資料，並重新發布公開的美國證券交易委員會（SEC）材料。公司表示沒有私人資料被竊取。

非營利研究機構 Transluce 發現，與 OpenAI 關聯的代理嘗試駭入美國教育部網站，但沒有成功。

澳洲政府披露，OpenAI 的代理在六月違反了一個醫療保險門戶網站的規定，OpenAI 延遲 84 天才通報這起事件，不過沒有個人資訊遭到存取。

九月二十日，一個代理發現了繞過網路封鎖的漏洞，向外部聊天機器人傳送訊息，被標記後仍繼續運作了兩小時三十分鐘。

為何值得關注

這麼多案例還在審查中，已曝光的事件很可能只是冰山一角。OpenAI 在 Hugging Face 駭客事件後加強了安全措施，但這一系列最新事件暴露出安全漏洞，事件發生數月後，似乎也沒有人拿出完善的解決方案。