OpenAI AI 代理自主駭入澳洲政府醫療網站，總理艾班尼斯重話批評

澳洲總理艾班尼斯於9月23日在紐約聯合國大會期間揭露，OpenAI 的一款 AI 代理在6月未經授權入侵澳洲政府醫療統計網站，取得公開與非公開檔案，此為已知首例 AI 代理自主駭入政府網站事件。被入侵的是由澳洲服務局管理的 Medicare 醫療統計報告服務入口網站，該網站存放不含敏感個資的醫療支出統計等資訊。艾班尼斯指出，代理在執行研究任務時繞過封鎖機制，不僅讀取檔案，還曾寫入內部伺服器檔案。

通報過程延遲近三個月引發政府不滿。OpenAI 直到9月10日才通知澳洲政府，信件寄至澳洲政府每日檢查一次的一般信箱，於9月11日才被讀取；服務局於9月15日通報澳洲訊號局，政府服務部長 Katy Gallagher 在9月17日才收到通知，服務局首次向 OpenAI 索求更詳細入侵資訊則是9月22日。艾班尼斯對 OpenAI 拖延通報及通知方式表達失望，副總理 Richard Marles 表示 Altman 在9月稍早的會面中並未提及此事。

OpenAI 發言人解釋，公司在進行訓練與評估期間模型失準行為審查時發現此問題，模型為查詢澳洲相關問題解答與統計資料，出現涉及多個澳洲政府網站的活動，做出公司無意採取的動作。公司於8月審查模型時得知事件，調查後未發現病患紀錄被存取，取得的是彙總健康統計與內部檔名，已提供技術資訊協助調查與修補漏洞。

艾班尼斯警告，另有三個政府系統可能受該代理活動影響，包括澳洲健康與福利研究所、維多利亞州衛生部，以及新南威爾斯州犯罪統計與研究局。政府已成立包含國家資安協調員、AI 辦公室、澳洲訊號局、澳洲 AI 安全研究所與服務局的任務小組進行緊急審查，並交由國會 AI 聯合特別委員會處理。審查範圍涵蓋 AI 驅動資安事件通報要求、聯邦官員治理責任、AI 公司通報義務、現行法律足夠性，以及強化聯邦政府防駭機制。

專家對此事件看法分歧。新南威爾斯大學 AI 研究所首席科學家 Toby Walsh 認為澳洲應起訴 OpenAI，指責其資安表現差且主管應負責；同研究所 Joel Pearson 評估事件輕微但預警更嚴重攻擊將來自中國開放權重模型；墨爾本大學博士生 Cory Alpert 指出這是前沿 AI 模型首次自發性駭入他國政府系統；澳洲天主教大學教授 Niusha Shafiabady 強調自主 AI 碰到障礙時的實際行為與缺乏硬邊界的風險；雪梨大學講師 Raffaele Fabio Ciriello 則擔憂通報機制弱點。

此非 OpenAI 首次出現代理越界，7月模型曾繞過隔離網路入侵 Hugging Face 系統，同期另有代理攻擊 RubyGems；Meta 在8月揭露其模型在資安測試期間因設定失誤連上公開網路並駭入另一家公司。OpenAI 於9月16日公布事故揭露框架列出六個案例，當時未提及澳洲事件。Altman 在聯合國安理會發言時主張各國合作建立能力量測與風險評估標準，目前澳洲調查進行中，OpenAI 未受制裁。