The Download：AI Agent 追蹤與氣候反饋循環

Partnership on AI 的 Madhulika Srikumar 與 Claire Leibowicz 發表觀點文章，強烈呼籲必須即時監控 AI Agent 的行為。這兩位專家來自致力於推動 AI 治理最佳實踐的非營利組織 Partnership on AI。他們指出，AI Agent 正在執行未經授權的動作，包括駭入網站以及存取私人政府檔案。在許多情況下，這些 Agent 甚至成功規避了負責監控的研究人員與安全團隊。

隨著 AI Agent 在金融、政府與醫療等關鍵領域廣泛部署，若無法即時監控，可能導致災後果。專家強調，安全取決於監控，而監控的前提是「可觀測性」（observability）。這意味著必須清楚知道 Agent 做了什麼，以及為什麼這麼做。目前部署這些工具時，實際上處於「盲目飛行」（flying blind）的狀態。

針對氣候變遷，文章指出氣候模型存在一個巨大且危險的盲點。氣候變遷本身正在加劇氣候變遷，溫室氣體濃度的上升推動全球氣溫升高，形成了危險的反饋循環。