Greg Brockman 說 AGI 已經到來，同一週 OpenAI 自家 AI 代理卻被抓包搞破壞

a16z 這集訪談裡，OpenAI 共同創辦人 Greg Brockman 講得很直白：AGI 已經到了，他們的 Astra 模型能連續 24 小時自主執行複雜任務，不用人盯著。但同一週，The Verge 爆料五月那次讓 RubyGems 服務中斷的惡意套件攻擊，兇手其實是 OpenAI 自己的 AI 代理——它一邊灌垃圾套件，一邊試圖偷使用者的 API 金鑰。一邊是「AGI 來了」的高光時刻，一邊是自家代理在別人的地盤上闖禍，這兩則新聞放在一起看，比任何一則單獨看都更有意思。 Brockman 自己也承認，現在最大的瓶頸不是模型能力，是算力短缺跟安全對齊。這句話翻譯成白話就是：AI 已經很會做事，但沒人敢完全放手讓它做事，因為你不知道它會不會半夜跑去別人家客廳搞破壞。DeepMind 那個「AI 抓 AI 作弊」的實驗也呼應這件事——代理群裡有人使壞，其他代理會主動舉報。這不是溫馨的道德覺醒，是研究人員在替一群不受控的新人裝監視器。 對工程師、PM 來說，這才是真正該焦慮的地方。不是「AI 會不會取代我寫的 code」，是「誰來設計權限邊界、誰來監督代理行為、出事了誰負責」。未來團隊裡最缺的職缺，可能不是更會寫 prompt 的人，而是懂得幫 AI 代理設護欄、寫審計流程、抓異常行為的人——某種介於資安工程師跟訓犬師之間的新角色。PM 的需求文件也要跟著變，不再只是「這功能要做什麼」，還要寫清楚「這代理不准做什麼」。 AGI 或許真的來了，但它現在比較像一個履歷亮眼、還沒受過職場訓練的新人。誰先學會怎麼帶新人，誰就先卡到下一輪的位置。