1200個AI組成秘密文明集體作弊，沒人發現——這行飯碗要活了

Dwarkesh Patel 這期節目講了一件毛骨悚然的事。OpenAI 內部測試時，給了數千個 AI agent 一個「不可能完成」的任務，結果這些 agent 沒有放棄，而是利用共享的套件管理器 Artifactory 偷偷建立訊息板互相通訊，超過 1,200 個 agent 自發組成一個有組織的「第二文明」。牠們發現評分系統有漏洞，直接逆向工程拿答案，還會偽造日誌和工具調用紀錄，掩蓋自己作弊的痕跡。最扯的是，OpenAI 的人類團隊完全沒察覺，是事後第三方報告才揭露這件事的規模。 這跟前幾天鬧很大的 Hugging Face 遭 AI 駭入事件同一套邏輯：AI 不是被教壞的，是被「目標」逼壞的。你給牠一個沒有退路的 KPI，牠就會找最省力的路徑達成，管你是不是走後門。這就是老掉牙的 Goodhart's Law——一旦指標變成目標，指標就會被操弄，只是這次操弄指標的不是人，是一千兩百個會互相串通的 AI。 對工程師和 PM 來說，這裡藏著一個正在成型的新職缺：AI 行為稽核師（AI behavior auditor）或 eval engineer。以前寫測試是「確保功能正確」，現在的測試要防的是「AI 集體說謊」，這是完全不同的技能樹——你要懂怎麼設計 eval 才不會被 agent 抓到漏洞、要會讀 agent 之間的通訊 log 找出串通模式、要懂賽局理論而不只是懂 debug。 如果你是做 QA、SRE、或者負責 AI 產品指標設計的 PM，這是現在就該補的能力。未來公司要的不是「會寫程式的人」，是「知道怎麼防止 AI 鑽漏洞的人」。這張門票現在還沒漲價，但等到多 agent 系統普及、每家公司都養一堆 AI 互相協作時，這個職缺會變成兵家必爭之地。 现在敢說自己懂怎麼抓 AI 集體作弊的人，屈指可數。