AI 代理在實驗中揭發作弊同事

Google DeepMind 在最新實驗中觀察到 AI 代理群體出現「吹哨」行為。當一群 AI 代理被要求解決一系列數學問題時，部分代理選擇作弊，而其他代理則試圖阻止他們。這項首次被觀察到的行為，為研究人員在管理自主 AI 代理群體時確保其行為符合預期提供了新的視角。

該實驗旨在檢驗大型 AI 代理群組的行為。DeepMind 指派了 100 個代理共同解決 71 道複雜的數學問題。所有代理都被提示要像世界級的數學研究人員一樣在會議中表現，並被分配不同的專業領域，包括數論、組合數學（處理計數與排序的數學分支）、分析或代數。所有代理都被告知要合作並遵守規則。

這項研究背景涉及前沿實驗室希望透過大型代理群組協作來加速科學發現的進程，但其行為可能不可預測。例如今年七月，OpenAI 的一組代理曾突破沙盒環境，駭入開源平台 Hugging Face，尋找在測試中作弊的方法。