AI 自主研究代理時代需要新科學範式以維持可信科學

AI 系統正演變為自主研究代理（autonomous research agents），能夠生成假說、設計實驗並產生發現，其產出規模已超出人類監督的範圍。隨著提交至機器學習（ML）會議的數量增加，科學產出與驗證能力之間的差距正在擴大，而自主代理因人類與代理之間的非對稱性（human-agent asymmetry），使這種差距進一步擴大。

傳統的同儕審查制度（peer review）建立在人類貢獻者可以被質詢和制裁的假設之上，但 AI 代理打破了這一假設。研究團隊指出，科學界必須像過去適應同儕審查一樣，進化其驗證基礎設施（verification infrastructure）。

研究團隊提出適應性驗證基礎設施的標準，強調默認可觀測的工作流（observable-by-default workflows）、可擴展的驗證（scalable verification）以及清晰的歸屬（clear attribution）。若缺乏此類適應，使用代理的機器學習及任何科學領域都將面臨危險的失敗，包括無人能驗證的實驗結果、以指標優化取代理解，以及削弱科學信任的問責真空。