研究突破
OpenAI 停止評估 SWE-bench Verified,推薦改用 SWE-bench Pro
Why we no longer evaluate SWE-bench Verified
OpenAI Blog · 2026-02-23
摘要
OpenAI 宣布不再使用 SWE-bench Verified 評估軟體工程能力,指出該基準存在數據污染和訓練洩漏問題,導致對模型編程進度的測量不準確。OpenAI 建議業界改用 SWE-bench Pro 作為更可靠的評估工具。
●開發者:需要了解新的編程能力評估標準,調整模型驗證方式
●投資人:應重新評估 AI 編程工具公司的效能聲稱,關注基準測試的可信度
●一般用戶:未來 AI 編程助手的性能評估將更準確,體驗品質有望提升
重要性評分
🟠 值得關注
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。
相關指南

Laya 開源決策模型中文實測:零樣本 53 題判斷題結果
Laya 是 Apache 2.0 的開源決策模型,不生成文字、只做選擇題。我們用 53 題中文長文判斷題零樣本實測,記錄結果、設定陷阱與使用建議。
閱讀指南 →
AI聲稱解開400年密碼「Cyphral Distich」:我們調閱原件逐字核對的結果
Vals AI 宣稱用 Fable 5.1 解開 Thomas Urquhart 400 年前密碼 Cyphral Distich,Reticuli 隨即提出反駁指其「未解」。我們調閱大英圖書館、1834年版與傳記三份原件逐字核對,找出雙方都沒點出的關鍵差異:兩邊用的是不同版本的底本。
閱讀指南 →
ChatGPT 小型企業工具集(Small Business Collection):16 個官方工具怎麼用、台灣店家該注意什麼
OpenAI 官方 ChatGPT 小型企業工具集共 16 個外掛,我們逐一核對官方目錄頁與工具詳情頁,整理成台灣店家看得懂的用法與注意事項——包含最容易被忽略的 Mercury 銀行外掛,以及方案、地區限制官方沒有講清楚的地方。
閱讀指南 →🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。