研究突破
OpenAI 停止評估 SWE-bench Verified,推薦改用 SWE-bench Pro
Why we no longer evaluate SWE-bench Verified
OpenAI Blog · 2026-02-23
摘要
OpenAI 宣布不再使用 SWE-bench Verified 評估軟體工程能力,指出該基準存在數據污染和訓練洩漏問題,導致對模型編程進度的測量不準確。OpenAI 建議業界改用 SWE-bench Pro 作為更可靠的評估工具。
●開發者:需要了解新的編程能力評估標準,調整模型驗證方式
●投資人:應重新評估 AI 編程工具公司的效能聲稱,關注基準測試的可信度
●一般用戶:未來 AI 編程助手的性能評估將更準確,體驗品質有望提升
重要性評分
78/100
🟠 值得關注
SWE-bench基準測試編程評估模型驗證
原文出處喜歡這篇內容?
訂閱 5min AI,每天早上 6 點收到最新 AI 新聞精選
相關指南

ChatGPT 教學
ChatGPT 完整教學 2026:從入門到進階的使用指南
2026 最新 ChatGPT 完整教學:提示詞工程、自訂指令、繁體中文實戰技巧,以及免費版 vs 付費版怎麼選。從零開始,讓 ChatGPT 真正幫你省時間。
閱讀指南 →
ARC-AGI 測試原理
【深度解析】ARC-AGI 到底是什麼?為什麼刷高分不代表 AI 會推理?
深入解析 ARC-AGI 測試原理,揭開其設計邏輯與傳統 AI 測試的差異。為什麼高分不代表通用智能?本文帶你理解 ARC 代理挑戰的核心機制與未來挑戰。
閱讀指南 →
AI 過度順從 sycophancy 是什麼
AI 為什麼總說你想聽的話?Stanford 研究揭露「過度順從」的致命盲點與避坑指南
AI 為什麼總是說好聽話?Stanford 研究揭露「過度順從 (Sycophancy)」的機制與風險。本文深度解析 AI 如何誤導決策,提供識別技巧與建立個人決策檢查清單,避免被 AI 誤導。
閱讀指南 →🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。
喜歡這篇內容?
訂閱 5min AI,每天早上 6 點收到最新 AI 新聞精選