プロダクト & モデル報道

SWE-bench Verifiedスコア、GPT-4oの33.2%からGPT-5の74.9%へ急伸——専門家は「ベンチマーク飽和」に警鐘

OpenAI GPT-5/5.6シリーズと韓国K-EXAONE 2.0が示すコーディング性能競争、Snorkel AIは評価手法の限界を指摘

鈴木 理恵|2026.08.10|8|更新: 2026.08.11

SWE-bench Verifiedスコアが2023年の4.4%から2024年に71.7%、GPT-5では74.9%まで急伸。SWE-bench ProではGPT-5.6 Sol Ultraが63.4%、比較対象のClaude Mythos Previewが80%を記録。韓国K-EXAONE 2.0も49.4%→68.2%に躍進する一方、専門家はベンチマーク飽和と実行動評価の欠落を指摘する。

Key Points

Business Impact

コーディング支援AI導入を検討する企業は、単純なSWE-bench数値の比較だけでなく、Terminal-Bench 2.1やAider polyglotなど複数指標を併用し、自社の実タスクでの検証(LLM-as-judgeやPoCベースの評価)を明日から始めるべきだ。ライセンス条件(Apache 2.0等)も選定基準に含める必要がある。

SWE-bench Verifiedスコア、GPT-4oの33.2%からGPT-5の74.9%へ急伸——専門家は「ベンチマーク飽和」に警鐘
K-EXAONE 2.0 - 750Bオープンウェイトの仕様・ライセンス・性能
出典: TECH NOISY

SWE-bench Verified、わずか1年で20ポイント以上向上

ソフトウェア開発タスクの解決力を測る指標「SWE-bench Verified」のスコアが、過去1〜2年で急激に上昇している。スタンフォード大学のAI Indexレポートによれば、SWE-benchでのAIの解決率は2023年時点でわずか4.4%だったが、2024年には71.7%まで跳ね上がったと報告されている(Stanford AI Index 2025)。OpenAIのGPT-4.1はSWE-bench Verifiedで54.6%を記録し、GPT-4oの33.2%から21.4ポイントの向上を示した(Trans-N)。

OpenAIがGPT-4.1を発表!史上最小・最速・最安の3モデル、100万トークンコンテキスト|Trans-N
出典: note(ノート)

この流れはGPT-5でさらに加速した。2026年7月23日にOpenAIが発表した「開発者向けGPT-5のご紹介」によれば、GPT-5はSWE-bench Verifiedで74.9%を記録し、前モデルのOpenAI o3の69.1%を上回った。さらに、o3と比べて出力トークンを22%、ツール呼び出しを45%削減しながら同等以上の精度を達成した点が注目される(OpenAI公式)。

GPT-5.6系ではSWE-bench Proで80%超え

2026年7月29日公開のGPT-5.6システムページでは、コーディング能力の評価に新たにSWE-bench Proが用いられている。最上位モデル「GPT-5.6 Sol Ultra」はSWE-bench Proで63.4%、比較対象のClaude Mythos Preview系は80%、Claude Opus 4.8は69.2%を記録した。Terminal-Bench 2.1ではGPT-5.6 Solが88.8%と、複数のフロンティアモデルの中で最高水準を示している(OpenAI GPT-5.6)。Aider polyglotではGPT-5が88.0%を記録し、多言語コーディングにも強みを見せている。

韓国LG AI Research、K-EXAONE 2.0でも大幅改善

米国モデルの独走ではない。韓国LG AI Researchが2026年7月31日にHugging Faceで公開した総パラメータ750BのオープンウェイトモデルK-EXAONE 2.0は、SWE-Bench Verifiedで68.2%を記録した。2025年12月31日公開の前世代(総236B/アクティブ23B)の49.4%から18.8ポイントの改善であり、LGの発表によれば24指標平均は63.3から70.1へ、コーディングおよびエージェンティックコーディング領域は約30%向上したとされる(tech-noisy)。加えて、前世代の独自ライセンスからApache 2.0へ変更されたことで、商用利用の障壁が下がった点も実務上の重要な変化だ。MMLU-Proは83.5、AIME 2026は92.3を記録している。

MMLUなど旧来ベンチマークは飽和状態に

Stanford AI Indexは、MMLUやGSM8K、HumanEvalといった従来型ベンチマークがすでに飽和し、GPQAやMMMU、SWE-benchのような新しい難問ベンチマークへの移行が進んでいると分析している。2023年末時点で米中モデル間のMMLU差は17.5ポイントあったが、2024年末には0.3ポイントまで縮小した。この収束は、単一のベンチマークスコアだけでモデルの優劣を判断することの限界を示している。

専門家の指摘:ベンチマークは「実際の行動」を測れているか

Snorkel AIのビンセント・チェン氏は、現行の主要ベンチマークが3つの次元(タスクの質、分布の多様性、難易度の余白)で単純化されすぎていると指摘する。GPQAは敵対的な複数専門家レビューでタスクの質を担保し、MMLUはSTEM・人文科学・社会科学にわたる57領域の分類法で分布の網羅性を確保している。一方、SWE-benchはLite・Verified・Pro・Multilingual・Multimodalへと進化を続け、研究コミュニティのコーディングエージェント評価を再形成してきたと評価される(BigGoファイナンス)。チェン氏は、今後のブレークスルーはベンチマークが実際のエージェント行動やポリシー遵守を測定できるかにかかると述べており、TauBenchのような「生の正解率を超えたシミュレーター」型評価の重要性を強調している。

企業の意思決定にどう影響するか

SWE-bench Verifiedのスコアが1年余りで33.2%から74.9%、さらにSWE-bench Proでは80%超へと進んだ事実は、コーディングエージェント導入の実務的な閾値が急速に下がっていることを意味する。ただし、K-EXAONE 2.0の事例が示すように、性能向上だけでなくライセンス条件(Apache 2.0化)も選定の決定要因となる。企業は単一のベンチマーク数値ではなく、Terminal-Bench 2.1やAider polyglot、自社データでのLLM-as-judge評価を組み合わせて検証すべき局面に入っている。

風刺画: SWE-bench Verifiedスコア、GPT-4oの33.2%からGPT-5の74.9%へ急伸——専門家は「ベンチマーク飽和」に警鐘

Editorial Cartoon

本記事がもたらす影響を風刺的に描いたひとコマ漫画

Verification

信頼ラベル報道
一次ソース7件確認
最終検証2026.08.10
VerifiedRev. 3
sha256:a6015066e5b245b9...6f6f5de2

この記事はEd25519デジタル署名で検証済みです。改ざんは検出されていません。

検証API
Ethics Score97/100
引用密度20/20
ソースURL数20/20
信頼ラベル12/15
表現の慎重さ15/15
キーポイント10/10
サマリー品質10/10
本文充実度10/10

v1.0.0 — ルールベース自動採点

詳細API
Share

関連記事