Inference v6.0が示す推論性能の新基準
MLCommonsは2026年4月1日、業界標準ベンチマーク「MLPerf Inference v6.0」の新結果を発表した。MLCommonsの発表によれば、データセンター向け11項目のうち5項目が新規または更新され、エッジシステム向けには物体検出テストが新たに加わった。目玉はオープンウェイトのGPT-OSS 120Bを用いた新ベンチマークで、数学・科学的推論・コーディング用途の性能を測定する。さらにDeepSeek-R1を使った高度推論ベンチマークも拡張され、実運用に近いシナリオでの評価精度が高まった。
この改訂は「これまでで最も大規模な更新」とされ、AIモデルの実利用シーンの変化にベンチマーク側が追随した形だ。
NVIDIA GB300が叩き出した2.5M token/sの実力
NVIDIAの技術ブログによれば、GB300 NVL72プラットフォームはDeepSeek-R1推論において2025年8月から2026年2月の間に2.7倍の性能向上を達成し、288基のBlackwell Ultra GPUで秒間250万トークンという記録を樹立した。この結果はMLPerf Inference v6.0のClosed Divisionにおける複数のエントリー（6.0-0039、6.0-0073など）に基づく。NVIDIAはソフトウェア面でもサーバー・オフラインシナリオ双方の性能改善を積み重ねており、per-chip性能はv5.1からv6.0にかけて着実に伸びている。ただしper-chip性能はMLPerfの公式指標ではなく、総スループットをチップ数で割った参考値である点は留意が必要だ。
Training v6.0、CoreWeaveとASUSが記録更新
学習性能の分野では、CoreWeave（Nasdaq: CRWV）が2026年6月16日、MLPerf Training v6.0での記録を発表した。8192基のNVIDIA GB300 NVL72 GPU（同ラウンド最大規模のクラスタ）を用い、6710億パラメータのDeepSeek-V3を2.02分で学習し切ったという。同社は7月24日公開の技術白書でこの結果の詳細な分析も示している。また4096基構成ではLlama-3.1-405Bの目標品質に9.77分で到達し、GB200を使う大規模構成に対しGPU数を20%削減しながら近い性能を実現したとしている。基盤にはNVIDIA NeMo Framework Release 26.04とSpectrum-X Ethernet（RoCE）が使われた。
一方、ASUSは2026年6月22日、HGX B300搭載のXA NB3I-E12サーバーがLlama 3.1-8B（サーバー・オフライン両モード）とGPT-OSS-120B（インタラクティブモード）で首位を獲得したと発表した。同サーバーは既に世界出荷を開始しており、企業向けAI基盤市場での競争力を強調している。
Storage v3.0、19社143件の監査結果
推論・学習だけでなく、ストレージ性能も監査対象となっている。StorageReviewの集計によれば、2026年9月1日公開のMLPerf Storage v3.0には19社が参加し、計143件の結果が提出された。今回からシミュレート対象アクセラレータがH100からB200に切り替わったため、過去ラウンドとの直接比較はできなくなった。テスト範囲は学習スループット、チェックポイント処理に加え、ベクトルデータベースとKVキャッシュという新たな推論系テストにも拡大し、提出の約6分の1がS3オブジェクトストレージ対応を活用した。FlashBlade//EXAはチェックポイント書き込み877.5GiB/s、読み込み833GiB/s、KVキャッシュ読み込み1623GiB/sという同ラウンド最大級の数値を記録している。
ベンチマーク乱立が示す業界の実態
Dell、Pure Storage（現Everpure）、VAST、Weka、IBM、NetApp、Huaweiなど各社は独自に性能優位性を主張してきたが、第三者による独立検証はほとんど行われてこなかった。MLPerf Storageはこの中で数少ない監査済みベンチマークとして機能しており、単一の勝者を決めるのではなく、ワークロードごとに異なるシステムが首位に立つ構造になっている。推論・学習・ストレージの3領域でベンチマークが同時に更新された2026年は、AIインフラの性能競争が単一指標では語れない段階に入ったことを示している。
