MLPerf 2026最新結果、NVIDIA Blackwellが288GPUで250万トークン/秒の推論記録樹立

AI業界のベンチマークを統括する非営利団体MLCommonsが2026年、MLPerfの最新結果を相次いで公表した。4月1日には推論性能を測る「MLPerf Inference v6.0」、6月16日には学習性能を測る「MLPerf Training v6.0」の結果が発表され、NVIDIA、AMD、Intelの主要3社がそれぞれ異なる指標で首位を主張する展開となった。The Decoderによれば、今回のInference v6.0では初めてマルチモーダルモデルと動画モデルのテストが追加され、各社のシステム構成やモデル選択が異なるため単純比較が難しくなっているという。

NVIDIAが288GPUで250万トークン/秒を記録

NVIDIAは公式ブログで、Blackwell Ultra GPUを288基搭載したGB300 NVL72構成によりDeepSeek-R1推論で250万トークン/秒という記録を達成したと発表した。この数値は2025年8月から2026年2月にかけて2.7倍の性能向上を経て到達したもので、MLPerf Inference v6.0のClosed Divisionにおける複数のエントリー（6.0-0039、6.0-0073など）で裏付けられている。MLCommonsの公式発表では、今回のv6.0が「これまでで最も大きな更新」とされ、実運用シナリオを反映した新テスト項目が導入されたことが強調されている。

AMDは100万トークン/秒を突破、Intelも独自路線

一方AMDは自社発表で、Instinct MI355X GPUを用いたマルチノード構成において初めて100万トークン/秒の壁を突破したとしている。単に既存ベンチマークを高速化しただけでなく、新規ワークロードへの対応や、複数パートナーによる結果の再現性を示した点を強調した。Intelについても独自の指標に焦点を当てた提出を行ったが、The Decoderの分析では、NVIDIA・AMD・Intelの3社が異なるシステム構成、モデル、シナリオを用いているため「結果は部分的にしか比較できない」との指摘がなされている。各社が自社の強みを前面に押し出す形でベンチマークを解釈している実態が浮かび上がった。

Training v6.0はMoE時代を反映した新ベンチマーク

6月16日に発表されたMLPerf Training v6.0では、DeepSeek V3とGPT-OSS 20Bという2つの新ベンチマークが追加された。MLCommonsによると、両モデルともMixture-of-Experts（MoE）アーキテクチャを採用しており、業界全体がスパース計算へ移行している実態を反映した措置だという。MoEは「ルーター」が入力トークンを専門化されたサブネットワーク（エキスパート）へ振り分ける仕組みで、パラメータ数が多くても実際に活性化されるのは一部のエキスパートに限られるため計算コストを抑えられる特徴を持つ。

GB300のスループットは半年で51%向上

NVIDIAの技術ブログでは、DeepSeek-V3 671BワークロードにおけるBlackwell Ultra GB300のトレーニングスループットが、NeMoコンテナのバージョンアップに伴い継続的に改善している様子が示された。2025年11月のバージョン25.11では1GPUあたり1,088 TFLOPSだったが、2026年2月の26.02では1,219 TFLOPS、4月の26.04では1,298 TFLOPS、そして6月の26.06では1,648 TFLOPSに達し、約半年で51%の向上を記録した。この改善は、トークンドロップレスなMoE向けのフルイテレーションCUDAグラフなど、複数のソフトウェア最適化によって支えられているという。

サーバーベンダーも即座に追随

ハードウェアベンダーの対応も早い。台湾ASUSは2026年6月22日の発表で、NVIDIA HGX B300を搭載した自社サーバー「XA NB3I-E12」がMLPerf Training v6.0において、Llama 3.1-8B（サーバー・オフライン両モード）とGPT-OSS-120B（インタラクティブモード）で1位を獲得したと明らかにした。同サーバーはすでに世界出荷が始まっており、ベンチマーク結果を製品の市場投入と同時にアピールする動きが定着しつつある。The Next Platformも、NVIDIAのソフトウェア最適化が推論ベンチマークを押し上げている構図を報じており、ハードウェアだけでなくソフトウェア面の継続的改善が今回の記録更新の鍵になっていると分析している。

MLCommonsのベンチマーク体系は、AIチップ市場における「透明性のある比較基準」としての役割を強めており、今後もマルチモーダル・動画・MoEといった実運用に即した項目が拡充されていく見通しだ。企業が推論・学習インフラを選定する際には、単一のピーク性能値だけでなく、自社が実際に使うモデルアーキテクチャに即したベンチマーク項目を確認することが重要になっている。