元 OpenAI の CTO の Mira Murati が率いる Thinking Machines Lab が、AI のモデル Inkling 2 Small の重み(モデルの中身そのもの)を公開した。11月5日の発表で「外部の安全試験を終えた後、来週に Apache 2.0 で出す」と約束しており、そのとおりになった。Apache 2.0 は、商用利用も改変も再配布も認める、ゆるいライセンスである。パラメータは総594B(5,940億)で、米国のラボが出したオープンなモデルとして最大級になる。ただし、4ビットに縮めた NVFP4 という形式でも、動かすには500GB を超えるメモリが要る。誰でも手元で気軽に試せる規模ではない。
日本の会社にとって:大半の会社には、すぐの影響はありません。関係するのは、データを社外に出せないので自社の設備で AI を動かしたい金融、製造、自治体の情報システム部門です。今年度の残りの予算を組む前に、自社の GPU サーバのメモリが合計500GB を超えるかを確かめてください。足りなければ、クラウドで借りる費用と、Tinker の料金(100万トークンあたり入力約48円・出力約160円)を比べます。Copilot、ChatGPT の法人版、Gemini の契約には影響しません。
何が公開されたのか
Inkling 2 Small は、11月5日に Thinking Machines が出したモデルである。その時点では同社のサービス Tinker でしか使えず、重みは公開していなかった。11月12日に Hugging Face を確かめた段階でも公式のリポジトリはなく、あったのはほかの人が手を加えた版だけだった。今回の公開で、会社が出した本物の重みを誰でも取れるようになった。
中身は11月5日の発表のとおりである(一次情報)。
・規模:総594B。1回の処理で実際に使うのは17B だけの MoE で、画像を読み取る部分が292M ある。文章と画像を扱い、音声は扱わない。一度に読める長さは256K トークン(評価では100万トークン)。
・点数(会社の発表):第三者の Artificial Analysis の総合指数で31で、前の Inkling Small より18点高い。コーディングの SWE-Bench Pro v2(Hard)で86.3%、DeepSWE v1.1 で72.1%、画像の読み取りの MMMU Pro で81.6%。
・学習:事前学習は最初から NVFP4 で行った。NVIDIA の GB300 NVL72 で68時間、8.4T トークンを学ばせた。
Apache 2.0 で出したことには意味がある。ほかの大きなオープンなモデルの多くは、独自のライセンスに条件を付けている。Meta の Muse Spark Open、Moonshot の Kimi K3.1 Pro、Mistral の Large 4 は、売上の大きな会社がモデルをサービスとして売るとき、別の契約を求める。Apache 2.0 には、こうした売上の条件がない。自社の製品に組み込んで売る会社にとって、法務の確認がずっと軽くなる。
「米国最大級」の中身
規模だけで並べると、米国のオープンなモデルではいちばん上ではない。10月15日に Meta が出した Muse Spark Open は総816B で、もっと大きい。ただし Muse は Meta の独自のライセンスで、12か月の売上が2,000万ドルを超える会社がサービスとして出すには、Meta と別の契約が要る。
Apache 2.0 で出た米国のモデルに限ると、Reflection AI の Beam(総501B、10月16日)を超える。これまでに知られている中では、売上の条件なしに使える米国のモデルとして最大になる。
一方で、中国のラボとの差は残る。Moonshot の Kimi K3.1 Pro は総約2.8T、美団(Meituan)の LongCat-2.5 は総約1.6T で、LongCat-2.5 は MIT ライセンスで出ている。米国の側は、ゆるいライセンスで出せる規模を、ようやく500B を超えるところまで押し上げた段階である。
動かすには500GB超という壁
このモデルは、1回の処理で使う部分が17B と小さいので、答えを出す速さの面では軽い。それでも、594B 分の重みはすべてメモリに載せておく必要がある。どの部分を使うかが、問いごとに変わるからである。
NVFP4 は、重みを4ビットに縮めて小さくする形式で、Inkling 2 Small は最初からこの形式で学習している。それでも動かすには、500GB を超えるメモリが要る。たとえば手元で AI を動かすための NVIDIA の小型機 DGX Spark は、メモリが128GB である。単純に割っても4台分を超える。目安を挙げると、Beam(総501B)は、H100 を8枚積んだサーバ1台に収まるとしていた。Inkling 2 Small も、これと同じくらいのデータセンター向けの設備を考えたほうがよい。
ですから、多くの会社にとって現実的な使い方は2つになる。
・Tinker で使う:100万トークンあたり、入力0.30ドル(約48円)、出力1.00ドル(約160円)。
・クラウドで GPU サーバを借りて、自分で動かす:データを外の会社に渡さずに済むが、サーバを借りる費用と、運用する人手がかかる。
中堅や中小の会社が、手元のパソコンで試すモデルではない。自分の設備で動かす意味があるのは、大量に使うので API の料金がかさむ会社か、規制や契約のせいでデータを外に出せない会社である。
約束を守ったこと、守れないこと
「重みを出す」と予告したモデルのうち、期限のとおりに出たものは多くない。Tencent の Hy4 は11月4日に「数日のうちに」と言ってから、11月12日の時点でも公式の重みが出ていない。Alibaba の Qwen4 は、先行版を一部のサービスの中で出しただけである。Thinking Machines は、発表から1週間ほどで約束を果たした。
安全の面では、同社は11月5日の発表で、化学・生物・放射性物質・核(CBRN)の評価と、悪用の依頼をどれだけ断るかを測る FORTRESS という評価をしたと書いていた。道具の呼び出しをその場で調べ、作業の記録を後から見直す、2段構えの監視も置いたという。ただ、この監視は同社のサービスの中で動く仕組みである。重みを取って自分の設備で動かす人には、この監視はかからない。いったん出した重みは、取り下げることもできない。オープンなモデルは、どれも同じ事情を抱えている。
確かめられなかったこと
今回の記事を書いた時点で、次の点は確かめられていない。重みが一般に見えるようになった正確な日時。公開の前の外部の安全試験を、誰が行い、どんな結果だったか。500GB を超えるというメモリの内訳(重みの分と、長い文章を読むための作業用の分の割合)と、ほかの形式(16ビットなど)の版があるかどうか。また、Artificial Analysis の31という点は、10月27日に改めた新しい指数の上の数字で、それより前に付いたほかのモデルの点数とは並べられない。




