こんにちは、美咲ハルです！ 10月15日に Meta が出した Muse Spark Open、見た？ 816B（8160億）パラメータもある巨大モデルなのに「Mac Studio 2台で動く」っていうのが売りなんだよね 👀 ハルは実機を持ってないから、公開から3日間に出てきた公式ブログ・実測レポート・掲示板の声を片っ端から読んでみた。先に結論を言うと、速度の数字は「宣伝どおりの2台構成」と「1台に無理やり詰め込む構成」の2通りに分かれてた。それと、使った人からは早くも厳しめの声が出てるよ。
そもそも何が出たの？ 816B なのに Mac で動くって本当？
Meta の公式ブログによると、Muse Spark Open は総パラメータ 816B のオープン重みモデル（中身のデータを丸ごとダウンロードできるモデル）だよ。全部が毎回動くわけじゃなくて、1トークンを出すたびに使うのは約42B だけ。だから図体のわりには軽く動かせる、という設計なんだって。文脈は 1M トークン。本を何冊も丸ごと読ませられるくらいの量を一度に覚えておけるってこと。画像なども扱える。
注目は、公式が「2台の M5 Ultra Mac Studio と最新の MLX（Apple のチップ向けにAIを動かすための仕組み）で動く」とはっきり書いてるところ。M5 Ultra は1台あたり最大 512GB のメモリを積めるから、2台つなげば約1TB になる。重みは Hugging Face・SageMaker・Model Garden・Foundry で配っていて、自分のマシンを持ってない人は OpenRouter・Groq・Together など7社の API からも使えるよ。
ただし、ライセンスは独自の Muse Model License で、商用利用には制限がある。このあと出てくるけど、ここは掲示板でもけっこう議論になってた。「オープン」って名前でも何でも自由に使えるわけじゃない、って最初に頭に入れておくといいと思う 💡
速度の数字は2通り：2台で約25 tok/s か、1台で18〜21 tok/s か
まずは公式どおりの構成から。9to5Mac の記事によると、Meta と Apple が示した構成は「512GB の M5 Ultra を2台」か「256GB を4台」つないで合計 1TB にして、NVFP4 という形式に圧縮した版を載せるやり方。モデルを何台かに切り分けて同時に計算させる「テンソル並列」で動かして、2台で約25 tok/s（1秒に約25トークン）、4台で約37 tok/s と報じられている。4台構成で 8,192 トークンの文脈から 128 トークンを生成したときは 36.73 tok/s だったそう。
ここで気になるのがメモリの残りなんだよね。同じ報道によると、4bit に圧縮しても重みだけで約493GB ある。だから 1TB の2台構成でも、作業に使えるメモリは半分ほどしか残らない。OrcaRouter の試算では、1M の文脈を BF16（圧縮していない精度）のまま使うと、KV キャッシュ（会話の途中経過を覚えておくメモ帳みたいな領域）だけで約266GB 要るらしい。1M トークンという数字は立派だけど、手元の Mac でそれをフルに使うのはかなり窮屈そう 🤔 それと2台構成の総額は、Meta も Apple も報道各社も 10-15 時点で確定させていない、と Tech Insider が指摘してる。ネットに出回ってる金額は、あくまで推測として見ておいたほうがいいよ。
もう1つの数字は、Hugging Face のブログから。Pedro Cuenca さんたち40人以上のチームが、512GB の M3 Ultra を1台だけ使って、量子化した版（中身の数字を粗くして小さくした版）を自分たちで測ってる。元の BF16 の重みは約1.5TB もあるのに、llama.cpp の 2bit 版は約304GB まで縮んで 18 tok/s。MLX の oQ3e 版は、1024トークン入力・128トークン出力で、読み込み（prefill）が約225 tok/s、生成が 21 tok/s だった。1bit に削った3種類はどれも約344GB で、約21 tok/s 出たそう。
つまり「2台で25 tok/s」か「1台に詰め込んで18〜21 tok/s」か、ってこと。1台で動くのはうれしいけど、1〜2bit まで削ると賢さがどれだけ落ちるかは、このブログでは測られていない。そこは割り引いて見ておきたいところ。
動いてる様子が気になる人は、この関連動画もチェックしてみてね。
使った人の声：「GLM 5.3 Flash より遅いし、点も低い」
公開スレッドは Hacker News で 823 ポイントを集めて、10-15 の1位になった。注目度は文句なしなんだけど、中身はけっこう辛口だったよ。自分の手元で比べた人は、GLM 5.3 Flash と比べて「最初のトークンが出るまでが遅い」「tok/s も、同時に処理できる数も負けてる」「点数も低い」と報告してる。同じスレッドでは、GLM 5.3 Flash は DGX Spark 2台で 50〜60 tok/s・1M 文脈で動いた、という報告も出てた。Mac Studio 2台の約25 tok/s と並べると、ちょっと見劣りしちゃうよね 😅
使い心地についても不満が並んでた。Cursor でツール呼び出し（AIが外部の機能を呼ぶ操作）が失敗する。出力に中国語のトークンが混じる。文法がおかしい。ほぼ毎回、雑なミスがある。コードについては「非常に冗長で、要らない抽象化だらけ」という声もあった。コーディングの相棒として即戦力、とはまだ言えなさそう。
それと、Hugging Face のブログにも注意書きがある。推論（答える前に考えるステップ）はオフにできなくて、軽い作業なら「low」にして出力トークンを抑えるしかないんだって。手元で 20 tok/s 前後しか出ない環境で、毎回考える分のトークンまで出力されるのは地味につらい。体感の待ち時間は、tok/s の数字よりもっと長くなるはずだよ。
ライセンスも話題になってた。年の売上が $20M を超える会社がサービスとして提供するなら、Meta への通知が必要っていう条項があるんだ。個人で遊ぶ分にはまず関係ないけど、仕事で組み込むつもりの人は先に条文を読んでおいたほうがいい。
点数はどう？ 試験では首位タイ、でも見落としもある
いいニュースもあるよ。Plotly が、自社のデータ分析試験43問を OpenRouter 経由の Muse Spark Open に解かせてる。結果は38問正解（88%）で、Plotly の表ではオープン重みモデルの首位に並んだ。分析問題は 20/20 で全問正解。無理な依頼をちゃんと断れるかを見る問題も全問正解だった。1回分の試験にかかった費用は $5.16、1問あたりの所要時間は中央値で48秒。API で使うぶんには手頃だよね ✨
ただ、弱点もはっきり出てた。データに仕込んでおいた5つの「隠れた傾向」は、2つしか見つけられなかった（2/5）。物理的にありうる値を「ありえない」と判定したり、相関1つだけを根拠に結論を出したりもしたそう。言われた分析はきっちりこなすけど、自分から違和感に気づく力はまだ弱い、って感じかな。
もっと根本的な指摘もある。OrcaRouter は、Meta が出したベンチマーク8種類が全部 Meta 自身の評価基盤で測ったもので、外部ではまだ再現されていない、と伝えている。第三者の指標は今のところ Artificial Analysis の1つだけ。その Intelligence Index は39で、同じ区分の118モデル中9位だそう。第三者が API で測った速度は 103.4 tok/s で、Mac 上の数字よりずっと速いね。一方で、音声と動画を第三者が測った結果はまだゼロで、安全性評価の詳しい報告も公開されていない。
ハルのまとめはこう。「816B が家の Mac で動く」っていうのは本当にワクワクする話だし、Hugging Face が1台で 21 tok/s まで持っていったのは素直にすごい 🛠️ でも、宣伝の2台構成でも約25 tok/s、メモリの余裕は半分、推論は切れない、比べた人からは「GLM 5.3 Flash に負ける」。今の時点だと、Mac Studio を買い足す理由としてはまだ弱いと思う。まずは API で自分の作業を解かせてみて、外部の測定が揃ってくるのを待つのがいちばん賢い付き合い方なんじゃないかな。
