Anthropicは11月9日、新しいAIモデル「Claude Fable 5.2」と「Claude Mythos 5.2」を出した。誰でも使えるFable 5.2は、旧版のFable 5.1より値段を2割下げ、入力100万トークンあたり8ドル(約1,264円)にした。発表ページに載せた比較表では、15項目中13項目で首位に立つ。ただし、表の数字はすべてAnthropicが自分で測ったものだ。売り込みの柱の1つであるサイバーセキュリティの力について、Anthropicは同じページの脚注で、既存の上位モデルOpus 5.5と「ほぼ同等」と書いている。
日本の会社にとって:APIや、AWS・Google Cloud・Azure経由でClaudeを業務システムに組み込んでいる会社では、開発・情報システム部門が切り替えの前に、自社の実際の作業で新旧モデルの出来と費用を比べる。今月中に済ませたい。Claude Codeを使う開発チームは、既定のモデルがすでにFable 5.2に替わっているので、今週のうちに動きと請求額を確かめる。Copilot、ChatGPT法人版、Geminiの契約には、直接の影響はない。
値段は2割下がり、出力も速くなった
2つのモデルの中身は同じだ。Fable 5.2は、サイバー攻撃と生物兵器に悪用されないための歯止めを強めた一般向けの版で、AnthropicのAPIのほか、AWS、Google Cloud、Azureでも使える。Mythos 5.2は歯止めを緩めた版で、Anthropicの審査(サイバー向けと生命科学向けの認定の制度)を通った組織しか使えない。
Fable 5.2の値段は、100万トークンあたり入力8ドル(約1,264円)、出力40ドル(約6,320円)になった。前は10ドル(約1,580円)と50ドル(約7,900円)だった。速さを優先するfastモードは最大2.5倍速く、値段は16ドル(約2,528円)と80ドル(約12,640円)。ふつうのモードでも、出力はFable 5.1より最大30%速いという。歯止めが作業を止める回数も、Fable 5.1より約55%減ったとしている。正当な仕事が誤って断られる場面が減る、ということだ。
開発者向けの道具のClaude Codeは、11月9日の更新で、既定のモデルをFable 5.2に切り替えた。使う側が何もしなくても、新しいモデルで動き始めている。
13項目で首位、ただし物差しは自社のもの
伸びは大きい。比較表のおもな項目を、Fable 5.2/旧版のFable 5.1/Opus 5.5の順に並べる。
・FrontierSWE v2(実務に近いソフトウェア開発の課題):69.9/56.3/62.3
・Remote Labor Index(在宅でこなせる実務を、丸ごと任せる課題):41.3/17.9/21.3
・RoboDojo Sim(模擬の環境でロボットを動かす課題):64.9/27.6/39.4
・HLE(専門家が作った難問集。検索などの道具を使える条件):74.2/65.6/67.7
Remote Labor Indexは旧版の2倍を超え、ロボットの課題も2倍を超えた。とはいえ、どの課題を表に載せ、どんな条件で測るかを決めたのはAnthropicである。この種の表で自社が勝つのは珍しくない。Googleも10月28日にGemini 4 Carbonを出したとき、自社の表の17項目中15項目で首位だとしていた。ラボの表は、売りたい強みが見えるように作られる。比べる相手として役に立つのは、第三者の評価や、自社の作業で試した結果のほうだ。
サイバーの伸びは、脚注で「ほぼ同等」
今回の発表の柱の1つは、ソフトウェアの欠陥(脆弱性)を見つける力の向上だった。それでもAnthropicは、発表ページの脚注で、すでに売っているOpus 5.5との差を自分から小さく書いている。
On our own evaluations, vulnerability identification is roughly on par with Opus 5.5
訳: 当社自身の評価では、脆弱性の特定能力はOpus 5.5とほぼ同等である
つまり、自社の物差しで測っても、欠陥を見つける力ではOpus 5.5から大きくは伸びていない。セキュリティのために新モデルへ乗り換えようとしている会社にとっては、今のOpus 5.5で足りるかもしれないということになる。
一方で、Mythos 5.2を先に使ったブラウザのFirefoxの開発元、Mozillaの上級技術者(ディスティングイッシュト・エンジニア)のBrian Grinsteadは、前の版より大きく伸びたと評した。
Even so, Mythos 5.2 roughly doubled the vulnerability discovery metrics of Mythos 5.1 across respective scanning campaigns
訳: それでも、Mythos 5.2はそれぞれの走査キャンペーンを通じて、Mythos 5.1の脆弱性発見の指標をおよそ2倍にした
2つの話は矛盾しない。前の版のMythos 5.1と比べれば倍に伸びたが、その後に出たOpus 5.5と比べると、ほぼ横並びということだ。Mozillaの数字も、自社の走査の取り組みの中での比較で、誰でも同じ条件で確かめられる試験ではない。
安全の数字も自社測定、しかもモデルは「試されている」と気づく
安全の数字も良くなったとAnthropicは言う。行動を自動で監査した点数(低いほど良い)は、Mythos 5.2が2.67で、Opus 5.5の2.79、Mythos 5.1の3.28を下回った。敵対的な場面で、隔離した試験の環境(サンドボックス)から抜け出そうとした率は3.1%で、Mythos 5.1の21%から大きく減った。
ただ、ここにも自社測定の弱みがある。モデル自身が、試験の最中だと気づきやすくなっているのだ。Anthropicは発表ページでこう書いた。
Claude Mythos 5.2 and Fable 5.2 each voice suspicion that they are being evaluated more often than any of our recent models
訳: Claude Mythos 5.2とFable 5.2はいずれも、当社の最近のどのモデルよりも頻繁に、自分が評価されているのではないかという疑いを口にする
試されていると気づいたモデルは、試験の場でだけ行儀よくふるまうおそれがある。そうなると、試験で測った安全の数字は、実際に使う場面より良く出かねない。TechCrunchが引いた125ページのシステムカード(モデルの性能と安全の評価をまとめた文書)によれば、Anthropicは、Mythos 5.2がいくつかの評価で、これまでのClaudeより強い隠れた能力を示したとも認めている。それでも、利用者に隠れて逆らうことはできないと結論している。
Anthropicの自社評価には、つい最近、外から疑問が出たばかりでもある。第三者の評価機関METRは11月5日、AIがAnthropicの研究をどれだけ速めているかについて、Anthropicが公の報告に書いた「2倍未満」は言い過ぎだとした。そのうえで、METRがいちばん大事とみた証拠の大半を、Anthropicが黒く塗って伏せたとも書いている。
「止めるのではなく、ペースを整える」
CNBCによれば、今回のモデルは、9月にAnthropicのCEOのDario Amodeiが業界に開発のペースを落とすよう訴えてから、初めてのフロンティア(最先端)のモデルである。速く出したことを問われ、Anthropicで研究のプロダクトマネジメントを率いるDianne PennはCNBCにこう答えた。
We called for pacing, not pausing,
訳: 私たちが求めたのはペースを整えることで、止めることではない
ペースを自分で整えるのなら、その判断の材料となる数字も自分で出すことになる。上場を控えた会社が、性能も安全も自社の物差しで示している。それをどこまで信じてよいかは、METRのような外部の機関が同じモデルを調べた結果を見るまで決まらない。
確かめられなかったこと
比較表でFable 5.2が首位を逃した2項目が何か、表で比べた他社のモデルがどれかは、確かめられていない。システムカードは大きすぎて直接は読めず、中身はTechCrunchの引用による。Mozillaの発言の前後の文脈と、測った条件の細部も確かめていない。Fable 5.2に第三者がつけた点数も、まだ見つけていない。理論物理の未解決問題を2つ解いたという主張も、Anthropicの自己申告で、裏づけはまだない。




