米国の AI の評価機関 METR は11月5日、AI が Anthropic の研究開発をすでに約1.9倍速めているとする見積もりを、自分たちのブログで出した。95%の確からしさの幅は1.5〜2.8倍である。あわせて、Anthropic のリスク報告（2026年8月）の研究開発の節を見直した結果も出した。METR は、Anthropic が公に書いた『2倍未満』は言い過ぎだとした。一方で、7月までのモデルで破局が起きるリスクは『低い』という Anthropic の結論には賛成した。ただし、METR がいちばん重いとみた証拠の大半は、Anthropic が黒く塗って伏せている。この記事の数字は、AP の報道ではなく METR のページのものを使う。
日本の会社にとって：Claude を仕事で使う会社にとっては、次のモデルが出るまでの間隔が、これまでの経験より短くなりうるという材料になる。社内の手順や、道具を選び直す周期は、その前提で組んだほうがよい。また、外部の評価者でも根拠の多くを公開できないことは、AI を買う側が安全性の説明をどこまで信じてよいかに直接かかわる。
『2倍未満』と『約1.9倍』の差は小さくない
数字だけ見れば、1.9倍は2倍未満に収まる。それでも METR が異を唱えたのは、幅の上の端が2.8倍まであるからだ。『2倍未満』と言い切れば、2倍を超える見込みは小さいと読める。しかし METR の見立てでは、加速が2倍を超えるかもしれないことは、無視できる見込みではない。METR は、Anthropic の書き方は確からしさを高く見せすぎていると判断した。
この差が重いのは、Anthropic 自身の安全の決まり（RSP、責任あるスケーリングの方針）に、『AI による研究の劇的な加速』という線があるからだ。この線を越えると、より強い安全策が要る。Anthropic は11月2日に出した上場の書類の改訂版で、将来のモデルがこの定義を『間もなく満たしうる』と書いていた。いまのモデルで、そう認定されたものはない。METR の見積もりは、その『間もなく』が思ったより近いかもしれないことを、外から数字で示したことになる。
社内の使い方の数字も、同じ方向を指している。上場の書類によれば、社内で Claude を使った量は、定価に直すと1〜9月に250倍になった。9月には、新しいコードの90%超を Claude が書いていた。
破局のリスクが『低い』という点には賛成した
METR は、Anthropic の結論をすべて退けたわけではない。7月までのモデルについて、破局につながるリスクは『低い』という見立てには賛成した。加速の大きさについては Anthropic より強く見積もり、いまのリスクの大きさについては同じ結論に立った、ということになる。
つまり、問いは『いま危ないか』から『どれだけ速く危なくなりうるか』に移っている。研究が約2倍の速さで進むなら、次の世代のモデルが出るまでの時間も、安全策を用意する時間も、そのぶん縮む。
ブロガーの Zvi Mowshowitz は、11月5日のニュースレター『AI #193』の副題に、こう書いた。
Anthropic is warning us
訳: Anthropic は私たちに警告している
会社が自分の書類で『劇的な加速が近い』と書き、外部の評価機関がそれより強い数字を出した。Mowshowitz は、それを外への警告として読むべきだと言っている。
いちばん大事な証拠は黒塗りだった
この見積もりの弱いところは、METR がいちばん大事とみた証拠の大半を、Anthropic が伏せたことである。そのため外の人は、1.9倍という数字がどんな材料から出てきたのかを確かめられない。
伏せること自体は、取り決めの中に入っている。Anthropic は10月15日、METR の職員6人に、社内のリスク評価のチームと『ほぼ同等』のアクセスを与えると発表した。そのとき、METR が何を公表するかに Anthropic は拒否権を持たないとした。一方で、事前に決めた狭い種類の情報は伏せるよう求められる、とも書いた。そのかわり METR は、伏せ方が妥当だったかを公に述べてよい。今回の公表は、この取り決めの下で研究開発の加速を扱った、目に見える最初の例である。METR は10月20日に、同じ8月のリスク報告のミスアラインメント（AI が人の意図からずれること）の節も見直していた。
つまり、評価者が社内に入り、反対の見立てを公にすることはできた。しかし、その見立ての根拠を外の人が確かめることは、まだできない。10月には Reuters が、Anthropic と OpenAI が常駐の評価者に強い編集権を求めていたと報じていた。今回の黒塗りの多さが、その懸念にどこまで当たるのか。上場を前にした Anthropic が、伏せた部分の一部でも後から出すのか。そこが次の焦点になる。
