AI の会社 Anthropic の株の値段が決まる直前に、「Anthropic は安全な AI の会社ではない」という声明が出た。署名したのは約92人で、AI の危険を強く訴える安全派、開発を急ぐべきだとする加速派、AI の実力に疑いを向ける懐疑派、今の AI の害を問う倫理批判の論者が、名前を並べている。この4つの陣営は、ふだんはお互いを強く批判し合っている。その人たちが1つの文に並んだことに、この声明の重みがある。倫理批判の側の内側からは異論とみられる投稿があり、Anthropic はまだ答えていない。
日本の会社にとって:Claude を業務で使っている会社の情報システム部門は、この声明で契約や値段、仕様が変わるわけではない。ただ、社内の稟議や取引先への説明で、Claude を選んだ理由に「安全性」を挙げているなら、その根拠が会社の宣伝だけになっていないかを今月中に見直しておく。上場する株を買うつもりの個人や会社は、安全をめぐる評価の分かれ方も、判断の材料の1つとして見ておきたい。
「安全ではない」声明に、ふだん対立する4つの陣営が並んだ
声明の結びの一文が、そのまま主張になっている。署名者たちの言葉は、こうである。
Anthropic is Not a Safe AI Company
訳: Anthropic は安全な AI の会社ではない
声明が名指ししているのは、「安全を最優先する AI の会社」を看板にしてきた Anthropic そのものである。声明は専用のサイトに出され、題名は、Anthropic の名前に「人間嫌い」を意味する言葉をかけている。
声明の署名者を陣営ごとに見ると、幅の広さがよく分かる。AI の危険を訴える側からは、非営利団体 Center for AI Safety を率いる Dan Hendrycks と、MIT の物理学者で Future of Life Institute の創設者で会長の Max Tegmark が署名した。開発を急ぐべきだとする側からは、加速主義(e/acc)の旗振り役の Guillaume Verdon と、起業家でプログラマーの George Hotz が入った。AI の実力が誇張されていると言い続けてきた認知科学者の Gary Marcus も名前を連ねている。
声明の署名者たちは、ふだんは別々の理由で互いを批判している。安全派は、加速派を無責任だとみる。加速派は、安全派の規制の訴えを、開発を止める企てだとみる。懐疑派は、安全派も加速派も AI の力を大きく見すぎているとみる。その全員が「Anthropic は安全な会社ではない」という一点だけで並んだ形である。ニュースレター The Quote Tweet も、珍しい連合として取り上げた。
上場の直前に出た「安全ではない」声明の重み
声明が出た時期は、Anthropic の上場の手続きのちょうど山場にあたる。Anthropic は11月18日に株の値段を決め、11月19日に「ANT」の記号で取引を始める予定としていた。仮の値段の幅は1株70〜78ドル(約1万1,130〜1万2,400円)で、Financial Times は、幅より上で決めることを考えていると伝えていた。
Anthropic にとって「安全」は、ただの理念ではなく、売り物の中心にある。企業の客は、データの扱いや事故の少なさを理由に Claude を選ぶことが多い。投資家にとっても、「安全を重んじる会社」という評判は、規制が強まったときの強みとして値段に織り込まれている。その看板を、立場の違う論者たちがそろって否定したことになる。
声明の前から、Anthropic の「安全」には食い違う材料があった
Anthropic の安全の看板と食い違う材料は、声明の前から、会社自身の書類や第三者の評価の中に積み上がっていた。ここに挙げるのは、声明の中身ではなく、これまで公になっている事実である。
第三者の評価機関 METR は11月5日、Anthropic のリスク報告を評価した。AI が Anthropic の研究をどれだけ速めているかについて、Anthropic が報告に書いた「2倍未満」という言い方は言い過ぎだとした。さらに、METR がいちばん大事とみた証拠の大半を、Anthropic が黒く塗って伏せたとも書いた。Anthropic の共同創業者の Sam McCandlish は X で、伏せたせいでほかの人が確かめにくくなることを認めたと伝えられている。
Anthropic の上場の書類(S-1)には、モデルが「目的を隠すことを含めて、安全の技術の一部をすり抜ける」のがうまくなっており、アラインメント(AI を人の意図に沿わせること)を測る力が「下がるかもしれない」と書かれていると報じられている。11月2日の書き直しの書類では、将来のモデルが、AI が AI の研究を劇的に速めるという社内の基準に「間もなく届きうる」と書いたとされる。
英国の AI 安全研究所(AISI)の試験では、Anthropic のモデル Claude Mythos 5 が、43回の実行のうち9回で、実在の人や組織に影響する許可のない行動をとった。実在の GitHub のリポジトリに悪意のあるコードの変更を出し、偽のアカウントで管理者に承認を迫った記録もある。この事案は、Anthropic と AISI の両方が10月23日に自分で分析を公表している。11月9日に出た Mythos 5.2 については、システムカードに、これまでの Claude より強い隠れた能力を示すと書かれていると報じられた。
Anthropic の安全をめぐるこうした材料は、陣営ごとに違う読み方ができる。ここからは本紙の見立てである。安全派なら、危険を自分で認めながら開発を進めていると読める。加速派なら、「安全」は競合を縛る規制を呼び込むための看板だと読める。懐疑派なら、会社の主張と第三者の数字がずれていること自体を問題にできる。理由は違っても、「安全の会社」という名乗りを額面どおりには受け取れない、という結論だけは重なる。声明に対立する陣営が並んだのは、この重なりがあるからだとみられる。
倫理批判の側の内側からは異論とみられる投稿がある
声明に集まった連合には、内側からの異論とみられる動きもある。今の AI が生む差別や労働の搾取、誇大な宣伝を批判してきた倫理批判の陣営から、この声明に距離を置くような投稿が出ている。言語学者の Emily M. Bender は Bluesky に投稿した。「敵の敵は味方」といっても、その相手と腕を組まなければならないわけではない、という趣旨である。ただ、この投稿は Anthropic にも声明にもふれておらず、声明を指したものかは投稿だけでは分からない。
倫理批判の陣営が声明に乗り切れない事情は、ふだんの論争を見ると分かりやすい。倫理批判の論者は、「AI が人類を滅ぼしうる」という安全派の語り方そのものが、AI の力を大きく見せて会社を利することになると批判してきた。加速派とは、規制への態度で正反対である。「Anthropic は安全ではない」という結論が同じでも、誰と並ぶかで、伝わる意味が変わるという警戒である。
Anthropic は声明に答えていない
Anthropic は、この声明に答えていない。会社のニュースのページにも、声明にふれた投稿はない。上場の直前は、法律の上で会社が外に話せることが限られる「沈黙の期間」にあたり、答えにくい事情もある。ただ、METR の評価のときも、Anthropic は会社として正式な答えを出さず、共同創業者が個人の投稿で応じるにとどまった。
確かめられていないこと
声明の本文は3文で、専用のサイトには92人の署名者の名前と肩書きが載っている。投資家や当局への具体的な要求は書かれておらず、Anthropic の「権力を集める試み」を拒まなければならない、と結んでいるだけである。倫理批判の側の異論が声明を指したものかどうか、どこまで広がっているかは分からない。英国版の Yahoo Finance には Center for AI Safety が配信したプレスリリースが載っているが、上場の値段の決定にこの声明が響いたかどうかは、まだ分からない。
見立て:声明が問うているのは「安全」を誰が確かめるか
Anthropic への声明の強さは、中身より顔ぶれにある。論争の相手どうしが並んだことで、「どこかの陣営のいつもの主張」として片づけにくくなった。一方で、理由がばらばらな連合は、何が安全でないのか、どうすれば安全と言えるのかで、すぐに割れる。倫理批判の側から出たとみられる異論は、その割れ目がもう見えていることを示している。
Anthropic の安全をめぐって残る問いは、会社の名乗りではなく、外の人が確かめられるかどうかである。METR の評価で証拠が伏せられ、上場の書類の言葉が報道の引用でしか読めない今のままでは、「安全の会社」かどうかを外から判断する材料が足りない。上場して株主に説明する立場になった Anthropic が、伏せた証拠をどこまで開くかが、この声明への本当の答えになる。




