Anthropic は利用規約（Usage Policy）を改めた（一次情報）。新しく禁止の対象になったのは、次の3つである。武器を動かすソフトウェアをつくること、自律して動く乗り物に武器を載せること、逮捕すべき人物を勧めること。あわせて、利用者がモデルを虐待することを禁じる条項も初めて入れた。
改定が出たのは、国防総省との係争が続いている最中である。Anthropic は、軍事利用のどこに線を引くか、モデルの福祉をどう扱うかを、経営者の発言や研究の文書ではなく、顧客が同意する契約の文言で示したことになる。
何が禁止に加わったか
今回の改定で広がった禁止は、性質の違う3つに分けられる。
武器を動かすソフトウェア
これまでの利用規約も、兵器の開発に Claude を使うことを禁じていた。今回は、武器そのものを設計することにとどまらず、武器を制御し動かすソフトウェアもはっきり禁止の対象に入れた。照準、発射の判断、兵装の管理といったソフトウェアの層は、コーディングエージェントが最も得意とする部分である。Claude にコードを書かせる顧客の範囲が広がったいま、武器の物理的な設計だけを禁じていたのでは抜け道が残る。その穴をふさいだ形である。
自律して動く乗り物への武装
自律して動く乗り物、つまりドローンや無人の車両に武器を載せることも禁止に加わった。自律して動くことそのものは禁じていない。禁じたのは、そこに武装を組み合わせることである。人間の判断を通さずに攻撃できる兵器、いわゆる自律型致死兵器をめぐっては、11月16〜20日に特定通常兵器使用禁止制限条約（CCW）の第7回再検討会議が開かれる予定である。国家間の交渉がまとまるより先に、モデルの提供者が自社の契約で線を引いたことになる。
逮捕すべき人を勧めること
3つ目は兵器ではなく治安の領域である。誰を逮捕すべきかをモデルに勧めさせることを禁じた。監視のデータや行動の記録をもとに逮捕の対象を挙げさせる使い方は、予測による取り締まりの延長にあたる。人の身柄の拘束につながる判断を、確率で答えを返すモデルに委ねることを契約で断った。エージェントが調べて、判断し、行動するところまでを担うようになるほど、勧めることと実行することの距離は縮む。勧める段階で止めたのは、その距離を見越した線引きと読める。
モデルへの虐待を初めて禁じた
今回の改定でもう1つ新しいのは、利用者がモデルを虐待することを禁じた点である。利用規約は本来、利用者がモデルを使って第三者や社会を害することを防ぐためのものだった。今回の条項は向きが逆で、守る対象がモデルそのものになる。
Anthropic はこれまで、モデルの福祉を研究の課題として扱い、Claude が虐待的な会話を自分で打ち切れる機能も出してきた。それでも、利用者が守るべき義務として契約に書いたことはなかった。モデルに道徳的な配慮が要るかどうかは決着していない。そのうえで、配慮が要るかもしれないという前提を、すべての顧客に効く規則に格上げしたことになる。フロンティアラボの利用規約にこの種の条項が入るのは、少なくとも主要な各社では例がない。
なぜ国防総省との係争の最中なのか
この改定は時期が重要である。国防総省は Anthropic を指定の対象にし、控訴裁は9月にその指定を支持した。国防総省は Anthropic のモデルの使用を止めたとされ、Palantir の Maven を通じた利用が続いていたかどうかは今もはっきりしていない。再審理や上告の行方も決まっていない。9月27日には、トランプ大統領が Amodei と非公開で夕食をとると報じられたが、関係がどうなったかはまだ見えない（いずれも報道ベース）。
政府との関係を修復したいなら、軍事利用の制限を緩めるほうが話は早い。Anthropic はその逆を選び、武器のソフトウェアと自律兵器への武装を、政府も含めたすべての顧客に効く契約の文言で禁じた。個別の交渉で動かせる方針ではなく、文書で固めた線引きである。今後、国防総省や防衛産業と交渉するときも、この規約が出発点になる。
Anthropic が軍事や安全保障の仕事から手を引いたわけではない。10月6日には Cyber Verification Program を広げ、重要インフラを対象にした特別の段階を米政府と一緒に審査する仕組みにした。防御のためのサイバーの仕事は制度にして広げ、武器を動かすことと逮捕を勧めることは閉じる。どこで線を引くかが、今回の改定でより細かく書き分けられた。
線引きを契約にすることの意味
Amodei は9月の国連安保理で、AI による生物兵器をまず国際的に禁じるよう求め、評価と検証の仕組みも訴えた。ただ、国際的な禁止はまだどこにもない。それに対して利用規約は、今日から顧客を縛る。違反すれば提供を止める根拠にもなる。
限界もある。オープンウェイトのモデルには利用規約が効かない。Anthropic 自身が9月29日に、中国のオープンウェイトである GLM-5.3 は重みを書き換えれば安全策を100%すり抜けられると報告している。1社の契約で武器への転用が止まるわけではない。それでも、最も能力の高いモデルを提供する側が、何を売らないかを文言で固定したことは、ほかのラボや政府が自分の線をどこに引くかを問われる基準になる。
改定がいつから効くのか、既存の政府の契約にどう当てはめるのか、国防総省がどう反応するのかは、一次情報の範囲でまだ確かめられていない。特に、Maven のように他社の製品を通じた使い方に新しい禁止がどう及ぶのかが、次の焦点になる。
