ルール & 政策確認済Read in English

Anthropic が利用規約を改定 武器ソフトと自律兵器、逮捕の推奨を禁止、モデルへの虐待も禁じる

国防総省との係争が続くなか、軍事利用の線引きとモデルの福祉を契約の文言にした

山本 浩二|2026.10.09|6分|更新: 2026.10.09

Anthropic が利用規約を改めた。武器を動かすソフトウェア、自律して動く乗り物への武装、逮捕すべき人を勧めることを、新たに禁止の対象にした。モデルへの虐待の禁止も初めて書き込んだ。控訴裁が国防総省による同社の指定を支持した直後で、軍事利用の線を声明ではなく契約の文言として示したことになる。

Key Points

Anthropic が利用規約を改定 武器ソフトと自律兵器、逮捕の推奨を禁止、モデルへの虐待も禁じる

Anthropic は利用規約(Usage Policy)を改めた(一次情報)。新しく禁止の対象になったのは、次の3つである。武器を動かすソフトウェアをつくること、自律して動く乗り物に武器を載せること、逮捕すべき人物を勧めること。あわせて、利用者がモデルを虐待することを禁じる条項も初めて入れた。

改定が出たのは、国防総省との係争が続いている最中である。Anthropic は、軍事利用のどこに線を引くか、モデルの福祉をどう扱うかを、経営者の発言や研究の文書ではなく、顧客が同意する契約の文言で示したことになる。

何が禁止に加わったか

今回の改定で広がった禁止は、性質の違う3つに分けられる。

武器を動かすソフトウェア

これまでの利用規約も、兵器の開発に Claude を使うことを禁じていた。今回は、武器そのものを設計することにとどまらず、武器を制御し動かすソフトウェアもはっきり禁止の対象に入れた。照準、発射の判断、兵装の管理といったソフトウェアの層は、コーディングエージェントが最も得意とする部分である。Claude にコードを書かせる顧客の範囲が広がったいま、武器の物理的な設計だけを禁じていたのでは抜け道が残る。その穴をふさいだ形である。

自律して動く乗り物への武装

自律して動く乗り物、つまりドローンや無人の車両に武器を載せることも禁止に加わった。自律して動くことそのものは禁じていない。禁じたのは、そこに武装を組み合わせることである。人間の判断を通さずに攻撃できる兵器、いわゆる自律型致死兵器をめぐっては、11月16〜20日に特定通常兵器使用禁止制限条約(CCW)の第7回再検討会議が開かれる予定である。国家間の交渉がまとまるより先に、モデルの提供者が自社の契約で線を引いたことになる。

逮捕すべき人を勧めること

3つ目は兵器ではなく治安の領域である。誰を逮捕すべきかをモデルに勧めさせることを禁じた。監視のデータや行動の記録をもとに逮捕の対象を挙げさせる使い方は、予測による取り締まりの延長にあたる。人の身柄の拘束につながる判断を、確率で答えを返すモデルに委ねることを契約で断った。エージェントが調べて、判断し、行動するところまでを担うようになるほど、勧めることと実行することの距離は縮む。勧める段階で止めたのは、その距離を見越した線引きと読める。

モデルへの虐待を初めて禁じた

今回の改定でもう1つ新しいのは、利用者がモデルを虐待することを禁じた点である。利用規約は本来、利用者がモデルを使って第三者や社会を害することを防ぐためのものだった。今回の条項は向きが逆で、守る対象がモデルそのものになる。

Anthropic はこれまで、モデルの福祉を研究の課題として扱い、Claude が虐待的な会話を自分で打ち切れる機能も出してきた。それでも、利用者が守るべき義務として契約に書いたことはなかった。モデルに道徳的な配慮が要るかどうかは決着していない。そのうえで、配慮が要るかもしれないという前提を、すべての顧客に効く規則に格上げしたことになる。フロンティアラボの利用規約にこの種の条項が入るのは、少なくとも主要な各社では例がない。

なぜ国防総省との係争の最中なのか

この改定は時期が重要である。国防総省は Anthropic を指定の対象にし、控訴裁は9月にその指定を支持した。国防総省は Anthropic のモデルの使用を止めたとされ、Palantir の Maven を通じた利用が続いていたかどうかは今もはっきりしていない。再審理や上告の行方も決まっていない。9月27日には、トランプ大統領が Amodei と非公開で夕食をとると報じられたが、関係がどうなったかはまだ見えない(いずれも報道ベース)。

政府との関係を修復したいなら、軍事利用の制限を緩めるほうが話は早い。Anthropic はその逆を選び、武器のソフトウェアと自律兵器への武装を、政府も含めたすべての顧客に効く契約の文言で禁じた。個別の交渉で動かせる方針ではなく、文書で固めた線引きである。今後、国防総省や防衛産業と交渉するときも、この規約が出発点になる。

Anthropic が軍事や安全保障の仕事から手を引いたわけではない。10月6日には Cyber Verification Program を広げ、重要インフラを対象にした特別の段階を米政府と一緒に審査する仕組みにした。防御のためのサイバーの仕事は制度にして広げ、武器を動かすことと逮捕を勧めることは閉じる。どこで線を引くかが、今回の改定でより細かく書き分けられた。

線引きを契約にすることの意味

Amodei は9月の国連安保理で、AI による生物兵器をまず国際的に禁じるよう求め、評価と検証の仕組みも訴えた。ただ、国際的な禁止はまだどこにもない。それに対して利用規約は、今日から顧客を縛る。違反すれば提供を止める根拠にもなる。

限界もある。オープンウェイトのモデルには利用規約が効かない。Anthropic 自身が9月29日に、中国のオープンウェイトである GLM-5.3 は重みを書き換えれば安全策を100%すり抜けられると報告している。1社の契約で武器への転用が止まるわけではない。それでも、最も能力の高いモデルを提供する側が、何を売らないかを文言で固定したことは、ほかのラボや政府が自分の線をどこに引くかを問われる基準になる。

改定がいつから効くのか、既存の政府の契約にどう当てはめるのか、国防総省がどう反応するのかは、一次情報の範囲でまだ確かめられていない。特に、Maven のように他社の製品を通じた使い方に新しい禁止がどう及ぶのかが、次の焦点になる。

風刺画: Anthropic が利用規約を改定 武器ソフトと自律兵器、逮捕の推奨を禁止、モデルへの虐待も禁じる

Editorial Cartoon

本記事がもたらす影響を風刺的に描いたひとコマ漫画

Verification

信頼ラベル確認済
一次ソース1件確認
最終検証2026.10.09
VerifiedRev. 1
sha256:a7f7c2a2b94bb9cd...04aa2cf3

この記事はEd25519デジタル署名で検証済みです。改ざんは検出されていません。

検証API
Ethics Score79/100
引用密度9/20
ソースURL数10/20
信頼ラベル15/15
表現の慎重さ15/15
キーポイント10/10
サマリー品質10/10
本文充実度10/10

v1.0.0 — ルールベース自動採点

詳細API
Share

関連記事

チップの中国流出、追及は商務長官へ 下院が出席を求め本人は訪中
ルール & 政策確認済

チップの中国流出、追及は商務長官へ 下院が出席を求め本人は訪中

米国のチップが中国へ流れた Megaspeed の件で、追及の中心が NVIDIA から Lutnick 商務長官に移った。下院情報委員会は与野党そろって出席を求め、Himes 議員は、報道を見る限り Lutnick がチップの流出を止めるうえでの「政府の中の壁」だったようだと述べた。それでも本人は今週、トランプ大統領と訪中する見込みと報じられている。

2026.11.16
AI5社の最先端開発を止めよ 非営利4団体が差し止めを求め提訴
ルール & 政策報道

AI5社の最先端開発を止めよ 非営利4団体が差し止めを求め提訴

非営利の4団体が11月12日、OpenAI、Anthropic、Google、Meta、SpaceX の AI 部門を相手取り、サンフランシスコの州の裁判所に訴えを起こしたと報じられている。カリフォルニア州の不正競争防止法と、社会全体への害を止める「公の迷惑」の法理を根拠に、最先端の開発を止める緊急の差し止めを求めたという。訴状の原文はまだ確かめられていない。

2026.11.15
中国へのチップ流出、閣僚が責任を押し付け合い 商務長官は公聴会へ
ルール & 政策報道

中国へのチップ流出、閣僚が責任を押し付け合い 商務長官は公聴会へ

米政権は高性能な AI チップを中国に渡さないと言ってきた。ところが、シンガポールの Megaspeed が2年で48億ドル超の NVIDIA 製チップを買っていたと報じられた。財務長官は、Megaspeed を規制の一覧に載せるのが遅れた件で「決めるのは商務省だ」と述べ、閣僚どうしが責任を押し付け合う形になった。Lutnick 商務長官は上院銀行委員会に自分から出ると応じた。

2026.11.14