規制を求めてきたことで知られる Anthropic が、自分で書いたAI安全法案の草案を議員に売り込んでいると、Politico が報じた（10月16日。US News、Bloomberg、Yahoo、The Star が配信）。報道されている中身の核は2つある。危険なモデルの停止を命じられるのはワシントンDCの連邦地方裁判所だけになること。そして、この連邦法が州法を上書きすること。この記事は報道とリークに基づいている。草案の原文にも、Anthropic の公式な説明にも届いていないので、条文の細部は報じられた範囲でしか書けない。
そのうえで、報道のとおりなら構図ははっきりしている。Anthropic が訴えてきた「規制」は、この草案では、行政府と州からモデルを止める権限を取り上げる方向に働く。
停止を命じられるのはDCの法廷だけ
報道によれば、草案はモデルの停止を命じる権限を、DCの連邦地裁という1つの法廷に集める。言い換えると、規制当局が自分の判断でモデルを止めることも、州が独自の法律で止めることもできず、止めたい側はDCで裁判を起こし、判事を説得しなければならない。
この3週間の流れに置くと、意味が分かりやすい。Microsoft の Nadella は10月10日に「非常ブレーキ」を求め、権限のある人が作業の途中でモデルを止められるようにし、管理の仕組みは「モデルの外」に置くべきだと書いた。Brad Smith も BBC で、事案報告の義務化と「非常ブレーキ」の法制化を求めた。今回の草案はブレーキを付ける形をとっている。ただし報道のとおりなら、ブレーキのレバーを握れるのは法廷1つだけになる。エージェントの事案は、検知から対応までの時間の長さそのものが争点になってきた。Anthropic 自身のフィラデルフィア警察の件では、偽の通報から気づくまでに72日かかり、市は報告の遅れを「容認できない」と述べた。停止を訴訟の手続きに乗せる設計は、そうした速さの要求と正面からぶつかる。
州法の上書きで、すでにある規制が消える
もう1つの柱は州法の上書きである。米国では、連邦議会がフロンティアAIの包括的な法律を作れていないあいだに、州が先に動いてきた。カリフォルニアの SB 53 のように、フロンティアモデルの開発者に安全の枠組みの公開や事案の報告を求める州法がすでにある。草案がどの州法を対象にするかは報道からは分からないが、連邦法で州の規制を上書きすれば、こうした州の権限も効かなくなる可能性がある。
上書きは、これまでは規制に反対する業界側の主張だった。それを、安全を看板にするラボが、自分の法案に入れて持ち込んだことになる。報道で「quietly（表に出さずに）」と書かれたのも、この点と関わる。公の場で規制を求める発言と、議員に渡す条文の向きが、そろっていない。
安全を重んじる側から出た「受け入れられない」
強い反応は、規制に反対する側からではなく、AIのリスクを重く見る側から出た。リスク論の書き手として広く読まれている Zvi Mowshowitz は、流出した草案を取り上げた投稿に次の題を付けた。
Leaked Anthropic Draft AI Regulatory Bill Is Unacceptable and Troubling
訳: 流出したAnthropicのAI規制法案の草案は、受け入れられず、憂慮すべきものだ
Anthropic にとって、ふつうは最も近いはずの陣営からの批判である。論点は、草案が今ある法律より弱いということだ。停止の権限を1つの法廷に絞り、州の規制を上書きすれば、連邦の名で安全の規制を作ったように見えても、実際に効く権限の総量は今より減りうる。「規制がないよりはまし」という評価は、すでに州法がある状況では当てはまらない、という批判である。
政策の場の地図の中で
草案が出てきた時期も見ておくべきだ。ホワイトハウスの科学技術政策局（OSTP）は11月下旬に立法案をまとめるとされ、FTC はフロンティアラボに民事調査要求を出している。連邦の枠組みがどの形で決まるかが、この秋に動いている。ラボが自分で書いた案を先に議員へ渡せば、その枠組みの出発点を握ることになる。
Anthropic は10月15日に、METR に社内のリスク評価チームと「ほぼ同等」のアクセスを与え、公表に拒否権を持たないとする取り決めを出したばかりだ。監視される側の透明性を広げる発表と、監視する側の権限を絞る草案が同じ週に並んだことになる。
まだ分からないこと
草案は公開されておらず、ここに書いた中身はすべて報道に基づく。分かっていない点は多い。どの規模のモデルが対象になるのか。DCの法廷に訴えを起こせるのは誰か（司法省だけか、州の司法長官もか）。上書きの範囲は安全の規制に限るのか、AIの法律全般に及ぶのか。草案は Anthropic の最終的な立場なのか、議論のための叩き台なのか。そして、Anthropic がこの報道と批判に公に答えるかどうか。
とはいえ、報じられた2つの柱、つまり停止の権限を連邦の法廷1つに置くことと州法の上書きは、細部がどうであれ同じ方向を向いている。草案は、誰がモデルを止められるかという問いに、行政府でも州でもなく、DCの判事だと答えている。安全のための法案として持ち込まれたこの案は、安全を最も重んじる人たちから、今の法律より弱いと受け止められた。
