バーニー・サンダース上院議員（バーモント州、無所属）とグレッグ・カサー下院議員（テキサス州、民主党）が、再帰的自己改善（RSI）、つまり AI が人間の関与なしに次の AI を作ることを禁じる法案を出したと、Common Dreams、AP、Fortune が報じている。本紙は法案の条文にも、議会の提出記録にもまだ届いていない。以下は報道をもとにした記述である。
報道によれば、法案の中心にあるのは「切り離して30日で直せなければ永久停止」という仕組みだ。禁じられた自己改善を行ったシステムをまず切り離し、30日以内に是正できなければ、そのシステムを恒久的に止めるという。何を自己改善とみなすか、誰が切り離しを命じるか、何をもって是正とするか。こうした運用の細部は、報道からは確認できていない。
Klein の禁止論が初めて条文になった
この法案が注目されるのは、発想そのものより、それが出てきた順番のせいだ。Ezra Klein は9月21日に NYT で、RSI を規制で禁止すべきだと論じた。同じ日に OpenAI は「Building standards for the next phase of AI」を公開し、RSI の進み具合を測る標準的な評価手法と、自動化された AI 研究を人間が監督する要件を提案した。OpenAI はこの中で、ライセンス制や上市前の強制承認をはっきり否定している。9月22日には Tyler Cowen が禁止論に反論し、RSI をめぐる論争は「どう測るか」と「禁じるべきか」の二つの道に分かれていた。
報道が正しければ、後者の道が初めて連邦議会の条文になったことになる。ラボ側は数字を出して「測る」ほうに寄せようとしてきた。Anthropic は Claude Opus 5.5 のシステムカードで、METR による展開前の外部評価を載せている。AI 研究の加速は約1.5倍で、完全な自動化は見込まず、ASL-4 の自律性の閾値は下回るという。これに対し法案は、測る前に線を引く発想をとっている。
一方で、法案を後押しする材料も同じ週に出ていた。Alibaba は雲棲大会で、Qwen3.8-Max が1か月の間、人間の関与ゼロのまま33ラウンドの有効な自己反復を終えたと述べ、それを RSI への道筋として示したと報じられている。中国のラボが RSI を自社の達成としてここまで明確に語ったのは初めてだ。禁止論者から見れば、禁止すべき対象がもう手の届くところにあるという根拠になる。
成立の見込みは低い
現実の政治の力関係から見て、この法案が成立するとは考えにくい。提出者は上院の無所属議員と下院の民主党議員で、どちらの院でも多数派ではない。議会は9月24日に戻ったが、AI の公聴会もマークアップも予定されていない。ホワイトハウスは「Super Intelligence」への改称や AI Force を口にしているものの、文書も人名も予算もまだない。ここに AI の開発そのものを止める法案が入り込む余地はほとんどない。
それでも、この法案には論点をはっきりさせる意味がある。どのラボも「測定と監督」を語り、禁止には触れてこなかった。その「禁止」が議論の選択肢として初めて形をもったからだ。ただし、同じことが批判される側に回ったときの弱点にもなる。
Birhane が「フィクションに基づく規制」と退けた
今回いちばん目立った反応は、業界からではなく、AI を批判する側から出た。報道によれば、AI 倫理の代表的な論者である Abeba Birhane は、この法案を「フィクションに基づく規制」と退けた。
意味が重いのは、発言した人物の立ち位置のせいだ。Birhane は、大規模データセットに含まれる偏りや、AI の実力をめぐる誇大な宣伝を長く批判してきた。業界の味方ではまったくない。その彼女が、AI を最も強く抑えにかかる法案を退けたことになる。報道からは彼女の論証をすべては再現できない。ただ、この系統の批判では、次のような理屈がよく使われる。まだ存在しない「自己改善する超知能」を規制の対象にすると、ラボが自分たちの AI を誇張して語る物語をかえって追認してしまう。そして、いま実際に起きている被害、つまり労働、監視、差別、データ搾取から注意がそれてしまう。
皮肉なことに、この批判は RSI を軽視する業界側の主張と、結論の半分が重なっている。ただし出発点は正反対だ。業界は「RSI は測れて管理できる」と言い、Birhane は「RSI という枠組み自体が作り話だ」と言っている。
左派の AI 批判は二つに割れていた
この出来事で見えてきたのは、「AI を批判する左派」がひとまとまりではなかったということだ。Sanders と Casar は、AI が制御を離れて自分を作り替えるという存亡リスク寄りの懸念を、左派の立法として取り込んだ。Birhane の倫理派は、その懸念そのものがラボの誇大宣伝と地続きだと見ている。二つの陣営はこれまで、どちらも巨大テックを批判する同盟として一括りにされてきた。しかし、同じ法案を前に、片方は条文を書き、もう片方はそれをフィクションと呼んだ。
このずれは今後の論争の形にも影響する。Cowen 対 Klein の論争には、Dean Ball、Narayanan／Kapoor、Toner、Scott Alexander のいずれもまだ加わっていない。Farrell と DeLong による「機械の神」の比喩批判は、もともと RSI 禁止の土俵を意図して避けていた。そこに今回、左派の内側から「そもそも土俵が虚構だ」という声が出た。禁止を推す側は、右派や業界からだけでなく、自分たちの陣営の足元からも攻められることになる。
今後の焦点
確認すべきことは三つある。一つ目は法案の条文そのものだ。「自己改善」の定義、切り離しを命じる主体、30日の是正期間に何が求められるかは、一次文書を読まない限り評価できない。二つ目は、Birhane の批判に禁止派、たとえば Klein 本人が応じるかどうか。三つ目は、METR の1.5倍という数字や Qwen の33ラウンドのように、RSI の実態を示す根拠がこれから積み上がるかどうかだ。積み上がれば「フィクション」という批判は成り立ちにくくなり、積み上がらなければ法案が根拠を失う。どちらに転ぶかで、左派の二つの陣営のどちらが正しかったかが決まる。
