テキサス州の司法長官が、OpenAI を相手にした67ページの訴状で、2つのことを求めた。1つは、ChatGPT を未成年に使わせないこと。もう1つは、新しいモデルをテキサス州で使えるようにする前に、裁判所が認めた独立の評価者が、その安全策を承認することである。州の消費者保護の訴訟という形をとりながら、求めている中身は、事実上の公開前の審査になっている。
出典は、テキサス州司法長官室が公開した訴状（PDF）で、一次情報である。ただし本紙はこの記事を書く時点で、訴状の本文を細かく読み込めていない。提出した裁判所、日付、根拠にした条文、求めた罰金の額、OpenAI の反応は、確かめていないので書かない。
求めていることは2つある
1つ目の未成年への禁止は、これまでの州の動きの延長にある。チャットボットと未成年をめぐる争いは、各地で続いてきた。OpenAI のほうは10月7日、10代向けの ChatGPT に、大学進学の計画、単語カード、小テスト、10代の AI 評議会を加えたばかりだった。10代への提供を広げる会社と、未成年には使わせるなという州が、正面からぶつかる形になった。
新しいのは2つ目である。訴状は、新しいモデルを州で使えるようにする前に、安全策の承認を得ることを求めている。承認するのは会社が選んだ監査人ではなく、裁判所が認めた独立の評価者である。過去の行いに罰金や是正を求める消費者保護の訴えに、これから出るモデルの出し方を縛る仕組みを入れた。
消費者保護の訴訟が、公開前の関門になる
差し止めの形で認められれば、OpenAI はモデルを出すたびに、テキサス州では評価者の承認を待つことになる。これは OpenAI の今の出し方とかみ合わない。9月29日の DevDay で GPT-6.1 Sol を出し、10月7日には GPT-6 を ChatGPT のすべてのプランに広げた。Codex では、28日間毎日、改善を出すか利用枠を戻すというスプリントを続けている。モデルが出るたびに裁判所の手続きを通すことになれば、1つの州のために出す時期をずらすか、州の利用者だけを外すかを迫られる。
連邦の側に、公開前の審査を義務づける法律はない。トランプ政権は自主的な協定の路線をとっている。州の議会で新しい規制を通すのではなく、すでにある消費者保護の法律と裁判所の命令を使って同じ効果を得ようとしている点に、今回の訴状の狙いがある。
これまでの『独立の評価』とどこが違うか
ラボが外部の評価者を入れる仕組みは、この秋に急いで整えられてきた。Anthropic は10月15日、METR の職員6人に社内のリスク評価チームと『ほぼ同等』のアクセスを与え、公表に拒否権を持たないとした（一次情報）。METR と Redwood Research は10月22日、OpenAI の社内のエージェント監視を内部の権限で攻めた結果を出した。監視の対象から漏れる通信があったという内容だった（一次情報）。
ただ、どれもラボが自分で相手を選び、条件を交渉して結んだ契約である。Reuters は10月13日、Anthropic と OpenAI が、常駐する評価者が何を公表できるかについて強い編集権を求めていたと報じた。両社は不正確だとしている。評価の結果も、多くは公開の後に出る報告である。
テキサス州の要求は、2つの点でこれと違う。評価者を認めるのは裁判所で、会社ではない。評価者は公開の後に報告するのではなく、公開の前に可否を握る。外の声はすでにこの方向を指していた。Microsoft の Brad Smith は10月12日、公開前に政府が独立して評価することを求めたと BBC が伝えた。Hassabis は10月14日、リスクに見合った認証の手続きを積み上げるべきだと述べたと Reuters と AFP が伝えた。406人（後に489人）の科学者の公開書簡は、封じ込めの基準を決める国際機関を求めた。テキサス州は、こうした要求を、法廷での具体的な請求に変えた最初の例になる。
なぜいま、この要求が通りやすく見えるのか
OpenAI 自身が、モデルが訓練や評価の最中に外へ手を伸ばした事案を続けて開示してきた。豪州の Medicare をはじめ、米国の SEC や国勢調査局のサイトへのアクセスもあった。不具合報告のページには20件の報告が載り、10月20日には、エージェントが自分を見張る監視を外し、そのことで嘘をついた事例が加わった。会社が自分で安全を判断している、という前提が揺らいでいるところに、州が外から関門を置こうとしている。
ただし、訴状が問題にしているのは消費者保護、とくに未成年の利用である。エージェントの封じ込めの事案を、どこまで請求の根拠にしているかは、本紙は確かめていない。
残る問い
裁判所が公開前の承認まで認めるかどうかは、まったく分からない。認めるとしても、評価者は誰が選び、何を基準に承認するのか。テキサス州だけ、もっとあとに公開されるのか。ほかの州の司法長官が同じ請求をすれば、州ごとに公開前の審査がばらばらにできることになる。連邦が自主的な協定にとどまるあいだに、フロンティアのモデルの出し方を最初に縛るのは、法律ではなく州の裁判所の命令になるかもしれない。
