倫理批判の側の書き手 Brian Merchant が、Anthropic が出した AEGIS Act を「規制の虜（regulatory capture）」と呼び、正面から反対した。10月25日に、自分のニュースレター Blood in the Machine に載せた文章である。TokenPost もこの批判を伝えている。
この法案には、安全の側からすでに批判が出ていた。破局のリスクに対して弱すぎる、という批判である。Merchant の理由はそれとは逆を向いている。中身が強いか弱いかの前に、規制される会社が自分のルールを書くこと自体が正統でない、という。理由は逆でも、2つの陣営は「悪い法案だ」という同じ結論にたどり着いた。
Merchant は何を言ったか
文章の題が、そのまま主張になっている。
We cannot under any circumstances let AI firms govern the future
訳: いかなる状況でも、AI 企業に未来を統治させてはならない
この言い方は、法案の条文を直せば済むという話ではない。誰がルールを書くのかという、出発点を問題にしている。「規制の虜」はふつう、規制する役所が、規制される業界の言いなりになることを指す。Merchant はこの言葉を、業界がまだ役所に入り込んでもいないうちから、規制の下書きそのものを業界が書いている状態に当てはめた。規制を受ける側のフロンティアラボが法案の枠を決めれば、その法案は、ラボがすでに選んだやり方に公の判子を押すものになる。これが Merchant の筋である。
Merchant は、技術が働く人や社会に何をもたらすかを批判してきた書き手である。AI の破局のリスクを主に論じる安全の側とは、これまで多くの論点で立場がぶつかってきた。その Merchant が、安全を前面に出すラボの法案に反対したことになる。
逆向きの2つの批判
安全の側の批判は、物差しが「足りるかどうか」である。法案が求める義務は、破局につながりうる能力に追いついていない、という。だから閾値を厳しくし、義務を強めよ、という方向の批判になる。
Merchant の批判の物差しは「誰が決めるか」である。この見方に立つと、義務を強めても問題は解けない。ラボが書いた枠の中で厳しさを上げても、ルールを書く権限が会社にあることは変わらないからだ。極端に言えば、安全の側が求める形に条文を直すほど、Merchant から見ればラボの描いた設計図がいっそう固まることにもなる。
2つの批判は、直し方の方向も違う。安全の側の注文は「もっと強く」であり、Merchant の注文は「ラボの手から離せ」である。それでも、いまの法案を通すべきではないという一点で重なっている。
正統性の問いは、Anthropic のほかの動きにも重なる
「ラボが自分のルールを書く」という構図は、この法案だけの話ではない。Anthropic の最近の動きにも同じ形が出ている。
NBC によれば、Anthropic は Claude の価値観を誰が決めるべきかについて、法学者と民主主義の専門家を招いて話し合った。ただし、最終の判断は Anthropic が持つと報じられている。外の評価者の扱いでも同じ形がある。Reuters は、Anthropic と OpenAI が、社内に常駐する第三者の評価者が何を公表できるかについて、契約で強い編集権を求めていたと報じた。Anthropic はこの報道を不正確だとしている。そのうえで10月15日、METR が公表することに Anthropic は拒否権を持たない、という取り決めを一次情報で示した。
どの場面でも、Anthropic は外の声を聞く仕組みを作っている。それでも、最後に線を引くのは Anthropic である。Merchant の批判は、この形を法律の段階にまで広げることへの異議として読める。
次に見るところ
Anthropic がこの法案を押す支えは細くなった。安全を優先する人たちからは「弱い」と言われ、ラボの力を警戒する人たちからは「出どころが正統でない」と言われている。条文を強めれば前者には応えられるが、後者には応えられない。後者に応えるには、誰が条文を書くのかという手続きを変えるしかない。
法案にはまだ決まっていない点が多い。議会で誰が提出者になるのか、州法を上書きする文言をどう書き直すのか、規制の対象を決める閾値をどう見直すのか。安全の側では、Zvi Mowshowitz が Anthropic についての記事を予告している。これらの論点が手続きの正統性の問いにどう答えるかで、2つの陣営の反対が続くかどうかが決まる。
