Scott Alexander が、自身のブログ Astral Codex Ten に『AI Safety Is Not A Corporate Plot』を載せた。AI 安全は、フロンティアラボが自分たちの得になるように作り上げた話だ、という見方がある。Alexander はこれを3つの型に分けて一つずつ退け、そのうえで、AI 安全の陣営と AI 倫理の陣営は対立する派閥ではなく、同じ敵と戦う連合だと説いた。
ところが同じ夜、連合の相手として名指しされた倫理の側で、Abeba Birhane が Bluesky に投稿していた。自分の仕事を AI 安全と呼ぶこと自体を拒む、という内容である。連合を呼びかけた側と、呼びかけられた側の文章が、同じ夜に食い違ったことになる。
Alexander の主張：陰謀ではなく、同じ敵への連合
Alexander の文章の骨組みは2段になっている。前半では、『AI 安全は企業の陰謀だ』という主張を3つの型に分け、それぞれに反論する。後半では、そこから一歩進めて、安全と倫理の2つの陣営は利害が重なっていると論じる。どちらも、規制を嫌い、速く出したがる企業の力を抑えたい。だから同じ側に立てるはずだ、という見立てである。
『陰謀』論は倫理の側から長く出てきた。終末のリスクを語ればモデルが実際より強く見え（いわゆる『批判を装った宣伝』）、既存の大手に都合のよい規制の堀を作り、今起きている害から目をそらさせる。こうした批判の筋は、これまでもよく知られてきた。Alexander の反論も、大筋ではこの系譜に向けたものと読める。安全を言う人々の多くはラボの外にいて、ラボにとって不都合な規制も求めている。だから企業の宣伝係と見るのは当たらない、という論じ方である。
Birhane の拒否：連合の名札を受け取らない
Birhane は、AI の監査や訓練データの研究で知られる、倫理の側の代表的な論者の一人である。その Birhane が同じ夜に示したのは、反論ではなく拒否だった。自分の仕事は AI 安全ではない。だからその名前でくくられることを受け入れない、という立場である。
この違いは小さくない。Alexander の連合論は、2つの陣営が別々の名前を持ったまま、同じ方向を向いているという前提に立つ。Birhane が拒んだのは、まさにその前提だった。今の害を扱う仕事を『安全』という大きな傘の下に入れれば、議題を決めるのは傘を差す側になる。倫理の側から見れば、呼びかけが善意でも、連合という言葉そのものが吸収の形をとる。
今週の出来事は、どちらの読みを支えるか
Alexander の論は、安全の陣営と企業を切り分けられるかどうかにかかっている。だが今週のニュースは、その切り分けを難しくしている。
Reuters は10月13日、Anthropic と OpenAI が、社内に常駐する第三者の評価者が何を公表できるかについて、契約で強い編集の管理を求めていたと報じた（二次情報）。Anthropic は報道を不正確だとし、OpenAI は全文の承認は求めていないと答えた。それでも、9月の『編集の管理なしに』『編集の独立』という約束とは食い違う。また OpenAI は、安全研究者3人を解雇し、そのうちの1人は METR とのやりとりの仕方を理由に挙げられたと書いている。外の評価者と話すのが仕事だった、と本人は反論した。
倫理の側から見れば、どちらも同じことを示している。安全の言葉を語る組織の中心に、評価と監視をどこまで外に開くかを自分で決めたがる企業がいる。陰謀でなくても、利害は企業の側に寄る。Alexander が言うとおり、安全を語る個人の多くが誠実だとしても、制度としての『AI 安全』を作っているのはラボの安全の枠組みと、それに合わせた外部評価の仕組みである。Birhane の拒否は、個人の誠実さではなく、その制度に名前を貸すかどうかの問題として読める。
連合は呼びかけでは作れない
Alexander の文章は、陰謀論への反論としては筋が通っている。だが、後半の連合論には相手の同意が要る。同じ夜の Birhane の投稿は、その同意がまだないことをはっきり示した。
規制を求める点では、2つの陣営が並ぶ場面は確かにある。10月14日、ダブリンの壇上で Microsoft の Brad Smith は、業界の規制へのアレルギーは克服すべきだと述べた。13日には、34か国の科学者406人がサイバー能力のあるモデルを既定でエアギャップにするよう求める書簡を出した。署名者には安全の側の論者も、それ以外の研究者も入っている。具体的な要求をもとに並ぶことはできる。だが、旗の名前を一つにすることはできていない。
Alexander が『同じ敵』と呼んだ相手を、Birhane の側は、安全の陣営もその一部と見ている。連合を説く文章が、まさにこの溝を越えられていないこと。それが、同じ夜に出た2本の文章から読み取れる結論である。
