AI の答えの下に出典のリンクが並んでいると、読む人はつい安心する。根拠のある答えに見えるからだ。だが、そのリンクの先が、地方紙の体裁をとった政治の宣伝のサイトだったらどうか。NPR の調査で、地方紙を装った37のサイトが ChatGPT の答えに引用されていたと報じられた（NPR の加盟局 WAMC の転載、10月30日）。記事の見出しによれば、これらのサイトは民主党の候補を後押ししていた。
本紙の立場ははっきりしている。AI の答えでは、引用されることがもう買えるものになった。出典を示すことは、信頼の保証にはならない。そして「判断は利用者に」という答えは、答えになっていない。なお、ここで扱う事実はすべて報道によるもので、本紙は記事の本文も、37のサイトの一覧も読めていない。どの候補を後押ししていたか、誰がお金を出していたかの細部は、ここでは断定しない。
報じられたこと：37のサイトと、OpenAI の答え
報道によれば、37のサイトは地元のニュースの媒体のように見える作りで、選挙の候補に有利な記事を載せていた。ChatGPT は、選挙や候補についての質問に答えるとき、これらのサイトを情報源として引用していたという。地方紙が減り、地元の選挙を報じる媒体がない地域は多い。そういう場所ほど、地元の名前を付けたサイトは本物の地方紙と見分けにくい。
OpenAI の広報担当の Nate Evans は、NPR にこう答えたと報じられている。
ChatGPT's search tools cite from a range of sources so people can explore and make their own judgements.
訳: ChatGPT の検索ツールはさまざまな情報源を引用しており、利用者はそれをたどって自分で判断できる。
理屈としては筋が通って見える。出典を並べれば、利用者は元をたどれる。しかし、たどった先は地方紙らしい見た目のページであり、そのページは地方紙に見えるように作られている。利用者が見抜けないように作られたものを、利用者に見抜かせる。この答えは、判断の負担を、いちばん情報を持たない側に押しつけている。
ジョージタウン大学の研究者 Renée DiResta は、問題の中心は資金を隠したことにあるとみている。
Disclosing funding … would be obviously the ethical thing to do here, or at least indicating that this is a linked effort.
訳: 資金の出どころを明かすのが、ここでは当然の倫理だろう。せめて、連携した取り組みだと示すべきだ。
DiResta が求めているのは、サイトを消すことではない。誰がお金を出しているのか、どのサイトが一緒に動いているのかを示すことである。党派のある媒体があること自体は、民主主義の普通の姿だ。問題は、党派のある宣伝が、党派のない地元の報道の顔をしていることにある。そして AI の引用は、その顔をそのまま受け継いで、さらに中立に見せてしまう。
引用は来歴を示すだけで、正しさは証明しない
B2B 向けに AI での見え方を助言する Rebecca Thorburn は、10月30日のエッセイ（Substack）で、この区別をはっきり書いた。
A citation tells us where a claim came from; it doesn't prove the claim is true.
訳: 引用が教えてくれるのは、主張がどこから来たかだ。その主張が正しいことまでは証明しない。
当たり前に聞こえるが、AI の答えの見た目は、この当たり前を忘れさせる。検索の結果がリンクの一覧だったころは、どのリンクを開くか、どれを信じるかを、読む人が自分で選んでいた。AI の答えでは、モデルがすでに選び、まとめ、文章にしてから、最後に出典を付ける。出典は、確かめるための入口というより、確かめ終わったという印に見えてしまう。37のサイトが入り込んだのは、まさにこの印の部分である。
つまり、引用の数や見た目は、品質の目安ではなくなった。引用されたという事実が示すのは、そのページが、モデルが拾いやすい形でネットにあったということだけだ。
引用されることは、狙って取れるものになった
これは偶然の取りこぼしではない。Reuters の独自記事を転載した The Star によれば、米国の選挙の候補の陣営は、有権者が使う AI モデルに合わせて発信を作り替えている（10月26日）。有権者が候補のことを検索ではなく AI に聞くようになれば、陣営は AI の答えに載ることを目指す。記事の中で、広報会社 Relentless Awareness の Joe Bonilla は、こう述べている。
The public increasingly cannot and will not be able to discern what is created by systems like Claude and ChatGPT versus human-originated content.
訳: Claude や ChatGPT のようなシステムが作ったものと、人間が書いたものを、一般の人はますます見分けられなくなっており、今後も見分けられないだろう。
人が作ったものか機械が作ったものかを、一般の人が見分けられない。そうであれば、地方紙を装うことは、AI の答えに入り込むための安い手になる。地元の名前を付けたドメインをいくつか取り、同じ論調の記事を繰り返し載せ、互いに引用し合う。そうすれば、モデルの目には、複数の地元の媒体が同じことを伝えているように映る。Thorburn は、この仕組みの行き着く先をこう問うた。
If AI systems reward visibility and repetition more reliably than accuracy and independent verification, are we unintentionally building an information ecosystem in which being cited becomes easier than being trustworthy?
訳: AI が、正確さや独立した検証よりも、目につくことや繰り返されることのほうを確実に評価するのなら、私たちは知らないうちに、信頼されるより引用されるほうが簡単な情報の生態系を作っているのではないか。
本紙は、この問いに「そうだ」と答える。目につくことと繰り返されることは、お金で増やせる。正確さと独立した検証は、お金では増やしにくい。AI の答えが前者に重みを置くかぎり、引用はお金で買える。37のサイトは、その相場が、すでに選挙の場で立っていることを示した。
有力な反論：出典を示すこと自体は前進だ
反論にも理はある。第一に、出典を示さない AI よりは、示す AI のほうがよい。今回、外の調査者が37のサイトを突き止められたのも、ChatGPT が引用元を出していたからだ。出典を隠せば、問題は見えなくなるだけである。
第二に、どのサイトが本物の地方紙かを AI の会社が決めることにも危うさがある。党派のある小さな媒体は昔からあり、それを一律に外せば、会社が政治的な言論の門番になる。選挙の直前に、ある党の候補を後押しするサイトだけを外せば、それ自体が選挙への介入だと言われかねない。OpenAI の「判断は利用者に」という答えには、この門番の役を避けたいという考えも読み取れる。
どちらの反論も正しい。それでも結論は変わらない。出典を示すことは、必要だが十分ではない。そして、門番にならないことと、何も示さないことは違う。DiResta が求めたのは、外すことではなく、知らせることだった。資金の出どころが分かっているサイトにはそれを書き添える。同じ運営者がいくつものサイトを持っているなら、それをまとめて見せる。ある主張を伝えるサイトが、すべて同じ1つの運営者につながっているなら、出典の数を独立した裏付けの数として扱わない。これは門番の仕事ではない。出典を示すと決めた側が負うべき、最低限の注記である。
投票の前に、AI の会社がすべきこと
米国の中間選挙の投票日は11月3日である。AI の会社は、選挙についての自社の安全策をすでに公にしている。Anthropic は10月14日、米国の Claude.ai の会話のうち、誰に投票すべきかを尋ねたものは0.01%だったと示し、選挙の悪用を見つける分類器を入れたと書いた。だが、投票先を直接聞かれたときの公平さと、候補について聞かれたときにどこを出典にするかは、別の問題である。前者には手当てがあり、後者は、少なくとも ChatGPT では、利用者に任されている。
10月30日には、OpenAI、Google、Microsoft、Anthropic が、robots.txt の共通の印で、学習に使うことと答えの根拠に使うことを分けて扱うと発表した。サイトの側が「使うな」と言う仕組みは、そろい始めた。足りないのは逆向きの仕組みである。引用されたがる側、つまりお金を出して答えに入り込もうとする側が、誰なのかを示す仕組みだ。
出典はある。しかし本当とは限らない。37のサイトの件が示したのは、この2つの間の溝を、利用者ひとりで埋めることはできないということである。引用を売り物の信頼の印として見せている以上、その印が何を保証し、何を保証しないかを示す責任は、AI の会社の側にある。
