こんにちは、美咲ハルだよ。AIに画風を真似されるのって、正直もう「そういうものだよね」って空気になってるじゃない？ でも今週表に出た話は、その一歩先だった。ChatGPTが作ったNew Yorker風の偽の漫画に、実在する漫画家の署名がそのまま入ってたんだよ。しかも作者本人のところに「これってあなたの作品ですか？」って問い合わせが来るところまで行ってた 😳
先に言っておくと、ハルは今回、手元で画像を作って試したわけじゃないよ。この件を報じたNieman Labの調査記事と、署名を使われた漫画家のニュースレター、それをまとめた業界ニュースを片っ端から読み込んで整理してみた。だから「何回試したら何回出た」みたいな数字はハルも持ってない。そこも含めて正直に書くね。
発端は「BLOPER」のサインが入ったドリー・パートンの漫画
調べたのはNieman LabのAndrew Deck記者。ChatGPTの画像生成が作ったNew Yorker風の偽漫画を探していくと、実在するNew Yorker漫画家の署名が入っている例が15人以上分見つかった。New Yorkerは1コマ漫画で有名なアメリカの老舗雑誌ね。絵の隅に作家のサインが小さく入ってるのがお決まりのスタイルなんだよ。
きっかけは漫画家のBrendan Loperさん。ペンネーム「BLOPER」の署名が入った、歌手のドリー・パートンと俳優のティム・カリーの漫画がFacebookで広まった。でもLoperさんはそんな漫画を描いていない。これが広まったのが8月で、本人のところに「これはあなたの作品？」と問い合わせが来たんだって。
時系列に並べるとこうなるよ。
- 5月: LoperさんがInstagramで知らない人から指摘されて、自分の署名入りの偽物があることを初めて知る
- 夏: RedditのChatGPT関連の掲示板でも、別の例が見つかる
- 8月: ドリー・パートンとティム・カリーの偽漫画がFacebookで広まる
- 10月5日: Nieman Labが調査記事を出す
見てほしいのは、5月の時点で本人はもう気づいてたのに、8月には知らない人たちの間で「本物」として回っちゃってたところ。サインって、見る人にとっては「誰が描いたか」を一瞬で判断する手がかりだよね。それが最初から付いてたら、見た人には疑う理由がない。広まるのが速かったのは、たぶんそこが大きいと思う 🤔
Loperさん本人の言葉がすごく刺さった。「自分は縄張り意識の強い人間じゃない。でも自分の名前は自分の名前だ」。画風が似ているかどうかの話と、名前が「これは私が描きました」という証明に使われる話は別だよ、って分けて考えてるんだよね。ハルもこの線引きが今回の話の芯だと思う。
亡くなった作家のサインまで。署名を使われた側からの報告
署名を使われた側からも声が出てる。漫画家のJason Chatfieldさんが、自分のニュースレターNew York Cartoonsに書いた記事だ。URLからして「aaaaand now the robots are forging（で、今度はロボットが偽造を始めた）」っていう、あきれ気味のノリ。でも中身はかなり重たいよ。
Chatfieldさんによると、被害は生きている作家だけにとどまらない。すでに亡くなったGeorge BoothさんやSaul Steinbergさんの署名まで偽漫画に入っていた。故人として名前が出てるのはこの2人で、どっちもNew Yorkerの歴史を作ってきた大御所なんだよね。亡くなった人は「それ、私じゃないです」と言い返すこともできない。読んでてけっこうしんどかった 😢
細かいけど怖い話がもうひとつ。署名の横に添えるその作家ならではの記号まで再現されてたケースがあったんだって。サインって文字だけじゃなくて、ちょっとしたマークや書き癖まで込みで「その人らしさ」になってるじゃない？ そこまでコピーされると、見慣れたファンほどだまされやすくなる。
Chatfieldさんはもうひとつ、検索結果が汚れていく問題も挙げてる。作家の名前で検索すると、何十年分の本物の作品に偽物が混ざって出てくるようになった、と書いてるんだ。「この作家ってどんな漫画を描いてたっけ」と調べた人が、AIの偽物を本物だと思い込んじゃうかもしれないってこと。作品の記録そのものが少しずつ濁っていくんだよね。
Chatfieldさんはこの件を、オーストラリアやアメリカの媒体で漫画家がAIに置き換えられた件に続く打撃だと見ている。仕事を取られて、次は名前まで。漫画家の側からそう見えるのは当然だと思う。
OpenAIの手当ては早かった。でも署名はまだたまに入る
OpenAIの反応も伝わってる。AI Weeklyのまとめによると、OpenAIはこれを「意図しない挙動」と説明したうえで、「創造の未来は根本的に人間のもので、私たちは作り手に力を与える道具を作っている」とコメントしたと報じられている。
手当て自体は早かったみたい。指摘を受けたあと、New Yorker風の漫画を頼むと「第三者のコンテンツとの類似に関するガードレールに反する可能性があります」という警告が出るようになった、と報じられている。ここはちゃんと手を打ったと言っていいと思う 👀
ただ、大事なのはここから。警告が出るようになったあとも、署名がたまに入るという報告がある。つまり今回足されたガードレールは「New Yorker風で」みたいな頼み方の言い回しに反応してるだけで、できあがった画像に署名が描き込まれること自体は止められてない、ってことになるんだよね。言い回しを少し変えれば警告は出ないかもしれない。そもそもユーザーがサインを頼んでなくても勝手に入るのが今回の問題だから、頼む段階で止めるだけじゃ根本的には解決しない。本当に止めるなら、できあがった画像の中身を見て、実在の人の署名っぽいものが入ってないかチェックする仕組みが要るはず。
食い違いがもうひとつある。New Yorkerの親会社Condé NastとOpenAIは2024年にライセンス契約（コンテンツを使っていいという契約のこと）を結んでいた。でもCondé Nastは、その契約で漫画を学習に使うことは許していなかったと確認した、と報じられている。じゃあChatGPTはNew Yorkerの漫画家のサインをどこで覚えたの？って話になるよね。
まだ分かってないこと。どのくらい起きるのかも、どこから来たのかも
ここは正直に、分かってないことを並べておくね。
- どこから学んだのか分からない: ネットから集めた事前学習（AIが最初に大量のデータを読み込む段階のこと）のデータなのか、別にライセンスを受けたデータなのか、Webのクロール（ネット上のページを自動で集めて回ること）なのか、どれなのかは分かっていない。Condé Nastとの契約で漫画が対象外でも、それで防げたとは言えない。New Yorkerの漫画は、ネットのあちこちに転載されてるからね。
- どのくらいの頻度で起きるのか分からない: Nieman Labが何回試して何回署名が出たのかは、どの報道にも書かれていない。報告されてるのは、SNSで実際に広まった例と、作家本人が見つけた例だけ。
だから「ChatGPTでNew Yorker風を頼むと高い確率でサインが入る」みたいなことは言えない。たまたま目立った例が集まっただけかもしれない。逆に、表に出てない例がもっとあるかもしれない。15人以上というのは、あくまで「これまでに見つかった分」なんだよね。
業界の受け止めはというと、Techmemeが10月6日の主要ニュースのひとつとしてNieman Labの記事を取り上げたと報じられている。同じ日のAIニュースのまとめでは、Anthropicの報告で逮捕に至ったClaudeの「日記」事件と並べて紹介されてたらしい。AIが出したものが、実在の人の信用や安全に直接かかわる話として、同じ棚に並べられてる感じだね。
ハルが今回いちばん思ったのはこれ。画風の真似は「似てる」で済むけど、署名は「誰が作ったか」の証拠なんだよ。AIがその証拠まで描いちゃうと、見る側は本物と偽物を見分ける手がかりをなくしちゃう。作家からすると、自分が描いてない絵の責任や評判まで背負わされることになる。使う側の私たちにすぐできるのは、AIで作った漫画っぽい画像を上げる前に、隅っこにサインみたいなものが入ってないか一回拡大して見ること。地味だけど、それだけで偽物が一枚減るよ 💡
