AI生成コンテンツと現実の境界線は、もはや人間の目では引けなくなりつつある。カリフォルニア大学バークレー校の元教授でデジタルフォレンジックのスタートアップGetReal共同創業者、ハニー・ファリド氏は、15〜30秒程度のオンライン標準的な動画尺であれば「視覚的な手がかりだけでは判別が難しい」と証言する。Business Insider Japanによれば、かつて4秒程度が限界だったAI生成動画は、複数クリップの接続により30〜40秒に達するようになった。数年前まで指の本数や瞬きの不自然さといった単純な手がかりで見破れたフェイク動画は、今や専門家でさえ一目で判定できないレベルに進化している。
ファリド氏が語る「司法解剖」としての検証作業
ファリド氏の調査手法は平均1時間を要する。しかしインターネット上では1時間は「事実上、永遠に等しい」。調査依頼が届く頃には対象コンテンツはすでに100万回再生され、記事公開時には1000万回に達していることも珍しくないという。同氏は自身の仕事を「常に事態が起きた後に行われる」司法解剖に例えた。フェイクの発見自体は不自然な点が一つでも見つかれば比較的早いが、逆に本物であることの証明は「単に異常を発見できなかっただけ」であり、原理的に困難だと指摘する。この非対称性こそが、検証作業を構造的に後手に回らせる最大の要因だ。証明できるのは「偽物である」ことだけで、「本物である」という積極的な証明はほぼ不可能に近いという指摘は、法廷証拠や報道の信頼性そのものを揺るがしかねない。
Sora普及が加速させる「嘘つきの分け前」問題
この状況をさらに悪化させているのが、OpenAIの動画生成AI「Sora」の無料公開だ。ハフポストの取材でカラスコ氏は「必要なのは招待コードだけ」と述べ、Googleの「Veo 3」と異なり全機能が無料な点がAI動画の主流化を後押ししていると分析する。ウォーターマークの除去も可能だという。ファリド氏はSoraについて、2018年の法律学者の論文に由来する「嘘つきの分け前」という概念を持ち出し、本物の警察ボディカメラ映像や人権侵害の証拠映像さえも「それはディープフェイクだ」と否定できてしまう逆説的なリスクを警告する。相談者は「バズった動画がAIか本物か分からない人」と「本物までAIだと疑ってしまう人」の二極に分かれているという。この二極化は単なる情報リテラシーの問題ではなく、社会全体の証拠に対する信頼構造を根本から揺るがす現象だと同氏は位置づけている。
透かしだけでは不十分、アドビが進める来歴証明の国際標準化
技術的対策も進んでいるが限界が露呈している。MIT Tech Reviewは、2023年に主要AI企業7社がホワイトハウスに対し電子透かし技術の確約を行ったものの、「電子透かしがあれば偽画像を見破れたかは確かではない」と指摘する。同誌が例に挙げるのは2023年5月、ペンタゴン(米国防総省)が炎上しているとするAI生成画像がSNSで拡散し、金融市場が実際に下落した事件だ。この一枚の偽画像が数十億円規模の市場変動を引き起こしたとCIO.comも報じている。これを受けアドビは、2019年から進めてきた来歴証明の枠組みCAI(Content Authenticity Initiative)とその国際標準C2PAを拡大させ、現在は5000社超が参加する巨大エコシステムに成長した。PhotoshopやLightroomには来歴情報の自動付与機能が実装され、報道機関も来歴確認のワークフロー導入を始めている。ただしMIT Tech Reviewが強調するのは、「コンテンツがAI生成だと開示さえすれば、見た人が事実とフィクションを見分けられるようになるのか」という根本的な疑問だ。可視の直接的開示と、機械可読な間接的開示の区別すら業界内で曖昧なまま議論が進んでいる現状がある。歴史を振り返れば、写真の合成技術は銀塩フィルム時代から存在したが、生成コストと拡散速度がこれほど非対称になったのはSNS時代以降であり、C2PAのような業界横断の標準化はこの非対称性への初めての本格的な対抗策と言える。
プラットフォームのラベル義務化も後手に
プラットフォーム側の対応も後追いになっている。YouTubeは2024年3月18日、生成AIで改変・合成された動画へのラベル付けを義務化すると発表した。だが視聴者が自らの目で現実かどうかを判断すること自体が「もはや不可能」だと専門家は見る。実際、音楽業界でも2024年、獄中から出所したラッパー、ヤング・サグの「新曲」とされるバースがAI生成の偽物と判明し、ファンの間で一時的に「本物」として拡散する事態が起きている。ラベル表示は事後的な訂正にとどまり、拡散のスピードに追いついていない。エンタメ業界だけでなく、選挙報道や災害時の速報映像でも同様の誤認が起きうる構造は、プラットフォームの規約整備だけでは解決しきれない領域に踏み込んでいる。
情報環境の混乱、次のフェーズへ
専門家が共通して指摘するのは、検知技術と生成技術の競争において、生成側が常に一歩先を行く構造だ。ファリド氏は計算的手法による検証は依然可能だとしつつも、一般ユーザーとGetRealのような専門機関との間には「大きな隔たりがある」と述べる。C2PAのような来歴証明インフラの普及と、ラベル義務化のようなプラットフォーム規制、そしてファリド氏らの専門的検証という三層の防御が同時に機能しなければ、情報環境の混乱は市場変動や個人の名誉毀損といった実害を伴いながら拡大し続ける可能性が高い。企業や報道機関にとって、この三層構造のどこか一つに依存するのではなく、検知・来歴証明・規制対応を並行して整備することが、今後の情報リスク管理の前提条件になりつつある。
