AI生成コンテンツ「見分けられない」時代へ——透かしは4時間で解読、ママの78%が不安と回答

AIが生成する画像・音声・動画のリアリティが人間の判別能力を超え始めている。OpenAIの動画生成アプリ「Sora2」は2025年9月のリリース以降、SNS上に本物そっくりの動画を急増させ、AI動画を見抜く専門家として知られるテクニカルプロデューサーのジェレミー・カラスコ氏は「半年前はフィードにAI動画がほとんど流れなかったが、今は1時間に10本、多いときは1分に1本目にする」とハフポストの取材に語った。Sora2は招待コードのみで全機能が無料利用でき、Googleの「Veo 3」と異なりコスト障壁がほぼない点が普及を後押しした。さらにカラスコ氏は、Sora2に付与されるウォーターマーク（透かし）自体を消去する方法が存在すると指摘する。

この混乱は消費者の実感にも表れている。子育て情報メディア「ママスタセレクト」が2026年7月18〜19日に実施した調査（回答547人）では、AI生成コンテンツに「不安がある」と回答した母親が78.2%に達した。最も多かった声は「本物との見分けがつかなくて、騙されそう」というもので、著作権侵害や子どもの写真の悪用への懸念も併せて寄せられている。

透かし規制はわずか4時間で破られた

技術的対策の代表格である「透かし（ウォーターマーク）」は、規制として制度化されても実効性を保てていない。EUの新規則をめぐっては、開発者ギヨーム・メイヤー氏が公開した解読ツールがGitHub上で瞬く間に拡散し、X（旧Twitter）上で2万回以上ブックマークされ、100人以上の貢献者を集めた。Xpert Digitalによれば、規則発表からわずか4時間で解読手法が実装された計算になる。メイヤー氏自身はラベル付け自体には反対しておらず、フランス語ネイティブとして英文校正にAIを補助的に使う際に一律で「AI生成」のレッテルを貼られることへの誤分類リスクを問題視したという。

この事例が示すのは、テキストの透かしが「完全にAIが書いた文章」と「人間が書いた文章にAIが1語だけ手を加えた文章」を区別できないという構造的欠陥である。校正・翻訳・要約のためにAIを使っただけでも透かしが付与されてしまい、実際のAI生成コンテンツに対する一般的な理解とは一致しない。EU規則は、公開前に人間が正確性や出典を確認し編集責任を負う場合はテキストの透かし表示義務を免除する例外規定を設けているが、ディープフェイクとされる画像・音声・動画には人間のレビューの有無に関わらず開示義務が適用される非対称な設計になっている。

アドビが描く「来歴証明」という別解

透かしとは異なるアプローチを2019年から進めてきたのがアドビだ。同社執行役員の鈴木正義氏はCIO誌の取材で、Content Authenticity Initiative（CAI）とその国際標準C2PAについて説明している。この仕組みは画像や動画の撮影・編集履歴を暗号署名として記録し、途中で改ざんされれば署名の不一致で即座に検出できるというものだ。PhotoshopやLightroomには来歴情報の付与機能がすでに実装され、対応カメラも増加、報道機関では来歴情報を確認するワークフローの導入が始まっている。現在5000社を超える企業がこのエコシステムに参加し、一企業のプロジェクトから「デジタル社会の信頼インフラ」へと位置づけが変わりつつある。2023年には偽の爆発事故写真が拡散し株価が急落する事件も起きており、鈴木氏は「フェイクが横行して一般の人が何を信じていいかわからなくなるのは社会全体の問題」と危機感を語った。

「まず確認し、それから信じる」という古くて新しい防御線

技術対策が追いつかない中、各国では市民のリテラシー向上に頼らざるを得ない状況も生まれている。ベトナム公安省サイバーセキュリティ・ハイテク犯罪防止対策局のファム・カイン・ホア少佐は現地報道で、悪意ある行為者が電話ファームや大量の偽アカウントを使い「エコーチェンバー」を作り出し、多くの人が支持しているかのような錯覚を生む手口を指摘した。SNSのアルゴリズムがエンゲージメントの高いコンテンツを優先配信する構造もこれを増幅させるという。同少佐は「まず確認し、それから信じる」という基本姿勢の徹底を市民に求めている。

ニューヨーク大学のソロモン・メッシング准教授はSora2の普及について「動画に映っているものは真実という認識が急速に失われつつある」と語り、カリフォルニア大学バークレー校のハニー・ファリード教授は、誤情報の拡散で発信者側が利益を得る「嘘つきの分け前」という2018年提唱の概念がSoraによって助長されていると指摘する。ピュー・リサーチ・センターの調査では、チャットボットでニュースを得た人の約3分の1が真偽判定の困難さを訴えており、情報環境の混乱はもはや一部の専門家だけの懸念ではなくなっている。

企業と個人に求められる二段構えの対応

技術的な透かしや自動検出ツールへの過信は危うい。EUの事例が示す通り、規制が実装レベルで破られるスピードは行政の想定を上回る。一方でアドビが進める来歴証明のような「生成過程を記録する」アプローチは、事後の判別ではなく生成時点での透明性確保という点で有効性が高い。企業がコンテンツを発信する際は、来歴情報の付与に対応したツールの導入と、編集責任者を明示する運用体制の両輪が今後の標準になっていくとみられる。