「本物の情報」と「AIが生成した情報」の境界が、消えかけている。旅行、政治、日常のSNS投稿まで、生成AIコンテンツの氾濫が情報環境そのものを揺らがせている実態が、複数の調査・報道から浮かび上がってきた。
ホテル口コミの5件に1件がAI、47件連続で閉店済み店舗を称賛
調査によれば、高級ホテルのオンライン口コミのうち約20%、つまり5件に1件がAIによって書かれていたことが判明した。中には2年前に閉店した店舗を47件連続で称賛する「サクラレビュー」も確認されている。Infoseekニュースによれば、ロンドンの調査会社を率いる私立探偵Jack Charmanは「業界は生成AIを使って合成された称賛で場を溢れさせ、正当な苦情を埋めている」と指摘する。サイバーセキュリティ企業REDSECLABSのCEO、Rafay Balochも「コンテンツ工場が生成する単純な偽レビューの段階はもう過ぎた」と語り、RedditやQuoraでの議論スレッド自体がAIボットによって仕込まれている可能性を指摘した。Airbnbの掲載写真から電柱やレンガ壁がワンクリックで消され、混雑したビーチが無人に加工される事例も報告されている。引用された最近の研究では、成人の3分の1がAI生成画像と実際の画像を区別できなかったという結果も出ている。
Sora2で「1分に1本」、動画版フェイクが常態化
2025年9月にOpenAIが動画生成アプリ「Sora2」をリリースして以降、SNS上のAI動画の密度は急激に上昇した。AI動画を見抜く専門家として知られるテクニカルプロデューサーのジェレミー・カラスコ氏はハフポストの取材で「半年前ならフィードにAI動画が多く流れることはなかったが、今では1時間に10本、スクロールの頻度によっては1分に1本は目にする」と述べた。Sora2は招待コードのみで全機能が無料利用できることが、動画が主流化した要因とみられる。ウォーターマークも消去可能だという。カリフォルニア大学バークレー校のハニー・ファリード教授は、Sora2の動画が「嘘つきの分け前」問題を助長していると指摘する。これは2018年の法律学者の論文で生まれた概念で、何が真実か分からなくなることで誤情報の発信者側が利益を得る現象を指す。ピュー・リサーチ・センターの調査では、チャットボットでニュース情報を得た人の約3分の1が「真実かどうかの判断が難しい」と回答している。
技術的な見分け方はどこまで効くのか
カラスコ氏によれば、Sora2の動画には髪や服に「ぼやけた」「ノイズがかかったような」質感という特有の手がかりが残る。だが同じくInfoseekの記事で紹介された旅行ライターElliottの3つの見分け方も「今のところは」効くという条件付きの評価だ。カーネギーメロン大学でビジネス倫理を教えるDerek Lebenは、AI生成コンテンツが人間の文章と見分けにくくなっている現状を指摘し、Amazonの「認証済み購入」バッジのように実際に体験した人だけが投稿できる仕組みを対処法として挙げる。さらに閲覧中のサイトを裏で書き換えて閲覧者ごとに商品を魅力的に見せるタイプのAIは、Elliottによれば検出がほぼ不可能とされる。サイバーセキュリティ専門家のBob Gourleyはこの手口を「洗練されていて、いくらか不気味だ」と評した。
アドビの来歴証明、5000社参加も追いつかぬ現実
技術面の対抗策として最も体系化されているのが、アドビが2019年から進める来歴証明規格CAI・C2PAだ。CIOの取材でアドビ執行役員広報本部長の鈴木正義氏は「フェイクが横行して一般の人が何を信じていいのかわからなくなる。これはクリエイティブの問題にとどまらず社会全体の問題だ」と語る。C2PAは撮影・編集段階で自動的に来歴情報を付与し、途中で改ざんがあれば署名の不一致で即座に検出できる仕組みだ。現在5000社を超える企業が参加するエコシステムに成長し、PhotoshopやLightroomへの実装、カメラメーカーの対応機種拡大、報道機関での確認ワークフロー導入が進んでいる。2023年には偽の爆発事故写真が拡散し株価が急落する事件も起きており、来歴証明はこうした市場リスクへの防波堤として位置づけられている。ただし、これらは対応済みのプラットフォームや機材に限られ、Sora2のようにウォーターマークが消去可能なケースには限定的だ。
「情報秩序の混乱」という視点、AIによる自動判定の限界
報道倫理の専門領域では、単純な「フェイク／本物」の二分法自体が問題だと指摘されている。Codebookによれば、ディスインフォメーション（意図的な害意ある歪曲）、ミスインフォメーション、マルインフォメーションを総称して「情報秩序の混乱」と呼ぶ枠組みが提唱されている。中でも「ミスリーディングコンテンツ」は見出しの改変や引用の断片化、統計の取捨選択など幅広い技法を含み、明確な線引きが難しい。この複雑さこそが、AIによる自動検知の大きな障壁になっているという。記事内では「ディスインフォメーションの発信者はコンテンツに正確な情報を使いつつ誤解を招く形で再構成すれば、AIシステムに検知されにくくなることを学んでいる」との指摘もある。日本でも2023年10月1日施行の景品表示法に基づくステマ規制があるが、これは事業者の関与を隠した表示を対象とするもので、ホテルの口コミ1件がAI生成かどうかを読者側が判別する助けにはならない。国内では富士通や日立製作所などもフェイク情報対策の技術開発を急いでいるが、生成側と検知側の技術競争は現在進行形で、決定的な解決策はまだ存在しない。
結論：懐疑を前提とした情報消費への転換
Couture Trips創業者Susan Sherrenは「旅行商品を評価するときは懐疑的になること。人間の情報は、AI生成コンテンツより今も優れている」と語る。だがGoogleが検索のAIモードでホテル比較から予約まで完結させ始めている現状では、AIが口コミを書き、AIが要約し、AIが予約する循環の中で人間が最後に確認できるのは投稿日や現地の実際の状況といった限られた手がかりに過ぎない。情報環境の混乱は一時的な現象ではなく、生成技術の進化速度が検知・規制の整備速度を常に上回る構造的な問題として定着しつつある。
