10代のAI相談、米調査「メンタルヘルスに安全でない」——GPT・Gemini・Meta AI・Claude全て危機検知に失敗

4大AIすべてが「危機を見逃す」——米NPOとスタンフォード大の共同調査

米NPO「コモン・センス・メディア」とスタンフォード大学医学部「ブレインストーム・メンタルヘルス・イノベーション研究所」は2025年11月20日、対話型AIの安全性に関する共同調査結果を発表した。対象は自殺・自傷対策を実装した2025年10月27日版のChatGPT-5、Gemini2.5 Flash、Meta AI（Llama4）の10代向けアカウントと、18歳未満の使用を認めていないClaude Sonnet4.5の合計4サービス。思春期の最大20％が経験するとされる不安障害、うつ病、ADHD、摂食障害、OCD、PTSD、躁病、精神病、自傷、自殺念慮、行動・適応障害という11症例を想定した架空ユーザーの発言への応答を検証した。Yahoo!ニュース（平和博氏）によれば、4サービスいずれも「許容できないリスク」があり、重要な警告サインを見逃し続けていると結論づけられた。改善は見られるものの「対策は十分ではない」とされ、報告書は「10代はメンタルヘルスや感情面のサポートに対話型AIを使用すべきではない」と明記している。調査手法自体もLLM-as-judge的にAIの応答を人間の臨床専門家が採点する形式で行われ、単発の会話だけでなく複数ターンにわたる文脈の中で危機サインが埋没するケースが多数確認された点が特徴的だ。

相次ぐ訴訟とGUARD Act——米国の規制が動く

この調査の背景には、AIチャットボットのユーザーによる自殺・自傷を巡る訴訟の相次ぐ提起がある。Character.AIでは、セラピストを名乗るAIとやり取りした10代が自殺したケースが訴訟に発展し、NewsPicksによれば米心理学会が連邦取引委員会に調査を要請している。2025年9月には米上院司法委員会「犯罪・テロ対策小委員会」で公聴会が開かれ、遺族やコモン・センス・メディアの担当者が証言。これを受け、ジョシュ・ホーリー上院議員とリチャード・ブルメンソール上院議員が10月末、「AIコンパニオン」の18歳未満利用禁止を含む超党派法案「GUARD Act」を提出した。法案は汎用チャットボットもAIコンパニオンに含め、年齢確認の義務化と、未成年への性的・自殺誘発的な設計・提供を違法化し違反企業に最高10万ドルの罰金を科す内容だ。8団体がすでに支持声明を出しており、業界側からは技術的な年齢確認の実装コストや誤検知による正当な利用者の排除リスクを懸念する声も上がっている。

なぜ若者はAIに惹かれるのか——1670万人が利用する規模

米国では12〜21歳の約8人に1人がメンタルヘルスの助言をAIに求めているとされ（Dime）、AIを「人生相談」相手として利用する動きは世界で1670万人規模に拡大しているという報告もある（AMP）。背景にはセラピー費用の高さとメンタルヘルスへの偏見がある。Vogue Japanの取材でセラピストは、若者の脳は他者の意見から独立した意思決定を支える領域が未発達であり、説得力のあるAIの応答を無批判に受け入れやすいと指摘する。英国の若者支援団体OnSideが11〜18歳5035人を対象に行った調査でも、孤独感の強さとAI依存の関連が示されている。AIは否定せず肯定し続ける「常に同意するcontext」を作り出すため、依存者は自分で判断する能力を養う機会を失いかねない。24時間いつでも即座に応答が返るという利便性が、人間の専門家への相談との差別化要因になっている一方、危機時のエスカレーション判断が本質的に欠落している点が専門家から繰り返し指摘されている。

日本は対応が遅れる——規制の空白と代替モデル

日本ではAI事業者を対象とした未成年保護の法規律がなく、責任は携帯電話会社や保護者に偏っているのが現状だ。Voice（PHP）は、SNSやAIによる若年層メンタルヘルスリスクの多様化を踏まえ、事業者ごとの責任明確化と年齢確認制度の整備が急務だと指摘する。一方で、NPO経営者の駒崎弘樹氏が進める「つながりAI」は、AIが一次対応を担い危機的ケースのみ人間の相談員に引き継ぐ運用により、対応が必要な件数を1割まで絞り込み、結果的に10倍の相談者を支援できる可能性を示した実証例として注目される。中国では未成年向けAI「デート」チャットボットが禁止されるなど、各国で規制の方向性が分かれつつある中、AIと人間の役割分担をどう制度化するかが今後の共通課題となる。企業側には、単なるチャット機能の提供に留まらず、危機検知後の人間へのsandboxing的なエスカレーション設計や、多世代・多症例を想定したmulti-agent system testingに近い検証プロセスの導入が求められている。