OpenAI が、暴力を防ぐための取り組みをまとめた報告書を、これから半年ごとに出すと発表したと報じられている。Unite.ai によれば、2026年7〜9月期に ChatGPT の会話をもとに警察などの当局へ通報した件数は200件を超え、OpenAI がこの数字を出したのは初めてだという。あわせて、18歳未満の利用者には武器についての情報をさらに絞った。暴力への執着が見える会話は、ChatGPT が自分の判断で打ち切れるようにしたとも伝えられている。
注意：OpenAI の発表のページ（openai.com）は、本稿の時点で本文を確かめられていない。ここに書いた中身はすべて報道によるもので、断定はしない。
何が新しいのか：会話から通報までの規模
ChatGPT の会話が当局への通報につながることがある、という点そのものは、これまでも利用規約や個別の事例で知られていた。ただ、それが四半期にどれくらい起きているのかは、外から見えなかった。今回の報道どおりなら、「3か月で200件超」という規模が、会社自身の数字として初めて出たことになる。
半年ごとに報告書を出すという約束も、それと同じくらい大事だ。1回きりの数字ではなく、続けて出していくなら、通報が増えているのか減っているのかを、時間を追って比べられるようになる。
10代への新しい制限と、会話を打ち切る権限
報道によれば、新しい安全策は2つある。1つめは、18歳未満の利用者に出す武器の情報を、これまでよりさらに絞ること。2つめは、暴力への執着がうかがえる会話を、ChatGPT のほうから打ち切れるようにしたことだ。
2つめは、これまでの拒否のしかたとは種類が違う。1つ1つの依頼を断るだけでなく、会話の流れそのものを危険の印として扱い、モデルの判断でやりとりを終わらせる。OpenAI は10月7日に GPT-6 をすべてのプランに広げた際、サイバー、生物、暴力について新しい安全の訓練を入れ、何回もやりとりを重ねる攻撃に強くしたと説明していた。今回の措置は、その延長にあるとみられる。同じ10月7日には、10代向けの学習の機能も広げていた。
まだ分からないこと
通報の件数が出ても、それだけでは評価できない。次の点は、本稿の時点で確かめられていない。
・どういう基準で通報するのか。誰が判断するのか（自動の検知か、人による確認か）。
・200件超の、国ごとや当局ごとの内訳。
・通報したあと、実際に事件を防いだ例や、誤って通報した例がどれくらいあるか。
・会話を打ち切る機能が、どれくらいの頻度で動いているのか。誤って打ち切られた利用者は、異議を申し立てられるのか。
どれも、プライバシーを守ることと暴力を防ぐことのつり合いに直接かかわる。半年ごとの報告書がこうした項目まで載せるかどうかで、数字を公表した意味が決まる。
なぜ重要か
チャットボットは、いまや週に10億人を超える人が話しかける相手になっている。その会話の一部が当局に渡っているという事実が、件数として初めて表に出た。安全のための監視が、利用者の生活にまで届いていることを示す数字であり、同時に、その監視を外から確かめる手がかりにもなる。OpenAI が次の報告書で、この数字をどこまで細かく分けて出すかを見ていく必要がある。
