ニューヨーク州の Kathy Hochul 知事が、AI のチャットボットから子どもを守る法案 S 9051 に署名したと報じられている（Transparency Coalition、Fortune、10月28日）。報道によれば、この法律で同州は、子ども向けのチャットボットが恋人などの関係を名乗ることと、子どもの心の依存を生むことを禁じる。あわせて、身分証によらない年齢確認を求め、違反1件あたり最大2万5,000ドルの罰を課すという。
この記事は報道をもとにしている。州の公式の発表と条文には当たれていない。
何を禁じるのか
報道によれば、禁止の柱は2つある。
1つ目は、関係を名乗ることの禁止である。子どもと話すチャットボットが、恋人やそれに近い親密な関係の相手を名乗ってはならない。
2つ目は、心の依存を生むことの禁止である。子どもがチャットボットに心を寄せ、離れられなくなるような設計を禁じる。
どちらも、モデルが言ってはいけない言葉を決める規制ではない。製品がどういう関係を演じ、どう子どもを引き留めるかという、作り方そのものを対象にしている。コンパニオン型のアプリでは、会話を続けさせる仕掛けと、恋人のように振る舞う人格の設定が、利用時間を延ばす中心の設計である。報道どおりなら、ニューヨーク州で子どもに向けてこれを使うことは、法律違反になる。
年齢確認と罰
報道によれば、事業者は利用者が子どもかどうかを見分けなければならない。ただし、その方法は身分証によらないものとされる。身分証の写しを集めると、それ自体がプライバシーと漏洩の危険になる。この法律は、その危険を避ける形で年齢を確かめるよう求めているとみられる。どの方法なら認められるか（顔からの年齢推定、行動からの推定、端末の側の確認など）は、確かめていない。
罰は、違反1件あたり最大2万5,000ドルと報じられている。「1件」を会話1回と数えるのか、利用者1人と数えるのか、あるいは日ごとに数えるのかで、事業者が負う額は桁が変わる。数え方は、条文を読むまで分からない。
確かめられていないこと
今回は、次の点を一次情報で確かめられていない。
施行日。州の司法長官が執行するのか、利用者や保護者が自分で訴えられるのか。「子ども向けのチャットボット」の定義が、子どもを狙った製品に限るのか、子どもも使う汎用のアシスタントまで含むのか。Fortune の記事の URL はベビーモニターにも触れているが、法律が AI を組み込んだ機器をどう扱うのかは読めていない。
特に定義は重い。ChatGPT や Claude のような汎用のアシスタントまで含むなら、規制の対象はコンパニオンアプリの業者から、フロンティアのラボそのものに広がる。
なぜ重要か：州が「関係の設計」に線を引いた
これまでの子どもとチャットボットをめぐる議論は、主に自傷や性的な内容を出さない、という出力のフィルタの話だった。報道どおりなら、S 9051 は一歩先に進んでいる。何を言うかではなく、AI が子どもに対してどんな関係を演じてよいかに、法律で線を引いたことになる。
ただし、この法律がどこまで効くかは、連邦の動きに左右されうる。連邦では、州の AI 規制を上書きする案が議論されている。11月下旬ごろには OSTP の立法案が出ると伝えられており、Anthropic が出した AEGIS Act の案でも、州法を上書きする文言の書き方が論点になっている。子どもの保護を州法の上書きから外すのかどうかが、次の焦点になる。
