中国生成AI規制、「コンテンツ管理」から「感情の安全」へ拡張 擬人化AI弁法施行で豆包・千問がエージェント機能停止、剪映には初の公的処分

法律なき「部門規章の積み重ね」という中国AI規制の構造

中国には米国のような大統領令や欧州のAI法に相当する包括的な「法律」レベルのAI規制はまだ存在しない。全国人民代表大会が審議する「人工智能法」は起草段階にとどまり、現行の規制は国家インターネット情報弁公室（CAC、網信弁）を中心とする各省庁が発する「部門規章」の積み重ねで運用されている。中国ビジネスCOMPASSの整理によれば、2023年8月15日施行の「生成式人工知能服务管理暂行办法」（生成AIサービス管理暫定弁法）はCAC・国家発展改革委員会・教育部・科学技術部・工業情報化部・公安部・国家広播電視総局の7部門連名で発せられ、未成年者の過度な依存防止や生成コンテンツへの標識、安全評価を求めてきた。同弁法に基づく生成AIモデル備案は2026年4月末時点で累計868件に達している。

この積み重ねの上に、2025年9月1日には「人工智能生成合成内容标识办法」（AI生成合成コンテンツ標識弁法）が施行され、利用者に分かる「明示的標識」とファイルメタデータへの「非明示的標識」の両方が義務化された。強制国家標準GB 45438-2025も同日施行され、規制は表示の有無を問う段階から、実際の識別技術要件を詳細化する段階へと進んだ。

「剪映」に初の公的処分、標識義務が執行段階へ

この標識義務は方針提示にとどまらなかった。BigGoファイナンスの報道によれば、網信弁は動画編集アプリ「剪映」、「猫箱」、ウェブサイト「即夢AI」に対し、AI生成・合成コンテンツの明示規定を有効に実行しなかったとして、指導・改善命令・警告・責任者への厳重処分を科した。これは「人工知能生成合成内容識別弁法」等の施行以降、規制当局が違反企業を公に指名して処分を下した初の事例とされる。中国紙・新京報が「網信中国」の公式微信アカウント情報を引用して報じたもので、網信弁の責任者はプラットフォーム各社に対し法の境界線の厳守と表示義務の厳格な履行を求め、今後も監視・管理を強化する方針を示した。

擬人化AI弁法が2026年7月15日施行、豆包・千問がエージェント機能停止

規制の焦点はコンテンツそのものの管理から、AIと利用者の「関係性」の管理へと広がっている。2026年2月2日にCAC室務会議で審議・可決された「人工智能拟人化互动服务管理暂行办法」（擬人化AIインタラクションサービス管理暫定弁法）は、CAC・国家発展改革委員会・工業情報化部・公安部・国家市場監督管理総局の5部門連名で4月10日に公布され、7月15日に施行された。Science Portal Chinaによれば、同弁法は自然人の人格的特徴・思考様式・コミュニケーションスタイルを模倣し継続的な感情交流を提供するサービスを対象とし、第8条でユーザーへの過度な迎合や感情的依存の誘導、第14条で未成年者への仮想の家族・恋人など親密な関係の提供を禁じている。第18条では利用者がAIと対話していることの明示、連続利用が2時間を超えるごとの注意喚起ポップアップの実装も義務付けた。

この施行日に合わせ、字節跳動（バイトダンス）傘下の「豆包」とアリババ系大規模言語モデル「通義千問（Qwen）」を基盤とする「千問」が、AIエージェント関連機能を7月15日に停止すると発表した。豆包は「製品機能の調整」を理由に挙げ、停止後も一定期間はデータの確認・保存が可能とした。千問も同日にエージェント機能・サービスを正式停止し、以後は関連設定や会話履歴へのアクセスができなくなると告知している。専門家は、業務・教育・研究・カスタマーサポート向けの実用型エージェントと、感情的な付き添いやロールプレイを行う擬人化エージェントを区別し、後者により厳しい審査と安全性テストを課す狙いだと分析している。

「コンテンツの安全」から「感情の安全」への飛躍

AI新聞によれば、米ニューヨーク大学ロースクールのWinston Ma非常勤教授は、2023年の生成AI規制と比較し今回の規制を「コンテンツの安全から感情の安全への飛躍」と評した。規制の背景には、中国AIスタートアップMiniMax社の対話アプリ「星野（海外名Talkie）」が2025年9月時点で累計利用者1億4700万人、月間アクティブ利用者488万人に達するなど、AIコンパニオン市場の急拡大がある。ByteDance社の類似アプリ「猫箱」も急成長しており、規制はまさに伸び盛りの市場を直撃した形だ。当初の意見募集稿は「人間らしいAI全般」を広く対象としていたが、最終版では「継続的な感情インタラクション」に絞り込まれ、日常的なAIツールは除外された。

ジャーナリストの伊東乾氏はJBpressへの寄稿で、若者のネット濫用防止や感情的依存の防止に加え、若者がAIとの疑似恋愛に満足して現実の恋愛や結婚から遠ざかり少子化を助長しかねないという懸念も背景にあるのではないかと指摘している。

日本企業が押さえるべき実務対応

PwC Japanの分析によれば、中国でAIサービスを提供・組み込む企業は、中国国内ユーザー向け提供の有無、既存の生成AI・アルゴリズム推薦・ディープシンセシス規制への該当性、AIエージェントの権限・実行範囲の管理、人間の関与・承認プロセスの設計といった項目を個別に棚卸しする必要がある。AIモデルを自社開発する場合は国家網信弁への生成AIモデル備案、既存モデルをAPI接続で組み込むだけの場合は地方網信弁への生成AI組み込み登記が求められる点も見落とせない。規制は今後も個別分野ごとの部門規章として積み上がっていく見通しで、企業は法令遵守のみならず信頼性と事業継続の観点から、表示設計・人間の関与ポイント・対話や関係形成の許容範囲を継続的に見直す姿勢が求められる。