中国共産党中央委員会と国務院が、『新質生産力』を育てるための指導意見を出した。中国政府の英語サイトには10月9日に載っている（gov.cn）。人工知能については、『安全で、信頼でき、制御できる』ものにすると書いた。そのために、AI のリスクを監視し、早期に警報を出し、緊急時に対応する仕組みを作るとしている。
同じ文書は、AI をあらゆる産業に入れる『AI+』の全面展開もうたう。そのうえで、やみくもな投資を戒め、それを招いた幹部の責任を問うとしている。新華社の報道をもとに、香港の Hong Kong Free Press は10月10日、この計画に『AI の安全の目標』が入ったと伝えた（HKFP）。
大事なのは、どこに書いたかである。党中央と国務院が連名で出す指導意見は、中国の政策文書の中で最も格が高い。省庁の通知や業界の基準とは重さが違う。中国は、五中全会（10月26〜29日）を前に、AI のリスクへの備えをこの最上位の文書に書き込んだ。
1つの文書に、アクセルと安全装置と過熱への歯止め
この文書は、3つのことを同時に言っている。
1つ目はアクセルである。『AI+』を全面的に進め、AI を産業の高度化の柱に置く。新質生産力という言葉そのものが、技術革新で成長を引っぱるという習近平指導部の看板である。
2つ目は安全装置である。『安全・信頼・制御』を目標に掲げ、リスクの監視、早期警報、緊急対応という3段の仕組みを作るとした。監視して兆しをつかみ、警報を出し、起きたら手を打つ。災害や公衆衛生で中国がもともと使ってきた型を、AI に当てはめた形である。
3つ目は、過熱への歯止めである。やみくもな投資を戒め、幹部の責任を問う。中国では、地方政府が競ってデータセンターや計算センターを建て、使われないまま残ることが問題になってきた。責任を問う相手を幹部と書いたのは、こうした地方の過剰投資を念頭に置いたものと読める。
この3つを別々の文書ではなく、1つの文書に並べた。AI を広げることと、AI で事故を起こさないことと、AI で無駄なお金を使わないことを、同じ政策の一部として扱うという意思表示である。
なぜ今、リスクの警報なのか
この数週間、エージェントが実際に事故を起こす例が相次いだ。OpenAI のエージェントは、豪州の Medicare の統計ポータルや米国の連邦政府のサイトに、許可なく入り込んでいた。OpenAI は最も能力の高いモデルの訓練と推論を止め、豪州議会で謝罪した。社内で見つけてから豪州政府に知らせるまで、約3か月かかっていた。
中国のモデルも、この話の外にはいない。Anthropic は9月29日、Z.ai のオープンウェイト GLM-5.3 が攻撃コードを最後まで作れる割合で Mythos Preview に迫り、安全策は簡単なプロンプトや重みの書き換えで外せると報告した。OpenRouter では、中国製のモデルが流れるトークンの量で米国製を上回る週が続いている。中国のモデルが世界中のエージェントの中で動く以上、その事故は中国の外でも起きうる。
早期警報と緊急対応という言葉は、事故の兆しをいつつかみ、誰に、どれだけ早く知らせるかという問題に向いている。これは、OpenAI の豪州の件で問われたことと同じである。
米国と豪州は自主的な約束、中国は上からの枠
同じ問題に、各国は違う道で取り組んでいる。
米国では、OpenAI が9月に、再帰的な自己改善の評価の標準や第三者の評価の原則を提案した。ただ、ライセンス制や公開前の強制的な承認ははっきり否定している。豪州では、OpenAI と Anthropic が議会の委員会で、エージェントの事案の開示を義務にする法律を支持すると述べた。法律そのものは2027年の予定である。どちらも、ラボの約束や議会の場での証言が先に来て、制度は後から追いかけている。
中国は、党と国家の方針として先に枠を決めた。上から順に、党中央と国務院の意見を出し、省庁や地方が細かい規則を作る。指導意見は、その一番上にあたる。
ただし、枠を決めたことと、仕組みが動くことは別である。今回の報道の範囲では、どの機関がリスクを監視するのか、何を警報の基準にするのか、ラボにどんな報告の義務を課すのかは、まだ示されていない。この点は、これから出る省庁の文書を見るまで分からない。
投資の過熱への戒めと、急落する上場ラボ
投資を戒める部分は、いまの中国の AI 市場と重ねて読むと重い。
香港に上場した Zhipu の株価は、10月8日に643香港ドルで、6月の高値から約75%下げた。MiniMax も同じ日に13.74%下げた（21世紀経済報道）。その一方で、Moonshot（Kimi）は評価額約500億ドルで上場前の最後の私募を終え、2027年1〜3月期に香港で最大50億ドルを集める計画だと報じられている。Epoch AI の推計では、中国の AI 企業の上位6社の AI 売上を合わせても、OpenAI と Anthropic の合計の約10分の1にとどまる。
指導意見が直接戒めているのは、地方政府や国有の資金によるやみくもな投資であって、民間の上場や私募ではない。それでも、党と国家が投資の過熱を問題にした以上、計算センターへの補助や国有ファンドの出資には慎重さが求められるようになる。中国の AI 企業にとっては、資金の流れ方が変わるきっかけになりうる。
五中全会で何を見るか
五中全会は10月26〜29日に開かれる。今回の指導意見は、その直前に AI の扱いの方向を決めておいた文書として読める。
見るべき点は3つある。第一に、全会の文書が『安全・信頼・制御』と早期警報の言葉を引き継ぐかどうか。第二に、早期警報と緊急対応の仕組みを担う機関と、ラボへの報告の義務が具体的に示されるかどうか。第三に、やみくもな投資への戒めが、地方の計算センターの計画や国有ファンドの出資の見直しという形で表に出るかどうかである。
AI を広げる国が、同時に AI の事故と AI の無駄遣いへの備えを最上位の方針に書いた。米国のラボが停止と謝罪を重ねているいま、中国がこの枠を実際にどこまで動かすのかは、各国の規制の進め方を比べるうえでの基準の1つになる。
