AIエージェントが社内システムを横断してタスクを完結させる時代に入り、企業が直面しているのは「技術の限界」ではなく「どこまで任せるか」という線引きの問題だ。承認を厚くすればスピードが死に、薄くすれば暴走リスクが増す。この境界線をどう引くかが、2026年のAIガバナンス論の核心になっている。
一律承認は「導入効果を殺す」という現場の声
IT専門メディアCIOに寄せられた城田氏の指摘は率直だ。「せっかくエージェントを導入して業務を自動化・スピードアップしようとしても、人間が都度介在しすぎればスピードは上がらない」。どこまでのリスクを許容し、どこからをエージェントに任せるか——その境界設定は、もはや現場の運用設計ではなく経営のリスクアペタイトの問題だと城田氏は説明する。CIOの役割も「ITインフラの管理者」から「判断の委譲を設計する者」へと変わりつつあり、システムの位置づけ自体が「道具」から「一定の裁量を持つ実行主体」へシフトしている。
同氏はマルチエージェント特有の落とし穴も挙げる。在庫コスト削減をKPIとするエージェントと売上最大化をKPIとするエージェントが同時に動けば、発注方針が矛盾し在庫が乱高下する。しかも「どのエージェントのどの判断が原因か」を後から追跡するのが難しい。境界線の議論は、単純な承認の有無だけでなく、責任追跡の設計とセットで考える必要がある。
境界、検証、観測——最小セットで守る設計思想
では実務上どこに線を引くか。CIO誌の別稿は「境界・検証・観測」という3軸を提示する。まず境界は、信頼できる入力と信頼できない入力を分離すること。次に検証は、ツール呼び出しの瞬間に検証ゲートを置くことで、金銭・個人情報・権限変更・外部公開・破壊的変更は原則承認に寄せると事故が減ると同記事は指摘する。「全部を承認にすると運用が回らない」という前提のもと、承認対象を絞り込むことが要諦だ。
Snowflakeもほぼ同じ結論に至っている。ドキュメント検索や提案書作成は自律に任せ、システム更新やメッセージ送信、データパイプライン変更の直前で人間の承認を求める、といった調整が可能だとし、「一律に人間承認を挟むルールは、既に問題なく処理できている安全な作業まで停滞させる」と警告する。同社の整理では、失敗した際の影響度と失敗が起きやすいポイントの掛け算でガードレールの強さを決めるべきだとしている。
「監督下の自律」という中間形態
KPMGは行政業務を例に、自律度を「完全人手→部分自律→監督下の自律→完全自律」の4段階で整理する。判断の公平性や説明責任が厳格に求められる行政では、現時点では「監督下の自律」が中心になるとし、結果が不可逆となる処理には人間承認を組み込み、情報収集や素案作成はエージェントに委ねるという線引きを提案する。ここで鍵となるのは「自律・非自律」の二分法を捨て、不可逆性という一点で境界を引く発想だ。
製造業向けの解説でも同様の発想が見られる。東京エレクトロンの技術解説記事は、AIに与える権限範囲を「10万円以下の発注なら自動実行、それ以上は人間が承認する」といった具体的な金額基準で区切ることを提案し、説明可能なAI（XAI）による思考プロセスの可視化も不可欠だとしている。ITサービス企業アトミックワークのVijay Rayapati CEOも、「アイデンティティ、インフラ、財務、法的、雇用上の問題を含むデリケートなアクションには人間の承認が必要」と述べ、各AIエージェントに役割・限定権限・支出上限・独立実行可能な範囲を定義する運用を紹介している。
政府ガイドラインが後押しする「事実上の義務」
この設計思想は、もはや企業の自主判断だけの話ではなくなった。総務省・経済産業省は2026年3月、「AI事業者ガイドライン第1.2版」を公表し、AIエージェントとフィジカルAIの定義を新設した。外部アクション時のHuman-in-the-Loopを求め、クリティカルな処理における承認フロー、最小権限の原則、誤作動時の対応手順の整備を明記している。サイバーセキュリティコンサルタントの新實傑氏は「従来の生成AIは“出力の誤り”が問題でしたが、エージェント型では“誤った行動”に変わる。特に金融や医療、インフラ領域では、人間の関与なしに意思決定させる設計は現実的ではない」と指摘する。
同ガイドラインに法的拘束力はないが、取引先からの準拠要求やサイバー保険の引受条件として参照される動きが既に出ている。ソフトローが市場ルールへ転化する過程は、境界線設計を「あれば良い」ものから「ないと選ばれない」ものへと押し上げつつある。
結論：境界線は経営が引くべきリスクアペタイトである
複数の論者に共通するのは、自律性か人間承認かという二項対立ではなく、不可逆性・リスクの質・影響範囲という3つの物差しで境界を可変にすべきだという発想だ。一律承認は導入効果を殺し、一律自律は暴走を招く。城田氏が言う通り、この線引きはIT部門の運用設計ではなく経営の意思決定そのものである。境界線を曖昧にしたまま導入規模だけを拡大する企業ほど、責任の所在が追えない事故に直面するリスクが高い。
