2026年に入り、RAG（検索拡張生成）を巡る議論の重心が「どの最新モデルを使うか」から「参照させる文書と検索の質をどう上げるか」へと移っている。国内企業や自治体の導入事例、そして間接プロンプトインジェクションという新たな脅威の顕在化が、この流れを裏付けている。
モデル刷新より文書と検索——キヤノンITソリューションズの知見
キヤノンITソリューションズの実践報告によれば、RAG導入で社内検索の精度が伸び悩む要因の多くは、モデルの世代ではなく文書側の不備にある。手順書が古いまま放置されている、表が画像化されて読み取れないといった状態が典型例だ。AI新聞（エクサウィザーズ）の解説では、まず「答えられなかった質問」を集めて文書に追記し、抜けを埋める作業が優先されると指摘する。
もう一つの打ち手が検索精度の改善だ。文書を断片（チャンク）に分割すると、その断片だけでは何の話か分からず検索で拾えなくなる。「売上は前四半期比で3%増加した」という断片だけでは対象企業も時期も特定できない。対策として各断片に元文書の文脈を補ってから登録する「コンテキスト検索」をAnthropicが報告しており、モデルの入れ替えよりも地味な足元の整備が精度向上に直結するという結論に至っている。
国内事例に見る規模と統制——フジテックス・滋賀県
具体的な導入事例では、商社のフジテックスが5,000点以上の商材のうち500点を超える専門印刷機器の商品情報をRAGに連携し、経験の浅い営業でも製品知識に基づく提案ができる体制を構築した。属人化していた商品知識を組織で使える形に転換した例だ。
自治体では滋賀県が禁止ワード設定などガバナンスの土台を固めた上で、全庁約6,000名にRAGを導入した。庁内資料を連携し、議事録・文書要約・施策提案を支援する運用に踏み込んでいる。イオンもグループ各社へ展開し、社内ドキュメントの横断検索を起点に次の施策検討へつなげている。共通するのは、汎用ツールの配布だけでは届きにくい「データ連携」と「全社統制」を段階的に整えた点だ。
政府も本格運用へ——デジタル庁「源内」の展開スケジュール
行政分野ではデジタル庁のガバメントAI「源内」が2025年5月の職員向け運用開始を経て、2026年2月に行政資料RAGアプリを展開した。SEABIS旅費・謝金システムの質問応答RAGなど、行政実務特化型のアプリケーションが稼働している。
スケジュールでは2026年5月頃から年度末にかけて希望省庁への大規模導入実証（リリース2.0）、2026年夏ごろに国内LLMの試験導入（リリース2.1）、2026年12月頃には生成AI用の政府共通データ整備を伴うリリース2.2が予定される。国会答弁作成支援AIでは、国会質問の内容解析から過去答弁の検索、答弁草案生成、矛盾検証までを統合的に提供する構想だ。AI-Readyデータの整備がRAGの精度を左右するという企業側の知見と、政府の「政府共通の大規模データセット整備」方針は同じ課題意識を共有している。
ベクトル検索とファインチューニングの使い分けが定着
実装面では、文書をベクトル化して意味的に近い断片を検索する「ベクトル検索型」が主流だが、KDDIアイレットの解説によれば、キーワードの完全一致を狙う検索と組み合わせるハイブリッド検索、検索結果の順位を最適化するリランキングの併用が一般的になっている。RAGの精度は生成側のモデル性能だけでなく、検索フェーズでどれだけ的確なチャンクを渡せるかに大きく左右されるという整理だ。
ファインチューニングとの使い分けも明確化してきた。文体や専門分野特有の言い回しを整えたい場合はファインチューニング、社内文書や最新情報など更新頻度の高い知識を都度参照させたい場合はRAGという棲み分けであり、情報更新が頻繁な業務ほどRAGの運用コスト優位性が際立つ。
新たな課題——間接プロンプトインジェクション
一方でRAGとAIエージェントの普及に伴い、株式会社GENZが警鐘を鳴らすのが「間接プロンプトインジェクション」だ。攻撃者がWebページやPDF、メールなど外部データに悪意ある指示を埋め込み、RAGがその内容を参照した際に意図しない応答を引き起こす。命令の上書きや難読化・エンコード、HTMLやCSSを使ったステルスインジェクションに加え、画像に命令を埋め込むマルチモーダル攻撃や、無害な命令で外部ツールを呼び出させる2段階攻撃（Phantom攻撃など）も報告されている。
対策として、入力層のサニタイズだけでなく、データアクセス権限の最小化、AIエージェントのツール実行制御、Human-in-the-Loopの導入といった多層防御が求められる。RAGを「調べて答える図書館司書」、AIエージェントを「自律的に業務を遂行する秘書」に例えるなら、司書には参照データの汚染対策、秘書には実行層の権限管理という異なる防御が必要になる。RAGという枠組み自体は2020年にPatrick Lewisらが発表した論文で定式化された考え方だが、実運用フェーズに入った2026年、その脆弱性への対応が新たな設計要件として浮上している。
