「ガードレールなし」という前提から始まる議論
オープンソースAIをめぐる安全性論争は、常に一つの矛盾から出発する。コードを公開すれば「千の目」でバグや脆弱性が発見されるはずだが、実際には見る目の数だけでは足りない。CIOの調査記事は、オープンソースの生成AIには標準規格が存在せず、モデルによってガードレールの有無すら異なると指摘する。CIOの記事によれば、オープンソースの汎用AIモデルの安全性を評価する独立機関は現時点で存在せず、欧州AI法の文書提出義務も大半が2026年まで発効しない。カーネギーメロン大学のアナンド・ラオ教授は「オープンソース版をダウンロードするには専門知識が必要だ」と述べ、企業が本番展開後に請求書の山を見てから代替案を検討する現実を語る。ジェイルブレイクへの脆弱性も無視できない。商用モデルにはユーザーの不審なプロンプトを監視するベンダーがいるが、オープンソースには「抜け穴を探す係」が不在なことが多く、悪意ある利用者は無料でモデルをダウンロードし自分の環境で攻撃を先行研究できてしまう。
「非公開では守れない」への発想転換
この矛盾に対し、2026年8月に大きな転換点が訪れた。NVIDIA、Microsoft、IBM、Red Hat、Cisco、Palo Alto Networks、Linux Foundationなど37社が「Open Secure AI Alliance」を設立したのだ。Think ITやロボスタの報道によれば、このアライアンスの核心は「AIエージェント時代のセキュリティは、モデルの重みを非公開にすることでは守れない」という認識だ。従来、安全性確保の手段として「モデルを隠す」ことが選ばれがちだったが、実際にはコードや仕様をブラックボックス化しても攻撃者はエージェントの挙動から弱点を推定できる。むしろオープンな技術基盤を業界横断で共有し、共通の脆弱性データベースや検証手順を整備する方が実効性が高いという判断が、名だたる大手企業を一堂に集めた背景にある。
検証環境そのものを晒す：MONO BRAINの挑戦
この発想を体現する国内の動きが、株式会社MONO BRAINが2026年4月2日に公開した「Model Security Range」である。プレスリリースによると、これは意図的に脆弱性を持たせたAIアプリケーションに対し、攻撃・評価・復旧までを再現可能な手順で実施できるフレームワークだ。プロンプトインジェクション、過剰権限ツールの悪用による破壊的SQL実行、AI OCRを経由した間接的な脱獄誘導、汚染済み学習成果物によるバックドア挙動、フィードバックループ悪用によるスパム分類器の性能劣化——これら5パターンの攻撃シナリオをRAG・エージェント・OCR・機械学習モデルを横断してGitHub上で無料公開している。攻撃コードそのものを世に晒すことにリスクを感じる向きもあるだろうが、同社は「教育・検証目的」であり本番環境や無許可対象への攻撃利用を禁じる注意書きを添えることで、リスクと公益のバランスを取ろうとしている。
政府自らが範を示す：源内のOSS化
安全性を重視すべき最たる主体である政府機関も、この潮流に加わった。デジタル庁は2026年4月24日、生成AI基盤「源内」の一部を商用利用可能なライセンスのもとで無償OSS公開した。AIsmileyの解説によれば、公開内容は源内Webのソースコードと構築手順、AWS向け行政実務用RAGテンプレート、Azure向けLLMセルフデプロイ実装、Google Cloud向け法制度AIアプリの3系統で、いずれもGitHub上の公式リポジトリで確認できる。デジタル庁は行政事務で扱う機密性2情報まで入力可能な政府統一基準準拠のセキュリティのもとで源内を運用しつつ、その一部だけを切り出して公開する形をとった。狙いは自治体間の重複開発防止によるコスト削減、特定ベンダーへのロックイン回避、そして民間への技術波及だ。安全性を担保する統一基準の枠内でOSS化するという手法は、CIOが指摘した「標準の欠如」への一つの解答例と言える。
開くことの是非——結論として
オープンソースAIの安全性論争は、「公開すべきか否か」という二択ではもはや語れない。37社連合が示したのは、非公開という防御が形骸化しつつある現実であり、MONO BRAINと源内が示したのは、公開する側が検証手順や運用基準を明文化する責任を引き受けるという実践だ。企業が今すぐ取るべき行動は明確である。導入予定のオープンソースモデルにガードレールと文書が存在するかを確認し、可能であれば検証レンジのような仕組みで自社環境下の脆弱性を先に洗い出すことだ。安全性は「隠す」から「検証可能にする」へと軸足を移しつつある。
