近年、AI技術は急速に発展し、その応用範囲が広がる中で、セキュリティに対する新しい脅威も発生しています。その一例として、Google DeepMindの研究者たちは、「AIエージェントトラップ」という新たなる脆弱性を明らかにしました。これは、Webコンテンツを通じてAIエージェントが意図しない動作を行うように仕向ける手法です。この攻撃では特にHTMLコメントやメタデータ属性を利用し、さらにJavaScriptを用いた動的な罠の挿入も考慮されています。攻撃者はこの脆弱性を利用してAIエージェントに対しマクロレベルの失敗を人工的に作り出し、推理能力を混乱させたり、また長期的な記憶を損なうなど、様々なマルウェア的行動を誘発できます。
Microsoft 365においても、AIアシスタントCopilotに関する命令注入の脆弱性（CVE-2025-32711）が報告され、これが「EchoLeak」として注目を集めています。この脆弱性はメールに巧妙に隠された悪意ある命令がAIアシスタントを通じ、機密情報を外部に流出させる可能性を秘めています。すでにサイバー攻撃の8割はAIによって自動化され、その効率を劇的に向上させている現状では、脆弱性を突いた攻撃者がAIの内部データや処理を不正に操作し、ますます検知を困難にしています。これに対し、Microsoftは迅速な対応でパッチを提供し被害拡大を防ぎました。
暗号通貨業界もAIによる脅威に直面しています。LedgerのCTOであるCharles Guillemet氏によると、AIを活用したハッキングにより年間14億ドル以上の損失が生じているとされています。AIはリバースエンジニアリングやエクスプロイトの連鎖を短時間で実行可能であり、これにより従来のセキュリティ対策はますます形骸化しつつあると言われています。Solanaプラットフォーム上のDeFiプロトコルであるDriftは、最近の攻撃で2億8500万ドルもの損害を受けており、その影響は無視できません。
加えて、政府機関や企業もAI攻撃の対象となっています。特に中国の国家支援グループがAnthropicの技術を悪用し、世界中の企業や政府組織へのサイバー侵入を試みていることは憂慮すべき事態です。これに対して多くの組織は、データ保護戦略を全体的に見直さねばならず、AIの進化がもたらす新たな脅威に対して継続的な対応が求められています。
この状況において、企業はAIシステム内の潜在的な脆弱性を迅速に検出し、適切に修正するためのセキュリティ戦略強化を迫られています。これは、組織内での情報セキュリティの最高責任者（CISO）にとっても優先度の高い業務であり、AI技術の普及に伴い、新たにセキュリティリスクマネジメントの枠組みの構築が不可欠となっています。
