AIのセキュリティ脅威

AIセキュリティにおけるトップ10の脅威とそのマッピング方法

TL; DR

「AIセキュリティの脅威」とは、AIシステムを標的とした攻撃と、AIを兵器として利用する攻撃という、2つの異なる事柄を指す。 それぞれ異なる管理体制、異なる所有者、異なる証拠が必要ですが、ほとんどのリストではこれらが混在しているため、対処が非常に困難です。以下の最初の5つは、あなたのAIを標的としています。次の5つは、あなたのサプライチェーンに対してAIを利用しています。

  • AIシステムに対する脅威は、主にモデル自体ではなく、設定に存在する。 ツールスコープ、エージェントが実行される資格情報、ルールファイル、 .mcp/servers.json エントリ。モデルのエンドポイントからはどれもアクセスできないため、レッドチームテストだけでは問題がないという結果になります。
  • AIを利用した攻撃は、ほとんどの場合、防御網を突破するのではなく、依存関係を通じて侵入してくる。 攻撃者によって登録された偽のパッケージ名、開発者認証情報を使用した自己増殖型ワーム、AIプロバイダーキーなどが目的です。
  • 10問のうち9問は、具体的な事柄に関する質問です。 どのMCPサーバー、どのエージェント、どのスコープ、どの認証情報、どのルールファイル、どのパッケージを使用するのか。ポリシー文書では、これらの質問には一切答えられない。
  • 10個すべてに共通する前提条件がある。 マッピングされていないAI資産を防御することはできないため、発見は制御の後のステップではなく、制御の前のステップとなる。

AIセキュリティ上の脅威には、どのような2種類がありますか?

AIセキュリティの脅威に関するリストのほとんどは、この2つを混同しているため、対策を講じるのが難しい。

  • AIシステムに対する脅威 AIを標的として捉えましょう。誰かがモデルを操作したり、AIが従う指示を改ざんしたり、エージェントに与えられた権限を悪用したりする可能性があります。防御側の役割は封じ込めです。つまり、侵害されたAIが到達できる範囲を縮小することです。
  • AIによる攻撃 AIを攻撃者の道具と捉えるべきだ。標的は、依存関係、認証情報、ビルドシステム、開発者といった、ごく普通のソフトウェアだ。攻撃の経済性が変化し、攻撃量が増加したため、防御側の役割は迅速な検知となる。

それぞれ異なる制御、異なる所有者、異なる証拠が必要です。チャットボットのレッドチームテストを実施したチームは、スロップスクワッティング対策を何も講じていません。依存関係のスクリーニングが優れたチームであっても、本番リポジトリへの書き込み権限を持ち、スコープ制限のないエージェントを実行している可能性があります。どちらもAIセキュリティ上の脅威であり、互いに補完し合うものではありません。

AIシステムに対する脅威:最も頻繁に発生する5つの脅威

01. ツールシンクに到達する迅速な注入

信頼できないコンテンツが到着し、システムプロンプトに組み込まれ、受信側のエージェントがツールを起動できるようになる。脆弱性はプロンプト自体にあるのではなく、信頼できない入力から危険な機能に至る経路にある。

だからこそ、プロンプトフィルタリングだけでは不十分なのです。それはチェーンの一方の端を強化するだけで、興味深い問題は、入力とツール呼び出しの間にガードレールが存在するかどうかです。 LLM アプリケーション向け OWASP トップ 10 迅速な注射を最優先事項としているが、まさにこの理由から、過剰な主体性とも関連付けている。

何を探すべきか: 信頼できない入力がシステムプロンプトに到達すること、サニタイズされていない取得処理がコンテキストに渡されること、およびガードレールなしでアクセス可能なツールシンク。

02. 悪意のあるルールとスキルファイル

ルールファイルはプレーンテキストです。 commitドキュメントのようにtedし、ドキュメントのようにレビューし、アシスタントに何をすべきかを指示します。ゼロ幅文字は、 pull request エージェントにとって完全に判読可能なまま差分を表示します。

マイターアトラス これはルールファイルバックドアとして分類され、ケーススタディはAML.CS0041です。レビュー担当者は書式規則を承認します。エージェントは、攻撃者が制御するパッケージからインポートし、それについて何も言わないようにする指示を読み取ります。

何を探すべきか: ルールファイル、スキルファイル、プロンプトテンプレートは、文章ではなくコードとして分析され、不可視文字の検出機能も備えています。

03. 安全でないMCPサーバー構成

MCP構成 エージェントが命令を受け取り、認証情報が蓄積される場所です。どちらの部分にも問題があります。2025年7月に公開されたCVE-2025-6514は、広く使用されているMCPブリッジにおける重大なOSコマンドインジェクションであり、CVSSスコアは9.6で、信頼できないサーバーに接続する際にクライアントホスト上で任意のコマンドを実行できる脆弱性です。

認証情報に関する部分は、受動的な性質を持つため、より深刻です。2026年の調査では、公開されているGitHub上のMCP設定ファイルに24,000件以上の秘密情報が保存されており、そのうち2,000件以上が依然として有効であることが判明しました。

何を探すべきか: 使用中のMCPサーバーの一覧、バージョン、宣言されているツール、および設定ファイルに対して実行されているシークレット検出機能。

04. 過剰な代理行為

広範なツール権限と長期有​​効な認証情報を与えられたエージェントは、トリガーを待つばかりの特権昇格の温床となる。悪用される必要はなくとも、この脆弱性は深刻な被害をもたらす。混乱したエージェントと侵害されたエージェントは、どちらも本来必要のない書き込み権限を持っているため、同様の損害を与える。

これはリストの中で最も地味な項目であり、最もよくあるケースです。また、最も安価な解決策(範囲の縮小)もありますが、問題の所有者がいないため、この解決策が適用されることは稀です。

何を探すべきか: どのエージェントが存在するのか、それぞれが何を呼び出し可能なのか、誰の認証情報に基づいているのか、そしてその範囲を誰かが承認したのかどうか。

05. 汚染されたモデル、データセット、およびAIの依存関係

AIスタックは、一般的なパッケージとホストされた成果物に基づいて構築されています。モデルは公開ハブからダウンロードされ、データセットはどこからでも取得されます。どちらも、他の依存関係と同様に、出所に関する問題を抱えていますが、ツールは少なく、検証もはるかに緩やかです。

何を探すべきか: モデル、フレームワーク、データセットはサプライチェーンの構成要素として扱われ、同じ構成分析と、同じ CVE追跡は、他の依存関係と同様に行います。

AIを活用した攻撃:サプライチェーンを再構築する5つの攻撃

06. スロップスクワット

USENIX Security 2025で発表された研究では、16のモデルにわたって2.23万個のコードサンプルを生成し、推奨パッケージの19.7%が存在しないことが判明し、20万5000を超える架空の名前が生成されました。これらの名前の約43%は、同じプロンプトを繰り返し実行した際に繰り返し出現するため、ファーム可能であることが分かりました。

攻撃者はもはや保守担当者を侵害する必要はない。 彼らはあなたのエージェントが考案した名前を登録し、インストールを待ちます。このパッケージには署名も警告もありません。なぜなら、それは新しいもので、誰も見たことがないからです。

何を探すべきか: 評判ではなく動作に基づいてマルウェアをスクリーニングする仕組みで、エージェントが追加するすべての依存関係に適用されます。

07. 自己増殖するサプライチェーンの害虫

その 2025年9月 npmワーム これは、開発者のマシンが標的ではなく配信手段となった転換点となった。このパターンは2026年まで大規模に繰り返された。侵害された開発者の認証情報が次の侵害パッケージを公開し、被害範囲は拡大するどころか、むしろ拡大していった。

何を探すべきか: 異常な出版活動、異常 commit 開発者の通常の行動と一致しないパターンや認証情報の使用。

08. 国家によるAI認証情報の標的化

2026年3月、週平均約1億ダウンロードを誇るパッケージが数時間にわたり侵害され、AIプロバイダーのAPIキーが不正に入手された。この期間は意図的に短く設定されていた。情報収集には十分な長さでありながら、検出される可能性を最小限に抑えるためだ。

AI認証情報は、コンピューティング能力、アクセス権限、そしてもっともらしい身元を証明する手段となるため、今やそれ自体が主要な攻撃標的となっている。AI認証情報を盗み出すことを目的とした攻撃は、2025年末から2026年初頭にかけて急増した。

何を探すべきか: AIプロバイダーのキーは、クラウド認証情報と同様に、検出および失効の対象となる秘密情報として扱われます。

09. LLMを使用して作成または仕掛けられたマルウェア

2026年までに、言語モデルが悪用され、エージェントのワークフロー内に悪意のあるコードが仕込まれる事例が記録された。重要なのは、マルウェアが斬新だったということではない。重要なのは、作成者がボトルネックではなくなり、攻撃者が利用できるもっともらしい悪意のあるコードの量がそれに応じて増加したということである。

何を探すべきか: 検出 それは、以前にそのサンプルを見たことがあるかどうかには依存しない。

10. レビュー能力の崩壊

これは攻撃ではないため、最後に挙げ、最も重要な点です。エージェントが1週間に1000個のファイルを生成すると、コードレビューは管理機能を失い、単なるキューになってしまいます。最後の人的チェックが処理能力を超えてしまうと、このリストにある他のすべての脅威は容易に対処できるようになります。

何を探すべきか: 発見事項は、単純な深刻度ではなく、悪用可能性に基づいてランク付けされるため、実際に開発者に届くのは、生産を脅かすごく少数の事例のみとなる。

10の脅威が地図です。それぞれの脅威への対処法はブログ記事では書ききれないので、きちんと話し合いました。今回のエピソードでは SafeDev トークXygeniのCEOであるJesús Cuadradoが、DevSecOpsのエキスパートでありSであるAtanas Nikolovと対談します。SDLC テクニカルリードが、ポリモーフィックマルウェア、プロンプトインジェクション、モデル改ざん、そしてそれらに対する実際の対策について解説します。フォームなし、ゲートなし。

マッピングしていないAI資産をなぜ防御できないのですか?

10個の質問をもう一度読んでみると、そのパターンは容易に理解できるだろう。そのうち9つは、どのMCPサーバー、どのエージェント、どのスコープ、どの認証情報、どのルールファイル、どのパッケージといった具体的な事項に関する質問である。

これらの疑問はどれも、政策文書からは答えられません。答えはインベントリから得られるものですが、ほとんどの組織はインベントリを持っていません。AIは、チケットも調達プロセスも、AIであることを明示するリポジトリへの登録もなく、開発者が迅速に行動することで導入されました。

そのため、マッピングは最初のステップではなく、前提条件となります。制御から始まるAIセキュリティ脅威対策プログラムは、認識しているAIに対して制御を適用しますが、これは規模を把握できないサブセットです。まず発見が必要です。モデル、フレームワーク、データセット、推論エンドポイント、エージェント、MCPサーバー、スキル、プロンプト、そして開発者が実際に使用するAIコーディングツールとその間の関係性を把握する必要があります。なぜなら、資産単体ではほとんど何も分からず、リスクはチェーン全体に集中するからです。

その NIST AI リスク管理フレームワーク mapがmeasureやmanageよりも前に配置されているのも同じ理由からです。これはフレームワークの中で最も面白みのない機能であり、他のすべての機能が依存している機能です。

どのAIセキュリティ脅威に優先的に対処すべきでしょうか?

最も洗練されたものではない。最も手軽なものだ。

  • 今週: MCPサーバーの数を数え、設定ファイルに対してシークレット検出を実行してください。脅威03は、リストの中で労力に対するリスクの比率が最も高い脅威ですが、ほとんど誰も調査していません。
  • 今月: エージェントを特定し、それぞれがどの権限で何を実行できるかを書き留めてください。これは、最も一般的で、最も安価に軽減できる脅威04への対策となります。
  • 今四半期: エージェントが追加するすべての依存関係の前に、挙動に基づくマルウェアスクリーニングを配置します。これにより、脅威06、07、09を一度にカバーできます。なぜなら、これら3つはすべて新しい脅威であるため、評判に基づくチェックを回避できるからです。

他のことはすべて、その3つの後回しで構わない。なぜなら、他のことはすべて、あなたが既に何を持っているかを知っていることを前提としているからだ。

2027年にAIセキュリティの脅威にうまく対処できる組織は、最高のモデル評価を持つ組織ではないだろう。彼らは、毎週火曜日に、自社のソフトウェアでどのようなAIが稼働していて、どこまで到達できるのかを答えられる組織だ。それが、AIが優位に立つ理由である。 ザイゲニ は、リポジトリ全体にわたるすべての AI アセットの継続的な発見を中心に構築され、 pipelineリスクは、監査担当者が既に認識しているフレームワークに基づいてスコアリングされ、まだ署名されていないものを検出するサプライチェーンスクリーニングも実施されます。

10の脅威、2つのカテゴリー、そしてその両方を包む1つの地図。

FAQ

AIのセキュリティ脅威は、通常のアプリケーションのセキュリティ脅威と本当に異なるものなのでしょうか?

部分的にはそうです。結果は以前と変わりません。コード実行、認証情報の窃盗、データ漏洩などです。変化するのは侵入経路と速度です。これまで無害だった設定ファイルには、何らかの処理を実行する指示が含まれるようになり、攻撃者が説得力のある悪意のあるコードを作成するコストが低下しました。既存の対策は依然として有効ですが、もはやすべてを網羅しているわけではありません。

モデルをレッドチームで検証することで、これらの脅威のほとんどに対処できるのでしょうか?

これは、それらの問題の一部に対処します。レッドチーム演習は、モデルが拒否すべきことを説得されて実行させられるかどうかを判断できるため、非常に有用です。ただし、ツールスコープ、認証情報、ルールファイル、MCP構成はモデルエンドポイントからアクセスできないため、レッドチーム演習では確認できません。クリーンなレッドチームレポートと、危険なほど過剰な権限を持つエージェントは、矛盾なく共存できます。

これらのAIセキュリティ脅威のうち、最も過小評価されているのはどれか?

明らかに過剰な権限です。CVEも、実証可能なエクスプロイトも、専用製品を販売しているベンダーも存在しないため、緊急性は全くありません。また、最初のミスから事態がどれだけ広がるかはスコープによって決まるため、これは封じ込められたインシデントと封じ込められていないインシデントの違いでもあります。

AIを活用した攻撃は、私たちが測定すべき対象をどのように変えるのでしょうか?

彼らは、有用な指標を深刻度から時間へとシフトさせています。悪意のあるパッケージがシグネチャの公開よりも速く生成される場合、「未解決の重大な問題がいくつあるか」よりも「新しい問題がどれだけ早く検出されるか」の方が重要になります。依存関係がコードベースに取り込まれてからスクリーニングされるまでの時間と、問題が報告されてから対応できる開発者に届くまでの時間を測定してください。

sca-tools-ソフトウェア構成分析ツール
ソフトウェアのリスクを優先順位付けし、修復し、保護する
無料アカウントを作成しましょう。
いいえ、クレジットカードは必要ありません。

ソフトウェア開発と配信を安全に

Xygeni製品スイートと共に