AIセキュリティ態勢管理

AIセキュリティ態勢管理:発見だけではAI生成コードを保護できない理由

TL; DR

ほぼすべてのエンジニアリングチームがAIコーディングアシスタントを使用している。しかし、実際にどのようなAIを実行しているかを把握しているチームはごくわずかだ。 ガートナーは、データセキュリティに関する2025年のハイプサイクルにおいて、AIセキュリティ態勢管理をカテゴリーとして定義しました。これは、モデル、エージェント、MCPサーバー、データセットといっ​​たAI資産は攻撃対象領域に存在するにもかかわらず、ほとんどの組織がそれらを体系的に把握する方法を持っていないという、現実のギャップが存在するためです。

発見しても修復は dashboard. AIが生成するコードの約40%にはセキュリティ上の脆弱性が含まれています。AIアシスタントは、手動レビューでは処理しきれないほどの量の安全でないパターンを再現します。どのようなAIアセットが存在するかを把握することは、問題の半分しか解決しません。残りの半分は、コードが作成されたのと同じワークフロー内で、出荷前にリスクを評価し、コードを修正することです。

攻撃対象領域はコードの範囲よりも広い。 既に文書化された攻撃は、コード周辺の資産を標的としています。例えば、ルールファイルに隠されたUnicodeによってアシスタントがバックドア付きの出力を生成する、MCPツールの汚染と広く使用されているMCPブリッジ(437,000回以上ダウンロード)を介した完全なリモートコード実行、そしてスロップスクワッティング(AIモデルが統計的に誤認する可能性が高いパッケージ名を登録する)などです。 SAST (NAIST) と SCA どれも見当たらない。

修正方法は、3点ツールではなく、1つのループを使用することです。 AI-SPM 在庫とAI-BOMを作成します。 AIセキュリティ LLM申請におけるOWASPトップ10リスクスコア 開発AI IDE内で記述された脆弱なコードを修正し、AIが生成したコードと人間が記述したコードの両方に対応し、他のエージェントが実行しようとしていることを実行前に傍受します。 これは、Xygeni独自のスキャナによる検出結果と、既に導入済みのツールから取り込まれたすべてのデータに適用されます。 ― 交換工事は不要です。

ほぼすべてのエンジニアリングチームがAIコーディングアシスタントを導入している。しかし、実際にどのAIモデル、エージェント、MCPサーバーを実行しているのか、そしてそれぞれがどのようなリスクを抱えているのか、という単純な質問に答えられるチームはほとんどない。このギャップに名前がついた。ガートナーはAIセキュリティ態勢管理を正式に定義した。 (AI-SPM) そのカテゴリーとして データセキュリティに関する2025年のハイプサイクル ―CSPMやDSPMを生み出したのと同じ系譜。このカテゴリーが存在する理由は、具体的な数字があるからだ。AIが生成するコードの約40%にセキュリティ脆弱性があり、AIは開発者が使用する単なるツールではなく、攻撃対象の一部となっており、ほとんどの組織は運用しているAI資産の構造化されたインベントリを持っていない。

それはまた、私たちが現地で議論するトピックでもあります。 OWASP AppSec Days ポルトガル 20269月23日~24日、ポルトにて Xygeniはゴールドスポンサーです詳細は最後に述べますが、先に進みたい場合は、 チケットはこちらから.

問題点:AI生成コードには独自のリスクプロファイルが存在する

AIが生成したコードの約40%にセキュリティ脆弱性がある。AIコーディングアシスタントに関する独立した調査では、一貫して高い失敗率が発見されている。 OWASPトップ10クロスサイトスクリプティングなどの特定の脆弱性カテゴリは、生成されたサンプルの大部分に見られます。AIアシスタントは、コードをより速く書くだけでなく、安全でないパターン、安全でない依存関係、安全でない構成もより速く再現します。しかも、手動レビュープロセスでは処理できないほどの規模でそれを行います。

攻撃対象はアシスタントが書くコードだけにとどまりません。チームが既に運用しているものの、ほとんどインベントリ化されていないAI資産(モデル、データセット、エージェント、MCPサーバーなど)にも及びます。これらの資産はそれぞれ、既に実際に発生した攻撃事例が記録されています。

  • ルールファイルバックドア: 攻撃者は、GitHub CopilotやCursorなどのツールが読み取るルールや設定ファイル内に目に見えないUnicode文字を使用して指示を隠し、アシスタントがバックドアされたコードを一切言及せずに生成するように仕向けます。 MITRE ATLASの事例研究。
  • MCPツールの悪用とリモートコード実行: 広く利用されているMCPブリッジに重大な脆弱性があり、43万7000回以上ダウンロードされたこのブリッジは、クライアントが信頼できないMCPサーバーに接続した瞬間に、リモートで完全なコード実行を可能にするものだった。
  • スロップスクワット: 大規模な学術研究により、16のLLM(ローリング・ロジック・マネジメント)にわたる200万を超えるコードサンプルが生成され、推奨されているパッケージのほぼ5分の1が実際には存在せず、攻撃者が事前に登録して悪用できる名前であることが判明した。

これらはどれも従来の SAST or SCA スキャン。これらのツールはコードを理解できます。しかし、モデルとは何か、MCPサーバーが何をしているのか、エージェントの設定ファイルが改ざんされているかどうかは理解できません。

ほとんどのチームは問題の半分しか解決していない

本能的な反応はポイントツールを追加することです。モデルスキャン用、ランタイムプロンプトファイアウォール用、そして3つ目は IDEアシスタントこれはAppSecが犯したのと同じ間違いだ。 SAST, SCAそして15年前の秘密スキャンと全く同じ結果を生み出している。つまり、可視性が断片化され、アラートがノイズとなり、「実際にどのようなAIを実行しているのか、そしてそれは安全なのか」という問いに答える単一の場所がないのだ。

発見しても修復しなければ、火元がどこにあるかはわかります。発見せずに修復すると、シャドウ MCP サーバーや承認されていないエージェントが監視されずに隣で実行されている間にコードを修正することになります。AI セキュリティは、同じプラットフォーム上で両方をカバーする必要があります。そうでなければ、それは姿勢管理ではありません。 dashboard.

より良い方法:AIセキュリティ態勢管理により、脅威を発見、検知、修正します。

ザイゲニ AIセキュリティ AI時代全体にわたってこのループを閉じる SDLCモデルとMCPサーバーから開発者のエンドポイントまで。

  • 発見する。 AI-SPMは、組織内のすべてのAI資産(モデル、データセット、エージェント、MCPサーバー)のリアルタイムインベントリを構築します。 AI-BOM、 監査人や規制当局がますます求める証拠となる資料、例えばEU AI法に基づく高リスクシステムの技術文書や、スペインのENSのような枠組みで要求される資産目録などが挙げられる。
  • 検出する。 AI Security は、各アセットを実際のリスク (即時注入、安全でない MCP 構成、データ漏洩、 LLM アプリケーション向け OWASP トップ 10調査結果は順位付けされ、順番待ちリストに放り込まれるわけではありません。
  • コードが書かれた時点で修正する。 これはAIが生成した code security 実際に解決されます。Xygeni 開発AI IDE 内で連続レイヤーとして動作し、開発者が人間が書いたコードと AI が生成したコードの両方を扱う際に段階的にスキャンを実行します。エージェント AI による脆弱性検出、マッピングを実行します。 AIを活用した攻撃経路 脆弱性が実際にどのように悪用される可能性があるかを示し、開発者が適用する前に悪用可能性と破壊的変更リスクが検証された、AIによって生成された安全な修正プログラムを提供します。 Guardrails 変更がCIに到達する前に、セキュリティおよびコンプライアンスポリシーに照らして検証します。また、専用のDevAIエージェントが、他のエージェントが実行しようとしていることを傍受します。具体的には、スキルファイルとルールファイルの検証、エージェントがインストールしようとするすべてのパッケージに対するマルウェアやスロップスクワッティングパターンのスクリーニング、MCPツールの動作に対するポイズニングの監視など、すべて実行前に行われます。
  • 執行する。 Shield 開発者のエンドポイントにも同じポリシーを適用し、安全でないAIアクティビティが実行される前にブロックします。

そしてなぜなら AIトリアージ説明と是正措置は、Xygeni 自身の調査結果だけでなく、既に導入されているツールから取り込まれたすべてのデータにも適用され、チームは既に投資したものを撤去することなく、これらの機能を利用できます。

OWASP AppSec Days Portugal 2026でXygeniに会いましょう

私たちはこの議論をポルトに持ち込みます。 ザイゲニ はゴールドスポンサーです OWASP AppSec Days ポルトガル 2026、 ランニング 9月23-24 アントニオ・クパチーノ・デ・ミランダ財団にて。

イベントでは、AI セキュリティ態勢管理の実践についてお話しします。チームがこれまで知らなかった AI 資産をどのように発見しているか、AI が生成した code security 既存のアプリケーションセキュリティプログラムに隣接して存在するのではなく、それに適合するように設計されていること、そして現在のMCPやエージェント型脅威が実際にどのような様相を呈しているかを示すこと。

参加される場合は、 ブース12でXygeniチームにお会いしましょう。 AIセキュリティ対策がロードマップに含まれていて、ポルトに来られない場合は、直接ご説明させていただきます。同じ日程で、以下のイベントにも参加しています。 ドイツOWASPデー2026(カールスルーエ)AIセキュリティについて話し合い、 Shield特に、その執行レイヤーについて。

ぜひミーティングをご予約ください!

FAQ

  • AIセキュリティ態勢管理(AI-SPM)とは何ですか?

AI-SPMは、クラウドにおけるCSPMやデータにおけるDSPMと同様に、組織が運用するあらゆるAI資産(モデル、データセット、エージェント、MCPサーバーなど)のリスクを検出、インベントリ化、継続的に評価する手法です。ガートナーは、データセキュリティに関する2025年ハイプサイクルにおいて、AI-SPMを一つのカテゴリとして定義しました。XygeniのAI-SPMは、このインベントリを構築し、AI-BOMで裏付けることで、セキュリティおよびコンプライアンスチームが監査担当者に提示できる証拠を提供します。

  • AI生成 code security 伝統的なものとは異なる SAST or SCA?

従来の静的解析と依存関係スキャンは、コードとパッケージを理解するために構築されており、AI 固有のリスクには対応していません。プロンプトの挿入、悪意のあるルールやスキル ファイル、MCP ツールの汚染、AI アシスタントがインストールする可能性のあるスロップスクワットされたパッケージ名などを検出できません。AI 生成 code security Xygeni DevAIはIDE内で、開発者が既に利用しているワークフローの中に組み込み、人間が書いたコードとAIが生成したコードの両方を一緒にスキャンする必要があります。

  • AIが生成したコードの約40%に脆弱性が含まれているのはなぜか?

AIコーディングアシスタントは、トレーニングデータ(セキュリティ上の問題のあるデータも含む)のパターンを学習して再現し、手動レビューでは追いつけないほど高速にコードを生成します。独立した調査では、AIが生成したサンプルにOWASP Top 10の脆弱性が高頻度で含まれていることが一貫して確認されており、クロスサイトスクリプティングなどの特定の脆弱性カテゴリは、テストの大部分で発生しています。

  • AI-SPMは、既存のアプリケーションセキュリティツールに取って代わるものですか?

いいえ、そうすべきではありません。XygeniのAIトリアージ、説明、および修復機能は、Xygeni独自のスキャナによる検出結果と、既に導入されているサードパーティ製ツールから取り込まれた検出結果の両方に適用されるため、チームは既に投資したシステムを刷新することなく、統一されたAIリスク対策を実現で​​きます。

  • 実際に動作している様子はどこで見られますか?

XygeniはOWASP AppSec Days Portugal 2026のゴールドスポンサーです。9月23日~24日にポルトで開催される大会で、チームは現地に待機します。 ブース12 AI-SPM、AI生成による会話 code securityそして、現在発生しているMCPやエージェントによる脅威についても取り上げます。チケットをご購入いただくか、ポルトにお越しになれない場合は直接お問い合わせください。

同じ週に、私たちは ドイツOWASPデー2026 カールスルーエに拠点を置き、AIセキュリティと Shieldの強制レイヤー。

sca-tools-ソフトウェア構成分析ツール
ソフトウェアのリスクを優先順位付けし、修復し、保護する
無料アカウントを作成しましょう。
いいえ、クレジットカードは必要ありません。

ソフトウェア開発と納品を安全に

Xygeni製品スイートと共に