AIエージェントのセキュリティ

AIエージェントのセキュリティ:すべてのエージェントを把握し、リスクを検知し、インストールされるものを保護する

AIエージェントのセキュリティは、もはやモデルが何を言うかではなく、エージェントが何をするか、つまり、呼び出すツール、読み込むデータ、保持する認証情報、そして自らインストールするパッケージに関わるものとなっている。

そしてほとんどのチームは最初の質問に答えることができません。実際に実行しているエージェントはどれですか? それらは、LangChain グラフ、MCP サーバー、 SKILL.md ファイルや、個々の開発者が金曜日の午後に設定したAIコーディングツール。誰もレビューしておらず、悪意のあるスキルは単なるプレーンテキストである。

TL; DR

AIエージェントのセキュリティを4つのステップで実現:監視、評価、ループの保護、インストールの保護

見えないエージェントを保護することはできません。AIエージェントのセキュリティは、コード内のすべてのエージェント、MCPサーバー、スキル、モデル、およびAIコーディングツールのインベントリを作成することから始まります。

  • エージェントの構築方法におけるリスク: ユーザー入力を連結するプロンプト、ツール呼び出しエージェントなし guardrails、隠された指示を持つ過剰な権限を持つ認証情報とスキル。そのほとんどはデプロイ前にコードで確認でき、 エージェントアプリケーションに関するOWASPトップ10.
  • ループ内のセキュリティ: コーディングエージェントはループ内でセキュリティを必要とするため、書き込んだものをスキャンして修正してから公開します。 commitテッド、数週間後にチケットで。
  • インストールを保護する: エージェントは依存関係もインストールします。シグネチャが存在する前に機能するマルウェア検出は、開発者であろうとエージェントであろうと、誰がインストールした悪意のあるパッケージも検出します。
  • 1つのワークフロー: AI関連の発見事項は、他のアプリケーションセキュリティ関連の発見事項と同様に、トリアージ、チケット発行、レポート作成のプロセスを経ます。

最初のステップ: リポジトリ内のAIのインベントリを作成し、それをAI-BOMとしてエクスポートしてから、CIで新しいエージェントコードをゲートします。

AIエージェントのセキュリティが別の問題である理由

LLM機能はテキストを返し、人間がそれをどう処理するかを決定します。エージェントは、計画、ツールの呼び出し、Webページ、電子メール、ドキュメントの読み取り、ファイルの書き込み、コマンドの実行など、このループを自律的に閉じます。エージェントに与えるすべての機能は、攻撃者が悪用できる機能となります。

OWASPも同様の区別をした。 OWASP エージェントアプリケーション向けトップ10(2026年版) (ASI01からASI10)は、 LLM アプリケーション向け OWASP トップ 10LLMリストはモデルが何を言うかを扱い、エージェントリストはエージェントが何をするかを扱います。

現在、ほとんどの組織は2種類のエージェントを運用しています。

  • アプリケーションに組み込むエージェント: LangChain、LangGraph、CrewAI、AutoGen、Semantic Kernel、LlamaIndexなどのフレームワークで構築されたサポートアシスタント、内部コパイロット、ワークフローは、多くの場合、ツールに接続されています。 MCP サーバー.
  • 開発者が使用するAIコーディングエージェント: Claude Code、Cursor、GitHub Copilot、Windsurfなど、コードを記述したり、設定を編集したり、依存関係を追加したりするツール。

AIエージェントのセキュリティは、両方ともユーザーの許可に基づいて動作するため、両方を網羅する必要があります。

ステップ1:すべてのエージェント、MCPサーバー、およびスキルを一覧する

AIエージェントのセキュリティは、まず質疑応答ボードから始まります。監査担当者は今や、「どのようなAIを運用しているのか?」と問いかけています。 Xygeni AIセキュリティ その答えは、コード、設定、マニフェスト、依存関係といったソースコードから得られます。

モデル、エージェント、エージェントサーバー、AIフレームワーク、MCPサーバーとそのツール、スキル(SKILL.md, AGENTS.md)、プロンプト、 guardrailsリポジトリに設定されているベクトルストア、データセット、推論エンドポイント、およびAIコーディングツールをマッピングします。また、それらの接続方法、つまりどのエージェントがどのモデルを使用し、どのツールを実行し、どのMCPサーバーを呼び出すかもマッピングします。

その結果、生きたAIインベントリが作成され、CycloneDX形式のAI-BOMとしてエクスポート可能となり、各資産にはEU AI法に基づくリスクカテゴリフィールドを含むガバナンス記録が付与されます。

あなたのコードに既にどのようなAIが組み込まれているか知りたいですか? エンジニアとのセッションを予約する、 そして、お客様のリポジトリの1つについて、AIインベントリを構築します。

ステップ2:エージェントの構築方法におけるリスクを把握する

エージェントの脆弱性のほとんどは、特殊なものではありません。文字列連結で作成されたプロンプト、入力ガードレールのないツール呼び出しエージェント、またはエージェントが必要とする範囲をはるかに超える認証情報などが挙げられます。これらはすべてコード内に痕跡を残すため、デプロイ前にCIで検出できます。

AIエージェントのリスクはコードで検出できる

各リスクは以下に対応します LLM アプリケーション向け OWASP トップ 10 あるいはその代理関係にある人たちも同様に、調査結果が監査担当者と同じ言語で話せるようにします。

リスクコードではどのように表現されるかOWASPマッピング
迅速な注射役割の分離、区切り文字、または guardrailsLLM01
間接注入入力のないツール呼び出しエージェント guardrailsまたは、ウェブページ、電子メール、または取得した文書をサニタイズせずに取り込むエージェントLLM01
安全でない出力処理モデル出力が到達 eval または関数やファイル全体にわたって追跡されるその他の危険なシンクLLM05
過剰な特権を持つエージェントのアイデンティティ非人間的なアイデンティティの悪用静的な長期有効認証情報、スコープを絞り込まない共有認証情報、管理者権限で実行されている MCP またはツール サーバーASI03
悪意のあるスキルまたはタイポスクワッティングされたスキルエージェントのスキルサプライチェーン隠された悪意のある指示 SKILL.md or AGENTS.md既知のスキルや統合を模倣したスキル名エージェントスキル トップ10
プロンプトに隠された秘密プロンプトファイル内に保存された認証情報LLM07

すべての発見事項には、OWASP LLM Top 10のカテゴリ、該当する場合はOWASPエージェントアプリケーションおよびエージェントスキルのタグ、そして関連するレッドチーム攻撃ベクトルが付与されています。

スキルは特別な注意を払う必要があります。なぜなら、スキルファイル内の悪意のある指示はコードではなく文章であり、署名ではそれを検出できないからです。オプトイン方式のAIレビューは、バージョン管理された決定論的な設定で、フラグが立てられたスキルおよびエージェント指示ファイルの意図を判断します。そのため、同じファイルに対しては常に同じ判定が下されます。このレビューは、お客様独自のセルフホスト型モデルで実行できるため、コードやプロンプトをお客様の環境から持ち出す必要はありません。スキルレベルスコアは、これらのシグナルを統合して、「安全」「注意」「インストール禁止」のいずれかの回答を導き出します。

もっと深く: 私たちのセッションをご覧ください 爆発範囲:エージェントがあなたが頼んでいないものに触れたときエージェントの権限がそのタスクの範囲を超えた場合に何が起こるかについて。

ステップ3:コーディングエージェントのループ内にセキュリティを組み込む

AIコーディングエージェントは、 commit 誰もレビューできないほどの速さでコードが作成される。2週間後にチケットで報告された問題は、ほとんど修正されない。修正は、エージェントがまだ業務を行っている間に行われなければならない。

Xygeni MCPサーバーはローカルで動作し、MCPをサポートするあらゆるAIコーディングエージェント(動作モデルを問わず)と連携します。エージェントは、自身が書いたコードをスキャンし、新しい問題を一覧表示し、AIトリアージ判定を取得して修正を要求できます。 SAST (NAIST) と SCA 結果。変更がクリーンになるまで繰り返し、何も commitテッド、あなたのチームが設定した承認に基づいて。

これは、あなたの pipelineエージェントと CI が意見を異にすることはありません。エージェントと連携して作業する開発者にとって、 IDEプラグイン 同じ発見事項と修正点をエディターに反映させる。

ステップ4:エージェントがインストールする内容を監視する

AIコーディングエージェントは、独自の判断で依存関係を追加することがあり、見慣れた名前の新しいパッケージが正当なものかどうかを確認するために立ち止まることはありません。攻撃者はこのことを知っており、オープンソースレジストリは彼らが待ち構えている場所です。

マルウェア防御 署名が存在する前に悪意のあるパッケージをフラグ付けします。インストールしたのが開発者であろうとエージェントであろうと関係ありません。開発者のマシンでは、 Shield 実行前にポリシーを適用します。具体的には、新規パッケージの最低使用期間、IDE拡張機能とプラグインの適用範囲、悪意のある指標やリスクの高い地域からのアクセスのブロック、マシンを隔離する必要がある場合のエンドポイントの分離などです。

もっと深く知りたいですか?

ハンドラーの欠陥と、それにアクセスする公開エンドポイントは、同一の問題であり、責任も同一です。また、既に別のDASTツールを実行している場合、Xygeniはツールの置き換えを求めることなく、その結果を同じリスクビューにインポートします。

両方のレイヤーが連携して動作する様子をご覧になりたいですか? 私たちのセッションをご覧ください コードからランタイムへ:なぜ SAST + DAST はどちらも現代のアプリケーションセキュリティに不可欠ですここでは、コード上の発見事項と実行時テストがどのように互いを裏付けるのかを詳しく解説します。

別のコンソールではなく、1つのワークフロー。

AIエージェントのセキュリティは、それが独自のキューを持つ独立したツールになると失敗します。Xygeniでは、AIの発見は同じファネルを通ります。 AIトリアージAI Remediation は、OWASP LLM の 10 カテゴリすべてに対してコンテキスト認識型の修正ガイダンスを提供し、 ASPM AIのリスクをコード、依存関係、および pipeline ある視点から見たリスク。

AIエージェントのセキュリティとコンプライアンス

規制当局、監査人、顧客は、運用しているAIのインベントリと、そのリスクがどのように分類されているかをますます要求するようになっています。 EUAI法 (NAIST) と ISO / IEC 42001 両方ともその方向に向かっており、AI-BOMは standard 調達に関する質問票の項目。

資産ごとにリスクカテゴリのフィールドを設定したAIインベントリは、ガバナンスチームがその作業を行うための根拠となる情報を提供します。これはEU AI法への対応を支援するものであり、適合性評価ではなく、法務審査に取って代わるものでもありません。

中規模チームの場合は簡単です。

  1. すべてに pull request: 変更されたコードに対するCIにおけるAPIセキュリティに加え、増分DASTスキャンも実施する。
  2. 作業前 commit: として pre-commit ステージングされたファイルに対するゲート。
  3. 毎晩またはマージ時: 完全なDASTスキャン。
  4. 各メジャーリリース前に: ステージング環境に対するAIペネトレーションテストを実施し、バックログを検証するとともに、各修正によって脆弱性が解消されたことを確認します。

APIセキュリティスキャナーは、エアギャップ環境を含むあらゆる場所で実行され、Xygeni SaaSまたはお客様のシステムにレポートします。 on-premisesプラットフォーム。結果はJSON形式で出力されます。 サリフ2.1.0CSV、Markdown pull request コメント。

APIセキュリティテストとコンプライアンス

銀行、保険、公共部門のチームにとって、APIセキュリティテストは証拠にもなります。すべての発見にはコンプライアンスタグが付けられます。 GDPR第32条, PCI DSS 4.0 (要件3.4、6.4.3、7.1、7.2、8)および NIST SP 800-53 (AC-3、AC-6、IA-2、IA-5)は、プラットフォーム上およびJSONとSARIF出力で確認できます。

あなたの組織が以下のいずれかに該当する場合 DORA or NIS2ランタイムテストは、規制当局が依然として要求する手動の侵入テストの間に、継続的な証拠を提供します。 

AIエージェントのセキュリティを実装する7つのステップ

以下は、実際の開発チームでAIエージェントのセキュリティを最も早く機能させるための、実践的なチェックリストです。

  1. 探索する

    リポジトリ内のすべてのAIアセットを一覧表示する

    エージェント、MCPサーバー、スキル、モデル、プロンプト、AIコーディングツールなど、すべてのリポジトリをスキャンし、結果をAI-BOMとしてエクスポートします。これがベースラインとなり、以降のすべてのステップはこのリストを基に作成されます。

  2. 分類します

    各エージェントに所有者とリスクレベルを割り当てる

    すべてのエージェントについて、所有者、アクセスできるデータとツール、およびEU AI法におけるリスクカテゴリを記録してください。所有者が不明なエージェントは、誰も修正できません。

  3. 検出

    CI でエージェント コードをスキャンする pull request

    AIによるリスク検出は、他のスキャンと並行して実行してください。まずは非ブロッキングモードでベースラインを確認し、チームがクリーンアップ作業を完了したら、重大な検出結果に基づいてマージをブロックしてください。

  4. レビュー

    インストール前にスキルを確認する

    スキャンスキルとエージェント指示ファイルなど SKILL.md (NAIST) と AGENTS.mdAIによる意図審査を有効にし、「インストールしない」という判断を絶対的な停止として扱います。

  5. 制限します

    縮小エージェントの権限

    静的で有効期限の長い認証情報をスコープ付きの認証情報に置き換え、エージェント間で認証情報を共有するのをやめ、MCPサーバーやツールサーバーを必要のない高い権限で実行しないようにしてください。

  6. ループ内の修正

    コーディングエージェントのループ内にセキュリティを組み込む

    AIコーディングエージェントをセキュリティMCPサーバーに接続して、コードが侵害される前にスキャンして修正します。 commitテッド、あなたと同じポリシーで pipeline.

  7. 守ります

    開発者のマシンに何が届くかを監視しましょう

    新規パッケージの最低年齢を強制し、署名が存在する前に悪意のあるパッケージを検出し、開発者であろうとエージェントであろうと、インストールする人が誰であろうと、IDE拡張機能とプラグインを対象とする。

その後: すべての発見事項を、他のアプリケーションセキュリティ関連の業務と同様に、同じトリアージ、チケット発行、および報告のワークフローに振り分けることで、AIリスクが独自のキューに溜まってしまうことを防ぎます。

会ったことのないエージェントを確保することはできません

AIエージェントのセキュリティとは、単なるスキャナーの増設ではありません。どのエージェントを実行しているかを把握し、その構築方法におけるリスクを特定し、コーディングエージェントのループ内にセキュリティを組み込み、エージェントがインストールする内容を監視することです。まずはインベントリから始めましょう。他のすべてはインベントリに依存します。

コード内のすべてのエージェント、MCPサーバー、スキルを確認したいですか? エンジニアとのセッションを予約する リポジトリのAIインベントリを構築し、その結果を確認する。または 無料で始められます AIを使用 SAST, SCA機密情報の検出、IDEプラグイン、オープンソースパッケージのマルウェア検出など。クレジットカードは不要です。

AIエージェントのセキュリティに関するよくある質問

AIエージェントのセキュリティは、LLMのセキュリティとどのように異なるのでしょうか?

LLMのセキュリティは、モデルが示す内容、つまりデータ漏洩、回答の操作、安全でない出力などに関わるものです。一方、AIエージェントのセキュリティは、エージェントがツール、メモリ、認証情報、および他のエージェントをどのように扱うかに関わるものです。そのため、OWASPはLLM Top 10とは別に、エージェントアプリケーション向けのTop 10(ASI01~ASI10)を公開しています。

組織内のAIエージェントとMCPサーバーはどのように見つければよいですか?

コードから始めましょう。Xygeni AI Securityは、リポジトリ内のエージェント、MCPサーバー、スキル、モデル、プロンプト、AIコーディングツールを検出し、それらの接続方法をマッピングして、結果をCycloneDX形式のAI-BOMとしてエクスポートします。他のスキャンと並行してCI環境で実行されます。

悪意のあるスキルやMCPサーバーによって、私の開発者が危険にさらされる可能性はありますか?

はい: スキルの指示はプレーンテキストであり、エージェントは開発者の許可を得てそれに従います。Xygeni は隠された悪意のある指示や偽のスキル名を検出し、オプトイン AI レビューでスキルの意図を判断し、各スキルを安全、注意、またはインストールしないのいずれかで評価します。マルウェア防御と Shield 代理店が持ち込むパッケージや拡張機能をカバーする。

sca-tools-ソフトウェア構成分析ツール
ソフトウェアのリスクを優先順位付けし、修復し、保護する
無料アカウントを作成しましょう。
いいえ、クレジットカードは必要ありません。

ソフトウェア開発と配信を安全に

Xygeni製品スイートと共に