エージェントハーネスエンジニアリング

エージェントハーネスエンジニアリング:モデルは攻撃対象ではなく、ハーネスは

要約:エージェントのエンジニアリングと、その隠れた攻撃対象領域

エージェントハーネスエンジニアリングとは、AIモデルを中心に据えて(命令、ツール、権限、メモリ、フィードバックループなど)あらゆるものを構築し、それを実際に動作するエージェントへと変換する手法のことです。 現在、実際のセキュリティリスクの大部分は、モデルそのものではなく、ハーネスに潜んでいる。

  • シフト: チームはプロンプトの調整をやめ、ハーネスの設計に着手した。エージェント=モデル+ハーネス。
  • ハーネスはプレーンテキストファイル(ルール、スキル、MCP設定)に格納されており、ドキュメントと同様にレビューされるか、あるいはレビューされないかのいずれかです。
  • 確たる証拠: ルールファイルバックドアと実際のMCP CVEは、攻撃者が既にこれを標的にしていることを示している。
  • 修正: ハーネスはコードとして扱ってください。出荷前に在庫管理、点検、スキャンを行ってください。

AIに関するセキュリティ議論は、最終的には必ずモデルの問題に行き着く。それはジェイルブレイクできるのか?幻覚を見るのか?プロバイダーは私たちのデータを使ってトレーニングを行っているのか?

もっともな疑問ではあるが、それらはますます的外れなものになりつつある。AIエージェントが生産テーブルを削除したり、バックドアを仕掛けたり、顧客リストを見知らぬ人にメールで送信したりした場合、モデル自体が失敗したわけではない。モデルは、その制約の中で許されたことを正確に実行しただけなのだ。

エージェント = モデル + ハーネス

この1年間で、業界はAIを使った構築の意味を静かに変えてきた。即時エンジニアリングはコンテキストエンジニアリングに取って代わられ、コンテキストエンジニアリングはさらに大きなものへと発展した。 エージェントハーネスエンジニアリング.

考え方は単純だ。モデル単体では、手を持たない推論エンジンに過ぎない。ハーネスとは、モデルに手を与え、役割を与えるすべての要素のことだ。つまり、モデルが従う指示、呼び出すことができるツール、保持する権限、記憶するメモリ、そして間違いを検出するチェック機能などである。 マーティン・ファウラーのサイト ハーネスエンジニアリングとは、エージェントの信頼性を高めるためにコーディングエージェントユーザーが現在行っている作業であり、 今年発表された学術的枠組み ハーネスを、ツールへのアクセスやプロジェクトのメモリ管理から、権限設定や検証まで、11の責任範囲に分割します。

結果は紛れもない事実だ。エージェントハーネスエンジニアリングを実践するチームは、基盤となるモデルは同じまま、ハーネスだけを変更するだけで、エージェントの性能が劇的に変化すると報告している。これはセキュリティ関係者にとって厄介な問題提起となる。つまり、ハーネスがエージェントの動作を決定するなら、ハーネスはエージェントの悪用方法も決定するということだ。 

依存関係のインストールというごくありふれた作業を例にとってみましょう。開発者はパッケージ名を確認するために少し立ち止まります。しかし、適切なツールを備えたエージェントはコマンドを実行するだけで、パッケージが悪意のあるものであれば、このモデルではそれを阻止することはできません。今回のSafeDev Talksでは、まさにこの点について詳しく解説します。 AIエージェントが依存関係をインストールすると何が変わるのか それらが単独で機能する理由、そしてエージェントハーネスのエンジニアリングが、なぜ静かにサプライチェーンの問題になっているのか。

リポジトリにおけるエージェントハーネスエンジニアリングの姿

開発者がAIエージェントを使用しているリポジトリを開くと、おそらくこれまでスキャンしたことのないファイルの中に、ハーネスがすぐそこにあります。

  • ルールと説明ファイル (AGENTS.md, .cursorrules(副操縦士の指示など)エージェントにどのような行動をとるべきかを指示する。
  • スキルファイル そのパッケージには、エージェントが必要に応じてロードする再利用可能な機能が含まれています。
  • MCP サーバー構成 エージェントをツール、データベース、APIに接続するもの。
  • システムプロンプトとプロンプトテンプレート アプリケーションコードに組み込まれています。
  • エージェント配線エージェントがアクセスできるツール、取得できるデータ、そしてその間にガードレールが存在するかどうか。

すべてプレーンテキストです。すべて commitコードと並行して作成されます。そして、ドキュメントのレビューと同じように、ざっと目を通し、承認し、マージするという手順でレビューされます。しかし、これらのファイルはそれぞれ、エージェントに指示された動作や、エージェントが触れることができる範囲を、密かに書き換えることができます。

これがエージェントハーネス設計の真の帰結です。つまり、ソフトウェアの中で最も強力な構成が、最もレビューされない構成になってしまうのです。

攻撃者はすでに気づいている

これは理論上の懸念事項ではない。このハーネスには、短期間ではあるが、重要な事故歴がある。

  • ルールファイル・バックドア。 2025年3月、研究者らは、ルールファイル内に隠されたUnicode文字がAIコーディングアシスタントにバックドアコードを挿入するよう指示する攻撃を公表した。アシスタントは、目に見える応答ではそのことを言及しなかった。ファイルを読んだレビュー担当者は、異常な点は何も見つけられなかった。現在、それは次のように分類されている。 MITRE ATLAS ケーススタディ AML.CS0041.
  • 汚染されたMCPツール。 2025年まで、研究者たちはエージェントがツールの説明を暗黙のうちに信頼していることを繰り返し示してきたため、悪意のあるMCPサーバーは、自身を正しく記述するだけでエージェントを誘導できる。同年、 CVE-2025-6514 広くダウンロードされているMCPクライアントには、信頼できないサーバーに接続した際にリモートコマンドを実行できる脆弱性があり、CVSSスコアは9.6と評価された。
  • 過剰な主体性。 その LLM アプリケーション向け OWASP トップ 10 過剰な権限付与を最大の危険として挙げている。エージェントに、タスクに必要な以上のツール、権限、または自律性が与えられることだ。これはモデルの欠陥ではない。これはハーネス設計上の問題である。cisイオン。

パターンに注目してください。これらの攻撃はいずれもモデル自体を破壊するものではありません。ハーネスを破壊するだけで、モデルは残りの動作を忠実に実行します。

セキュリティスタックがそれを認識しない理由

ここからが厄介な点です。ほとんどの組織は既に優れたアプリケーションセキュリティツールを導入していますが、そのほとんどはこのレイヤー向けに設計されたものではありません。

静的解析はコードを理解できますが、モデルとは何か、システムプロンプトに流れ込む信頼できないテキストがなぜ問題になるのかは理解できません。構成解析はパッケージを一覧化しますが、MCPサーバーやスキルファイルは列挙しません。シークレットスキャナーは、エージェント構成ファイルにあるAPIキーを見落とす可能性があります。これらのツールはどれも欠陥があるわけではありません。単に、構成が命令を発しない世界向けに作られたものなのです。

そのため、エージェントハーネスの開発は迅速に進み、セキュリティ部門は目に見える部分、つまりモデルとコードをレビューします。ハーネスはその中間に位置します。

ハーネスを固定するための5つの習慣

セキュリティエージェントハーネスのエンジニアリングには、新しいチームは必要ありません。必要なのは、ハーネスを本来の姿、つまり実行可能な意図として扱うための、いくつかの習慣です。

習慣重要性 何をすべきか
1. すべてのハーネスを在庫する申告していないエージェントを確保することはできません。リポジトリ全体にわたって、すべてのモデル、エージェント、MCPサーバー、スキル、プロンプトを、アンケートではなくコードファイルや設定ファイル自体から検索します。
2. コードなどのハーネスファイルをレビューするルール、スキル、MCP設定はエージェントの動作を書き換えることができるが、それらはドキュメントと同様にレビューされる。彼らに同じものを与える pull request アプリケーションロジックとしての精査。これには、隠し文字のチェックも含まれる。
3. エージェントが読み込むものを固定する可変ラベルによって参照されるプロンプトまたはモデルは、コードを変更せずに参照先を変更できます。プロンプトとモデルを不変バージョンに固定します。
4. すべてのシンクにガードレールを取り付ける取得された文書、ツールの出力、およびユーザーコンテンツはすべて、モデルに注入される指示を含むことができる。そのコンテンツがモデルに到達する可能性のある場所には、必ずガードレールを設置してください。
5. 資格証明書はハーネスから外してくださいプロンプトファイルやエージェント設定ファイルに含まれるAIプロバイダーのキーは、攻撃者にとって容易に手に入れられる情報源となる。それらを削除して、ハーネスファイルのスキャンを続けて秘密情報を探してください。簡単に解決できます。

ハーネスを固定するだけでなく、モデル自体も固定する

Xygeni AIセキュリティ エージェント ハーネス エンジニアリングが足跡を残す場所、つまりリポジトリから始まります。コードベース全体 (モデル、エージェント、MCP サーバー、スキル、プロンプト、 guardrailsコード、依存関係、およびそれらのツールが残す構成ファイルから、使用されているAIコーディングツールなど)を抽出します。

次に、スキルファイル、ルールファイル、および MCP 構成をドキュメントではなくセキュリティアーティファクトとして分析し、システムプロンプトやガードレールのない取得シンクに信頼できないコンテンツが到達するなど、エージェント配線におけるプロンプトインジェクションクラスのリスクを検出します。Xygeni のシークレットスキャンは、プロンプトやエージェント構成ファイル内の AI プロバイダーの認証情報にフラグを立て、署名が存在する前に、AI スタックの依存関係も他のすべてと同様にマルウェア検出の対象となります。

FAQ

エージェントハーネスエンジニアリングとは何ですか?

エージェントハーネスエンジニアリングとは、AIモデルが信頼できるエージェントとして動作するように、AIモデルを取り巻く環境(命令、ツール、権限、メモリ、コンテキスト、検証ループなど)を設計する分野です。モデルは推論を提供し、ハーネスはエージェントが何を見て何ができるかを決定します。

エージェントハーネスエンジニアリングは、プロンプトエンジニアリングとどのように異なるのでしょうか?

プロンプト設計は単一の命令を規定するものであり、エージェントハーネス設計は、エージェントが動作するシステム全体(多くのステップ、ツール、セッションを含む)を規定するものである。プロンプトはハーネス内の1つのファイルである。

なぜハーネスはセキュリティ上のリスクとなるのか?

なぜなら、ルールファイルはエージェントが実行できる操作を制御するものであり、セキュリティ上の重要事項としてレビューされることがほとんどないプレーンテキストファイルに格納されているからです。ルールファイルやMCP構成ファイルを侵害すれば、モデル自体に手を加えることなくエージェントを制御できてしまいます。

エージェントのセキュリティは誰が所有すべきか?

アプリケーションセキュリティに関しては、エージェントの構築と構成を担当するエンジニアと連携して作業を進めます。ハーネスは出荷するソフトウェアの一部であるため、他のコードと同様に、レビュー、スキャン、およびインベントリのプロセスで管理する必要があります。

sca-tools-ソフトウェア構成分析ツール
ソフトウェアのリスクを優先順位付けし、修復し、保護する
無料アカウントを作成しましょう。
いいえ、クレジットカードは必要ありません。

ソフトウェア開発と配信を安全に

Xygeni製品スイートと共に