ほとんどのセキュリティチームは、自社のアプリケーションセキュリティスタックを一息で説明できる。 SAST, SCADAST、シークレットスキャンなど。同じチームにAIスタックの名前を尋ねると、たいていは肩をすくめるだけで、急いで購入したいくつかのポイントツールを挙げるだけで、「カバーされている」とはどういう意味なのかさえ共通の語彙がない。AI TRiSMは、セキュリティとリスクのリーダーがアプリケーションを管理するのと同じようにAIを管理するための単一のフレームワークを提供することで、まさにこのギャップを埋めるために存在する。
この用語集の項目では、AI TRiSMとは何か、その頭字語の意味、中核となる柱、そしてスライド上の説明ではなく、実際のAIセキュリティプログラムの中でどのように位置づけられるのかを解説します。
AI TRiSMの意味：簡単な定義 #
AI TRiSMとは AIの信頼、リスク、セキュリティ管理これは、元々はガートナー社が提唱したフレームワークです。AIシステムの信頼性、公平性、安定性、およびセキュリティを、AIシステムが構築されるデータやモデルから、本番環境でそれらを使用するアプリケーションやエージェントに至るまで、ライフサイクル全体にわたって管理するために。
AI TRiSMの意味は、セキュリティチームが既に認識しているパターンを拡張したものと理解するのが最も適切です。クラウドはCSPMをもたらし、データはDSPMをもたらしました。AIはAI TRiSMをもたらします。これは、同じ論理に基づいて構築された包括的なカテゴリです。つまり、まず発見し、評価し、継続的に監視していないものを保護したり管理したりすることはできないということです。また、AIシステムは、従来のアプリケーションセキュリティやITガバナンスでは想定されていなかったリスクをもたらします。
それは何を解決しようとしているのか？ #
AI TRiSMとは何かを真に理解するには、それが対処する問題を見ていくことが役立ちます。AIシステムは、 CVEデータベース：
- モデルは技術的には「安全」であっても、偏った、信頼性の低い、あるいは幻覚的な出力を生成する可能性がある。
- モデルはテストでは正しく動作するように見えても、不正なトレーニングデータや検索データによって密かに破損している可能性がある。
- AIエージェントは有効な認証情報を持っていても、人間が承認していない行動をとる可能性がある。
- 完全にパッチが適用されたアプリケーションであっても、プロンプト、システムメッセージ、またはAIが閲覧するはずのない共有ファイルなどを通じて、機密データが漏洩する可能性がある。
これらのどれも、「脆弱なコード行を見つけてパッチを適用すれば完了」という従来のモデルには当てはまりません。AI TRiSMは、cisなぜなら、AIシステムにおける信頼性、リスク、セキュリティには独自のフレームワークが必要であり、モデル、データ、エージェントを、周囲のアプリケーションの副作用としてではなく、管理すべき第一級オブジェクトとして扱う必要があるからです。
AI TRiSMの中核となる柱 #
ガートナー自身の枠組みを含め、AI TRiSMに関するほとんどの解説は、この分野を相互に関連する4つの柱を中心に構成している。
- 説明可能性とモデル監視モデルがどのように設計を行うかを追跡するcisイオンを監視し、時間の経過に伴うドリフト、バイアス、精度低下を監視し、モデルがなぜそのような結果を示したのかを尋ねられたときに、その出力を説明できること。
- モデルオペレーション: 本番環境におけるモデルのライフサイクルを管理すること。これには、バージョン管理、アクセス制御、そしてどのモデルがどこで、なぜ実行されているかを把握するための運用規律が含まれる。
- AIアプリケーションのセキュリティ: プロンプトインジェクション、データおよびモデルの汚染、安全でないプラグインおよびツールの統合、不正なエージェントの動作など、AI特有の攻撃対象領域を保護する。
- プライバシーAIシステムのトレーニング、微調整、およびプロンプトに使用されるデータが、モデル自体に、または応答を通じて、機密情報や規制対象情報を漏洩しないようにすること。
AI TRiSMの実践を理解するには、これら4つの柱が連携して初めて機能することを認識する必要があります。完全に説明可能であってもセキュリティが不十分なモデルは、依然としてリスクとなります。ドリフトやバイアスが可視化されていない安全なモデルは、依然としてガバナンスが不十分です。AI TRiSMの貢献は、これら4つを4つの異なるチームがそれぞれ担当する4つの独立したバックログとして扱うのではなく、1つの相互に関連する分野として扱う点にあります。
AI TRiSMの意味がコンプライアンスの枠を超えて広がる理由 #
AI TRiSMを「もう一つのガバナンスのチェック項目」として片付けてしまいたくなるかもしれないが、AI TRiSMの意味は規制だけでなく、運用面にも及ぶ。AI TRiSMの原則を採用する組織は、現状では答えられない3つの具体的な質問に答えようとしているのが一般的だ。
- 私たちが実際に手にしているAIとは一体何なのか？ モデル、データセット、エージェント、MCPサーバー、AIコーディングツールは、誰も追跡できないほどの速さでチーム間で蓄積され、かつてのシャドウITと同じようにシャドウAIを生み出している。
- それは何をしているのか、そしてそれは許可されているのか？ 過剰な権限を持つエージェントや承認されていないプラグインは、単にテキストを生成するだけでなく、実際のアクションを実行できるため、「不正な動作」のリスクは、チャットボットが間違った回答をするよりもはるかに高くなります。
- 規制当局から求められた場合、それを証明できますか？ EUのAI法における技術文書要件や一般的なソフトウェア部品表の義務といった枠組みは、組織に対し、AIが「扱われている」と主張するだけでなく、その作業内容を示すことをますます求めるようになっている。
ここでAI TRiSMの意味がAI TRiSMの実践へと変わります。まず発見、次にリスクスコアリング、そして最後に実施、これら全てを継続的に行い、年次監査として行うものではありません。cise.
XygeniはAI TRiSM構想の中でどのような位置づけにあるのか？ #
AI TRiSMは大きな傘であり、単一のツールだけでその4つの柱すべてを網羅することはできません。 ザイゲニ fitsは、多くの組織が最初に見落としている発見とセキュリティの分野、つまり実際にどのようなAIが存在するのかを把握し、それが存在した後にそれを安全に保護するという点です。
XygeniのAIインベントリは、AIアセットを継続的に発見します。 SDLCモデル、フレームワーク、データセット、エージェント、MCPサーバー、AIコーディングツールをマッピングし、それらをライブ関係グラフにマッピングします。 AI-BOM これにより、コンプライアンスおよびセキュリティチームは、AI TRiSM が存在すると想定する証拠の痕跡を得ることができます。そのインベントリに加えて、 XygeniのAIセキュリティ 各資産のリスク（即時注入、安全でない MCP 構成、機密データの漏洩、ベクトルと埋め込みの脆弱性）をスコアリングし、 LLM アプリケーション向け OWASP トップ 10, 開発AI 開発者のエンドポイント上で直接ポリシーを適用し、安全でないエージェントの動作が実行される前にブロックします。組織がAI TRiSMを運用化しようとしていて、「どのようなAIを導入しているのか」という質問に対する正直な答えがまだ「よくわからない」という場合は、まずその発見のギャップを埋めるべきです。
FAQ #
AI TRiSMとは、AIの信頼性、リスク、セキュリティ管理の略で、AIシステムのライフサイクル全体にわたる信頼性、リスク、セキュリティを管理するためのフレームワークです。
これは、組織がAI資産を体系的に発見し、モデルの動作を監視してドリフトやバイアスを検出し、プロンプトインジェクションやデータポイズニングといったAI特有の攻撃対象領域を保護し、AIシステムを通過するデータのプライバシーを保護するために使用されます。
いいえ、両者は密接に関連していますが、AI-SPM（AIセキュリティ態勢管理）は、より広範なAI TRiSMという枠組みの中に含まれるセキュリティに特化した部分として一般的に扱われています。これは、CSPMがより広範なクラウドガバナンスの議論の中に位置づけられているのと同様です。
ほとんどの組織では、セキュリティ、データサイエンス、コンプライアンスの各チームが共同で担当しています。なぜなら、モデル、その背後にあるデータ、そしてそれらに関する規制上の義務をすべて同時に所有するチームは存在しないからです。
AIの導入がAIガバナンスを上回っているため、モデル、エージェント、AIコーディングツールが現在、 SDLCまた、EUのAI法などの規制では、AI TRiSMが提供するような文書化とリスクの可視化が求められ始めています。
