Qu'est-ce que l'IA TRiSM ?

La plupart des équipes de sécurité peuvent énumérer leur pile AppSec d'une seule traite : SAST, SCADAST, analyse des secrets… Demandez à la même équipe de décrire sa pile technologique d'IA, et la réponse se résume généralement à un haussement d'épaules, quelques outils ponctuels achetés à la hâte, et aucune définition commune de ce que signifie « couvert ». AI TRiSM a été créé précisément pour combler cette lacune, en offrant aux responsables de la sécurité et des risques un cadre unique pour gouverner l'IA de la même manière qu'ils gouvernent déjà leurs applications.

Cette entrée du glossaire explique ce qu'est l'AI TRiSM, la signification de l'acronyme, ses piliers fondamentaux et sa place au sein d'un véritable programme de sécurité IA opérationnel, et non pas comme une simple diapositive.

Signification de l'IA TRiSM : une définition simple #

AI TRiSM signifie Gestion de la confiance, des risques et de la sécurité de l'IAIl s'agit d'un cadre de référence, initialement introduit par Gartner., pour gérer la fiabilité, l'équité, la sécurité et la crédibilité des systèmes d'IA tout au long de leur cycle de vie, depuis les données et les modèles sur lesquels ils sont construits jusqu'aux applications et aux agents qui les utilisent en production.

Le concept d'AI TRiSM s'apparente davantage à une extension d'un modèle que les équipes de sécurité connaissent déjà. Le cloud a introduit le CSPM. Les données ont introduit le DSPM. L'IA introduit l'AI TRiSM, une catégorie englobante fondée sur la même logique : on ne peut sécuriser ni gouverner ce que l'on n'a pas préalablement découvert, évalué et surveillé en continu, et les systèmes d'IA introduisent des risques que la sécurité applicative et la gouvernance informatique traditionnelles n'ont jamais été conçues pour appréhender.

Quel problème tente-t-il de résoudre ? #

Pour bien comprendre ce qu'est l'IA TRiSM, il est utile d'examiner le problème auquel elle répond. Les systèmes d'IA échouent de manières qui ne se laissent pas facilement catégoriser. Base de données CVE :

• Un modèle peut être techniquement « sécurisé » et pourtant produire des résultats biaisés, peu fiables ou hallucinatoires.
• Un modèle peut se comporter correctement lors des tests et pourtant être discrètement corrompu par des données d'entraînement ou de récupération erronées.
• Un agent IA peut posséder des identifiants valides et pourtant entreprendre des actions qu'aucun humain n'a jamais approuvées.
• Une application parfaitement patchée peut toujours divulguer des données sensibles via une invite, un message système ou un fichier partagé de manière excessive que l'IA n'était jamais censée voir.

Aucun de ces modèles ne correspond à l'ancien modèle consistant à « trouver la ligne de code vulnérable, la corriger, et c'est tout ». L'approche AI ​​TRiSM a été définie avantcisEn effet, la confiance, le risque et la sécurité dans les systèmes d'IA nécessitaient un cadre spécifique, un cadre qui traite le modèle, les données et l'agent comme des objets de première classe à gouverner, et non comme des effets secondaires de l'application qui les entoure.

Les piliers fondamentaux de l'IA TRiSM #

La plupart des analyses de l'IA TRiSM, y compris le cadre proposé par Gartner, organisent la discipline autour de quatre piliers interdépendants :

1. Explicabilité et surveillance des modèles: suivre comment un modèle fait des décisions, surveiller la dérive, les biais et la dégradation de la précision au fil du temps, et être capable d'expliquer un résultat lorsqu'on demande pourquoi le modèle a dit ce qu'il a dit.
2. ModèleOps: gérer le cycle de vie des modèles en production, y compris le versionnage, le contrôle d'accès et la discipline opérationnelle consistant à savoir quel modèle est exécuté où et pourquoi.
3. sécurité des applications d'IA: protéger la surface d'attaque spécifique à l'IA, notamment l'injection rapide, l'empoisonnement des données et des modèles, les plugins et intégrations d'outils non sécurisés, et les comportements non autorisés des agents.
4. Politique de confidentialité : s’assurer que les données utilisées pour entraîner, affiner et alimenter les systèmes d’IA ne divulguent pas d’informations sensibles ou réglementées, que ce soit dans le modèle lui-même ou par le biais de ses réponses.

Comprendre concrètement ce qu'est l'approche TRiSM en matière d'IA implique de reconnaître que ces quatre piliers ne peuvent fonctionner qu'ensemble. Un modèle parfaitement explicable mais non sécurisé représente un risque. Un modèle sécurisé, mais sans visibilité sur les dérives ou les biais, reste non gouverné. L'apport de l'approche TRiSM réside dans sa capacité à considérer ces quatre piliers comme une discipline intégrée, et non comme quatre tâches distinctes gérées par quatre équipes différentes.

Pourquoi la signification de l'AI TRiSM va au-delà de la conformité #

Il est tentant de classer l'AI TRiSM dans la catégorie « simple case à cocher en matière de gouvernance », mais sa signification est opérationnelle, et non seulement réglementaire. Les organisations qui adoptent les principes de l'AI TRiSM cherchent généralement à répondre à trois questions concrètes auxquelles elles ne peuvent actuellement pas répondre :

• De quelle IA disposons-nous réellement ? Les modèles, les ensembles de données, les agents, les serveurs MCP et les outils de codage d'IA s'accumulent au sein des équipes plus vite que quiconque ne les recense, créant une IA parallèle, à l'instar de ce que faisait autrefois l'informatique parallèle.
• Que fait-il, et est-ce autorisé ? Un agent disposant de permissions excessives ou d'un plugin non approuvé peut entreprendre de véritables actions, et pas seulement générer du texte, ce qui augmente considérablement la gravité d'un « comportement non autorisé » par rapport à un chatbot donnant une mauvaise réponse.
• Pouvons-nous le prouver lorsque la réglementation l'exige ? Des cadres tels que les exigences de documentation technique de la loi européenne sur l'IA et les obligations générales relatives aux nomenclatures logicielles exigent de plus en plus des organisations qu'elles démontrent leur travail, et non plus seulement qu'elles affirment que l'IA est « prise en charge ».

C’est là que la signification de l’AI TRiSM se transforme en pratique : la découverte d’abord, l’évaluation des risques ensuite, et la mise en œuvre en dernier lieu, le tout de manière continue, et non comme un exercice d’audit annuel.cise.

Quel rôle joue Xygeni dans le contexte de l'IA TRiSM ? #

L'IA TRiSM est un vaste ensemble, et aucun outil ne couvre à lui seul ses quatre piliers. Xygéni L'intelligence artificielle (IA) représente la partie découverte et sécurité qui fait souvent défaut aux organisations : savoir ce qu'est réellement l'IA et la sécuriser une fois qu'elle est en place.

L'inventaire IA de Xygeni découvre en permanence des ressources IA à travers le monde. SDLC, modèles, frameworks, ensembles de données, agents, serveurs MCP et outils de codage IA, et les mappe dans un graphe de relations en temps réel, soutenu par un Nomenclature AI-BOM qui fournit aux équipes de conformité et de sécurité la piste de preuves que l'IA TRiSM suppose exister. En plus de cet inventaire, Sécurité IA de Xygeni évalue le risque de chaque actif (injection rapide, configurations MCP non sécurisées, exposition de données sensibles, faiblesses des vecteurs et de l'intégration) en fonction de Top 10 de l'OWASP pour les candidatures au LLM et DevAI TRiSM applique la politique directement sur le poste de travail du développeur, bloquant les comportements dangereux des agents avant leur exécution. Si votre organisation cherche à déployer l'IA TRiSM et que la réponse honnête à la question « De quelle IA disposons-nous ? » est encore « Nous n'en sommes pas tout à fait sûrs », il est primordial de combler en priorité cette lacune en matière d'identification des systèmes d'IA.

QFP #