Blog Xygeni

La sécurité des applications d'IA a dominé les conférences OWASP de Porto et de Karlsruhe. ASPM c'est vraiment, en quoi cela diffère de SASTet là où le triage et la remédiation par l'IA apportent leur aide.

Quatre termes de recherche, deux métiers complètement différents. Gérer les risques liés à l'IA n'est pas la même chose qu'utiliser l'IA pour la gestion des risques, et la plupart des organisations recrutent pour l'une tout en se faisant vendre l'autre. Le plus intéressant, c'est ce qui se passe quand on réalise qu'il s'agit du même programme.

Tous les conseils d'administration se posent désormais la même question : quel est notre risque lié à l'IA ? La plupart des équipes répondent par des adjectifs. Voici les indicateurs de risque liés à l'IA qui permettent d'obtenir un chiffre, leur origine et les éléments qu'une stratégie d'IA proactive doit prendre en compte pour que ces indicateurs aient une quelconque signification.

Deux choses sont classées sous la même rubrique alors qu'il ne s'agit pas du même problème. Les attaques contre les systèmes d'IA et les attaques utilisant l'IA nécessitent des mécanismes de contrôle, des responsables et des preuves différents. Dix menaces, réparties en deux catégories, et l'étape qui les précède toutes.

Découvrez les détails de la campagne 24712-pl et des packages sans dépendance exploités lors d'un incident de sécurité.

Les outils de test d'intrusion basés sur l'IA se présentent sous quatre formes différentes. Ce que le test d'intrusion automatisé change, sept critères d'évaluation et ses limites.