L'open source est devenu le fondement du développement logiciel moderne. Presque toutes les applications actuelles reposent sur un réseau complexe de bibliothèques, de frameworks, de modèles et d'outils de compilation tiers. Cette réalité à elle seule introduit déjà des difficultés considérables. software supply chain security défis. Parallèlement, l'intelligence artificielle a fait son entrée dans le monde des affaires. cycle de vie du développement logiciel en tant qu'accélérateur puissant, générant du code, suggérant des dépendances, automatisant les corrections et influençant même la conception architecturalecisdes ions. Ensemble, l'open source et l'IA ont transformé la façon dont les logiciels sont conçus et, inévitablement, la façon dont ils sont attaqués. L'intersection entre la sécurité de l'IA, l'IA et la sécurité logicielle, et software supply chain security Ce n'est plus une théorie. C'est désormais l'une des principales sources de risques liés à la chaîne d'approvisionnement logicielle pour les entreprises d'ingénierie.
Cette réalité a servi de cadre à notre récente conférence SafeDev : Logiciel libre, IA et nouvelle surface d'attaque : code militarisé, défenses plus intelligentesCette table ronde réunissait des responsables de la sécurité de Red Hat, TikTok et Xygeni. Les discussions ont porté sur les problématiques rencontrées par les équipes de sécurité et d'ingénierie en production, notamment les attaques ciblant la chaîne d'approvisionnement open source, les logiciels malveillants et la tension croissante entre rapidité et contrôle dans le développement logiciel piloté par l'IA. Ce qui s'est dégagé, c'est une image claire : la surface d'attaque s'étend plus vite que les modèles de sécurité traditionnels ne peuvent suivre, et l'IA agit à la fois comme un multiplicateur de force et un test de résistance pour les hypothèses établies de longue date en matière de sécurité de l'IA. software supply chain security.
Si cette description vous semble étrangement proche de la façon dont votre organisation développe actuellement des logiciels, ce n'est pas un hasard. Nombre d'équipes ne prennent conscience de l'ampleur de la confiance accordée à l'automatisation qu'après un incident.
Sécurité et IA Software Supply Chain Security Le même problème se pose désormais
Un thème récurrent de la discussion était que la sécurité de l'IA ne peut plus être considérée comme une discipline distincte de software supply chain securityLes systèmes d'IA ne fonctionnent pas de manière isolée ; ils sont construits, entraînés, déployés et intégrés selon le même processus. pipelines, dépendances et registres qui peinent déjà à se prémunir contre les attaques ciblant la chaîne d'approvisionnement open source.
Dans le développement logiciel piloté par l'IA, les modèles suggèrent du code, génèrent des correctifs et sélectionnent automatiquement les dépendances.cisLes ions affectent directement gestion des dépendances open source, souvent sans intention humaine explicite. Par conséquent, le risque lié aux dépendances n'est plus uniquement déterminé par les choix des développeurs ; il est de plus en plus influencé par le comportement de l'IA.
Cette convergence signifie que les défaillances en matière d'IA et de sécurité logicielle se manifestent souvent comme des incidents classiques de la chaîne d'approvisionnement : dépendances compromises, artefacts de compilation corrompus ou vulnérabilités CI/CD Les processus. L’outillage est peut-être nouveau, mais le risque lié à la chaîne d’approvisionnement des logiciels est bien réel et de plus en plus difficile à appréhender.
Si vos modèles de menaces continuent de séparer le « risque lié à l'IA » du « risque lié à la chaîne d'approvisionnement », il peut être judicieux de revoir où se situe réellement cette frontière dans vos flux de travail de construction et de déploiement.
Attaques de la chaîne d'approvisionnement open source à la vitesse de la machine
Les attaques contre les chaînes d'approvisionnement open source ne sont pas nouvelles, mais l'IA en modifie l'économie. Les attaquants n'ont pas besoin de techniques inédites ; ils ont besoin d'une capacité d'attaque à grande échelle. L'IA permet une analyse rapide de l'écosystème, la détection automatisée des dépendances faibles et une itération rapide sur les charges utiles des attaques.
D'un point de vue offensif, cette industrialisation de la reconnaissance accroît considérablement le taux de réussite des attaques utilisant des logiciels libres malveillants. Des composants qui seraient passés inaperçus auparavant peuvent désormais être découverts, analysés et exploités rapidement, souvent avant même que les équipes de défense ne s'aperçoivent de leur utilisation.
C'est pourquoi software supply chain security On ne peut se fier uniquement à des signaux tardifs. Les registres, les avis et les divulgations a posteriori fonctionnent selon une échelle de temps humaine, tandis que les attaquants opèrent de plus en plus à la vitesse des machines. La fenêtre d'exposition qui en résulte contribue directement à l'augmentation des risques liés à la chaîne d'approvisionnement des logiciels.
Si votre principal signal de détection est « le registre a supprimé le paquet », vous opérez déjà en aval de la chronologie de l'attaquant.
Vous souhaitez approfondir vos connaissances sur les attaques ciblant la chaîne d'approvisionnement des logiciels libres ?
Risque de dépendance dans le développement de logiciels pilotés par l'IA
L'un des risques les plus clairement évoqués lors de la conférence SafeDev était le risque de dépendance, notamment dans les environnements reposant fortement sur le développement logiciel piloté par l'IA. Les assistants de programmation IA sont optimisés pour la facilité d'utilisation et la rapidité, et non pour minimiser la surface d'attaque.
En pratique, cela conduit à une introduction agressive de dépendances. De nouvelles bibliothèques sont ajoutées au lieu de réutiliser les fonctionnalités existantes. dépendances transitives se développer silencieusement et en open source gestion des dépendances L'approche devient réactive plutôt qu'intentionnelle. Avec le temps, les équipes perdent la capacité de raisonner sur ce qu'elles exécutent réellement.
Il ne s'agit pas simplement d'un problème d'hygiène. Chaque nouvelle dépendance introduit des risques supplémentaires dans la chaîne d'approvisionnement logicielle, de nouvelles hypothèses de confiance et de nouvelles opportunités d'attaques contre la chaîne d'approvisionnement open source. Lorsqu'une dépendance disparaît, il est important de noter que la dépendance peut entraîner des problèmes plus importants.cisLes ions sont automatisés et examinés superficiellement, le risque de dépendance devient systémique plutôt qu'accidentel.
Si votre graphe de dépendances croît plus vite que la capacité de votre équipe à l'expliquer, il ne s'agit pas d'un problème d'outils, mais d'un problème de confiance.
Assistants de programmation IA, sécurité et effondrement des évaluations
Un autre mode de défaillance évoqué concernait l'érosion de la relecture par les pairs en présence de code généré par l'IA. Avec les assistants de programmation IA, la sécurité ne se limite pas à l'injection rapide de code ou à la mauvaise utilisation des modèles ; elle concerne la quantité de logique non vérifiée intégrée aux systèmes de production.
Les modifications générées par l'IA sont souvent importantes, cohérentes et difficiles à examiner dans des délais serrés. De ce fait, l'évaluation par les pairs devient superficielle ou symbolique. Cet effondrement silencieux supprime l'un des mécanismes de contrôle les plus efficaces. software supply chain security.
Le problème ne réside pas dans la négligence des développeurs, mais dans un décalage entre les processus et les méthodes de travail. Lorsque la rapidité est privilégiée et la complexité pénalisée, l'IA et les contrôles de sécurité logicielle qui dépendent de l'attention humaine s'affaiblissent inévitablement. Les attaquants n'ont plus besoin de contourner la procédure de vérification si celle-ci ne constitue plus un rempart.
De nombreuses équipes partent du principe que la revue fonctionne toujours du simple fait de l'existence du processus. Rares sont celles qui se demandent si elle constitue encore un véritable outil de contrôle.
Logiciels libres malveillants et le mythe de la popularité
Il est communément admis, dans le domaine de la gestion des dépendances open source, que les projets populaires sont plus sûrs. En réalité, la popularité accroît souvent leur vulnérabilité. Les bibliothèques largement utilisées constituent des cibles de grande valeur pour les pirates. attaques contre la chaîne d'approvisionnement open source, préciscar le compromis a des répercussions importantes en aval.
De nombreux projets populaires sont maintenus par de petites équipes ou des personnes seules. Même lorsque des problèmes sont détectés, les logiciels libres malveillants restent souvent disponibles pendant des heures, voire des jours, avant d'être supprimés. Pendant ce temps, les organisations continuent de les intégrer via des processus de compilation automatisés.
Ce retard renforce la nécessité d'une approche proactive software supply chain security Des contrôles sont nécessaires. Se fier uniquement à la popularité, à la réputation ou aux actions des registres est insuffisant face aux risques liés à la chaîne d'approvisionnement des logiciels modernes.
« Largement utilisé » ne signifie pas « activement défendu », et cette confusion est l'une des idées fausses les plus tenaces en matière de chaîne d'approvisionnement.
Expérience avérée dans les chaînes d'approvisionnement logicielles et la sécurité de l'IA
Tout au long de la discussion, la nécessité de garantir la traçabilité des logiciels dans les chaînes d'approvisionnement est revenue à plusieurs reprises. Dans les environnements où l'IA est omniprésente, l'attribution devient floue. Le code peut être généré par un modèle, modifié par un humain, fusionné automatiquement et déployé sans qu'il soit clairement établi comment l'auteur est responsable.
En l'absence de provenance vérifiable, les organisations sont contraintes de faire aveuglément confiance aux artefacts. La sécurité de l'IA exige un passage de la confiance à la vérification : artefacts signés, build attestationset des origines traçables. Si la provenance n'empêche pas totalement les comportements malveillants, elle réduit considérablement l'ambiguïté et limite la marge de manœuvre des attaquants.
Cela s'applique aussi bien aux modèles qu'aux données et au code. Dans le développement de logiciels pilotés par l'IA, la traçabilité est une exigence fondamentale tant pour l'IA que pour la sécurité des logiciels.
SBOM et la sécurité de l'IA dans le monde moderne Pipelines
Le rôle de SBOM La sécurité de l'IA était un autre thème implicite. SBOMs offrent une visibilité sur les graphes de dépendancemais la visibilité seule ne suffit pas. Dans les environnements fortement axés sur l'IA, SBOMLes systèmes doivent évoluer pour prendre en compte non seulement les bibliothèques, mais aussi les modèles, les étapes de construction et les processus automatisés.cisdes ions.
Lorsqu'il est combiné avec analyse comportementale et provenance, SBOM La sécurité basée sur l'IA devient un outil puissant pour réduire les risques liés à la chaîne d'approvisionnement logicielle. Elle permet aux organisations de détecter les changements inattendus, d'en évaluer l'impact et de réagir plus efficacement aux attaques ciblant les chaînes d'approvisionnement open source.
CI/CD Pipeline Security Sous la pression de l'automatisation
Enfin, des CI/CD pipeline security est apparu comme un plan de contrôle critique. PipelineNous exécutons de plus en plus d'actions suggérées ou déclenchées par des systèmes d'IA. Si ces pipelineEn l'absence de contrôles d'identité robustes, de vérification des artefacts et d'application des politiques, ces systèmes deviennent des points d'entrée idéaux pour les attaquants.
Inadéquat CI/CD pipeline security permet aux logiciels libres malveillants d'affecter non seulement les systèmes de production, mais aussi les environnements de développement et l'infrastructure de compilation. Avec l'augmentation de l'automatisation, pipelineLes actifs de grande valeur doivent être traités comme tels au sein de software supply chain security programmes.
Regardez la conférence SafeDev
Pour en savoir plus sur ces points de vue directement des professionnels qui façonnent ce domaine, regardez la vidéo complète. Conférence SafeDev : Logiciel libre, IA et nouvelle surface d'attaque : code militarisé, défenses plus intelligentes, Avec Roman Joukov (Chapeau rouge), Léon Johnson (TikTok) et Luis Rodríguez Berzosa (Xygeni).
Implications pratiques pour la sécurité de l'IA et Software Supply Chain Security
Les implications pratiques de ces changements vont bien au-delà des outils. Les organisations doivent prendre conscience que la sécurité de l'IA, la sécurité des logiciels et de l'IA, et software supply chain security sont désormais profondément imbriqués. DecisDes actions autrefois considérées comme peu risquées, telles que les mises à jour de dépendances, la génération de code et l'automatisation, comportent désormais des risques importants pour la chaîne d'approvisionnement logicielle, notamment lorsque ces actions sont abandonnées.cisLes ions sont produits implicitement par des outils plutôt qu'explicitement par des personnes.
Lors de la conférence SafeDev Talk, ce point a été résumé de manière concise. Comme l'a dit un intervenant : Lorsque les systèmes d'IA participent au développement logiciel, les équipes de sécurité ne se contentent plus de sécuriser le code ; elles sécurisent le système dans son ensemble.cisL'automatisation ne supprime pas la responsabilité ; elle la redistribue.
En pratique, cela signifie rétablir l'intentionnalité là où la facilité a pris le pas. La gestion des dépendances open source doit tenir compte des comportements pilotés par l'IA plutôt que de supposer une délibération humaine. Le risque lié aux dépendances ne peut plus être traité comme un simple exercice de révision ponctuel.cise. CI/CD pipeline security Il est impératif d'imposer la vérification et de ne pas présumer de la fiabilité des données d'entrée. De plus, la traçabilité dans les chaînes d'approvisionnement logicielles doit passer du statut d'objectif à celui de norme.
Un autre enseignement de la discussion a été que la vitesse n'est plus un facteur neutre. La plupart des défaillances de la chaîne d'approvisionnement ne proviennent pas d'un seul événement catastrophique.cision, mais à partir de nombreux petits choix automatisés que personne n'a explicitement approuvés. Ceci est précisVoici pourquoi les modèles de confiance traditionnels échouent dans le cadre du développement logiciel piloté par l'IA.
Rien de tout cela n'implique d'abandonner l'open source ou l'IA. Au contraire, cela reconnaît leur rôle central dans l'ingénierie moderne. Mais sans une évolution des hypothèses de sécurité, les organisations risquent de laisser l'automatisation définir la confiance par défaut.
De conclure…
Une manière utile d'appréhender ce changement est que software supply chain security Il ne s'agit plus seulement de protéger les artefacts. Il s'agit de protéger decischemins ioniquesDans un monde où l'IA est omniprésente, les questions de sécurité les plus importantes ne sont plus seulement « Ce composant est-il vulnérable ? » mais aussi « Pourquoi a-t-il été introduit, par qui ou quoi, et sous quelles contraintes ? ». Les organisations qui adoptent cette perspective n'élimineront pas les risques, mais elles seront beaucoup moins surprises par ceux-ci.
