El código abierto se ha convertido en la base del desarrollo de software moderno. Casi todas las aplicaciones actuales se basan en una compleja red de bibliotecas, frameworks, modelos y herramientas de compilación de terceros. Esta realidad por sí sola ya introduce cambios significativos. software supply chain security desafíos. Al mismo tiempo, la inteligencia artificial ha entrado en el Ciclo de vida del desarrollo de programas como un potente acelerador, generando código, sugiriendo dependencias, automatizando correcciones e incluso influyendo en el diseño arquitectónico.cisiones. Juntos, el código abierto y la IA han transformado la forma en que se crea el software y, inevitablemente, cómo se ataca. La intersección de la seguridad de la IA, la IA y la seguridad del software, y software supply chain security Ya no es una teoría. Ahora es una de las principales fuentes de riesgo en la cadena de suministro de software que enfrentan las organizaciones de ingeniería.
Esa realidad enmarcó nuestra reciente charla SafeDev: Código abierto, IA y la nueva superficie de ataque: código armado, defensas más inteligentes, con la participación de líderes de seguridad de Red Hat, TikTok y Xygeni. El debate se centró en las experiencias que los equipos de seguridad e ingeniería ya están experimentando en entornos de producción, en particular en relación con los ataques a la cadena de suministro de código abierto, los paquetes maliciosos de código abierto y la creciente tensión entre la velocidad y el control en el desarrollo de software basado en IA. Lo que surgió fue una imagen clara: la superficie de ataque se está expandiendo más rápido de lo que los modelos de seguridad tradicionales pueden seguir, y la IA está actuando como un multiplicador de fuerza y una prueba de estrés para suposiciones de larga data en seguridad de la IA y software supply chain security.
Si esta descripción se asemeja demasiado a la forma en que su organización desarrolla software actualmente, no es casualidad. Muchos equipos solo se dan cuenta de cuánta confianza se ha depositado en la automatización cuando algo falla.
Seguridad de IA y Software Supply Chain Security Ahora son el mismo problema
Un tema recurrente a lo largo del debate fue que la seguridad de la IA ya no puede tratarse como una disciplina separada de la software supply chain securityLos sistemas de IA no funcionan de forma aislada; se construyen, entrenan, implementan e integran a través del mismo pipelines, dependencias y registros que ya tienen problemas con los ataques a la cadena de suministro de código abierto.
En el desarrollo de software impulsado por IA, los modelos sugieren código, generan correcciones y seleccionan dependencias automáticamente. Estos decisLos iones afectan directamente gestión de dependencias de código abierto, a menudo sin intención humana explícita. Como resultado, el riesgo de dependencia ya no depende únicamente de la elección del desarrollador, sino que está cada vez más condicionado por el comportamiento de la IA.
Esta convergencia significa que las fallas en la seguridad de la IA y del software a menudo se manifiestan como incidentes tradicionales de la cadena de suministro: dependencias comprometidas, artefactos de compilación contaminados o vulnerabilidades. CI/CD Procesos. Las herramientas pueden ser nuevas, pero el riesgo en la cadena de suministro de software es muy real y cada vez es más difícil razonar al respecto.
Si sus modelos de amenazas aún separan el “riesgo de la IA” del “riesgo de la cadena de suministro”, puede que valga la pena volver a examinar dónde existe realmente ese límite en sus flujos de trabajo de compilación e implementación.
Ataques a la cadena de suministro de código abierto a velocidad de máquina
Los ataques a la cadena de suministro de código abierto no son nuevos, pero la IA transforma su economía. Los atacantes no necesitan técnicas novedosas; necesitan escala. La IA permite un análisis rápido del ecosistema, el descubrimiento automatizado de dependencias débiles y la iteración rápida de las cargas útiles de los ataques.
Desde una perspectiva ofensiva, esta industrialización del reconocimiento aumenta drásticamente la tasa de éxito de los ataques con paquetes maliciosos de código abierto. Componentes que antes habrían pasado desapercibidos ahora pueden descubrirse, analizarse y explotarse rápidamente, a menudo antes de que los defensores se den cuenta de que están en uso.
Esta es la razón software supply chain security No se puede depender únicamente de señales retrasadas. Los registros, avisos y divulgaciones post facto operan con tiempos humanos, mientras que los atacantes operan cada vez más a velocidad de máquina. La ventana de exposición resultante contribuye directamente al creciente riesgo en la cadena de suministro de software.
Si su señal de detección principal es “el registro eliminó el paquete”, ya está operando aguas abajo de la línea de tiempo del atacante.
¿Quieres saber más sobre los ataques a la cadena de suministro de software de código abierto?
Riesgo de dependencia en el desarrollo de software impulsado por IA
Uno de los riesgos más claros que se abordaron durante la charla SafeDev fue el riesgo de dependencia, especialmente en entornos que dependen en gran medida del desarrollo de software basado en IA. Los asistentes de programación de IA están optimizados para la comodidad y la velocidad, no para minimizar la superficie de ataque.
En la práctica, esto lleva a una introducción agresiva de dependencias. Se añaden nuevas bibliotecas en lugar de reutilizar la funcionalidad existente. dependencias transitivas expandirse silenciosamente y de código abierto gestión de la dependencia Se vuelve reactivo en lugar de intencional. Con el tiempo, los equipos pierden la capacidad de razonar sobre lo que realmente están ejecutando.
No se trata simplemente de una cuestión de higiene. Cada nueva dependencia introduce un riesgo adicional en la cadena de suministro de software, nuevas suposiciones de confianza y nuevas oportunidades para ataques a la cadena de suministro de código abierto. Cuando la dependencia...cisLos iones se automatizan y se revisan superficialmente, y el riesgo de dependencia se vuelve sistémico en lugar de accidental.
Si su gráfico de dependencia crece más rápido que la capacidad de su equipo para explicarlo, no se trata de un problema de herramientas, sino de un problema de confianza.
Asistentes de codificación de IA, seguridad y el colapso de la revisión
Otro modo de fallo analizado fue la erosión de la revisión por pares en presencia de código generado por IA. En los asistentes de codificación de IA, la seguridad no se limita a la inyección rápida o el uso indebido del modelo, sino a la cantidad de lógica no revisada que entra en los sistemas de producción.
Los cambios generados por la IA suelen ser grandes, coherentes y difíciles de revisar bajo presión del tiempo. Como resultado, la revisión por pares se vuelve superficial o simbólica. Este colapso silencioso elimina uno de los controles más efectivos en software supply chain security.
El problema no es la negligencia del desarrollador, sino la desalineación del flujo de trabajo. Cuando se premia la velocidad y se penaliza la fricción, los controles de seguridad de la IA y del software que dependen de la atención humana inevitablemente se debilitan. Los atacantes no necesitan eludir la revisión si esta ya no funciona como barrera.
Muchos equipos asumen que la revisión aún funciona porque el proceso existe. Menos aún se preguntan si aún funciona como un control significativo.
Paquetes maliciosos de código abierto y el mito de la popularidad
Una creencia común en la gestión de dependencias de código abierto es que los proyectos populares son más seguros. En realidad, la popularidad suele aumentar la exposición. Las bibliotecas ampliamente utilizadas son objetivos de alto valor para... ataques a la cadena de suministro de código abierto, porcissimplemente porque el compromiso produce un amplio impacto en el futuro.
Muchos proyectos populares son mantenidos por equipos pequeños o individuos individuales. Incluso cuando se detectan problemas, los paquetes maliciosos de código abierto suelen permanecer disponibles durante horas o días antes de ser eliminados. Durante ese tiempo, las organizaciones continúan ingiriéndolos mediante compilaciones automatizadas.
Este retraso refuerza la necesidad de una acción proactiva. software supply chain security Controles. Confiar únicamente en la popularidad, la reputación o la acción del registro es insuficiente cuando se enfrenta al riesgo de la cadena de suministro de software moderna.
“Ampliamente utilizado” no es lo mismo que “activamente defendido”, y tratarlo como tal es uno de los conceptos erróneos más persistentes sobre la cadena de suministro.
Procedencia en las cadenas de suministro de software y seguridad de la IA
A lo largo del debate, la necesidad de la procedencia en las cadenas de suministro de software surgió repetidamente. En entornos asistidos por IA, la atribución se difumina. El código puede ser generado por un modelo, modificado por un humano, fusionado por automatización e implementado sin una rendición de cuentas clara.
Sin una procedencia verificable, las organizaciones se ven obligadas a confiar implícitamente en los artefactos. La seguridad de la IA exige una transición de la confianza hacia la verificación: artefactos firmados, build attestationsy orígenes rastreables. Si bien la procedencia no previene por completo el comportamiento malicioso, reduce significativamente la ambigüedad y limita la maniobrabilidad de los atacantes.
Esto aplica por igual a modelos, datos y código. En el desarrollo de software basado en IA, la procedencia es un requisito fundamental tanto para la IA como para la seguridad del software.
SBOM y la seguridad de la IA en la era moderna Pipelines
El rol de SBOM Y la seguridad de la IA fue otro tema implícito. SBOMs proporciona visibilidad en los gráficos de dependenciaPero la visibilidad por sí sola no es suficiente. En entornos con mucha IA, SBOMLos sistemas deben evolucionar para capturar no solo bibliotecas, sino también modelos, pasos de construcción y desarrollo automatizado.cisiones.
Cuando se combina con análisis de comportamiento y procedencia, SBOM La seguridad de la IA se convierte en herramientas poderosas para reducir el riesgo en la cadena de suministro de software. Permiten a las organizaciones detectar cambios inesperados, analizar su impacto y responder con mayor eficacia a los ataques de código abierto a la cadena de suministro.
CI/CD Pipeline Security Bajo presión de automatización
Finalmente, CI/CD pipeline security surgió como un plano de control crítico. Pipelineejecutan cada vez más acciones sugeridas o activadas por sistemas de IA. Si esos pipelineAl carecer de fuertes controles de identidad, verificación de artefactos y aplicación de políticas, se convierten en puntos de entrada ideales para los atacantes.
Inadecuado CI/CD pipeline security Permite que paquetes maliciosos de código abierto afecten no solo a los sistemas de producción, sino también a los entornos de desarrollo y la infraestructura de compilación. A medida que aumenta la automatización, pipelineLos activos deben ser tratados como activos de alto valor dentro de software supply chain security
Mira la charla de SafeDev
Para escuchar más sobre todos estos conocimientos directamente de los profesionales que dan forma al campo, mire el video completo. Charla de SafeDev: Código abierto, IA y la nueva superficie de ataque: código armado, defensas más inteligentes, Con Roman Zhukov (Sombrero Rojo), León Johnson (TikTok) y Luis Rodríguez Berzosa (Xygeni).
Implicaciones prácticas para la seguridad de la IA y Software Supply Chain Security
Las implicaciones prácticas de estos cambios van más allá de las herramientas. Las organizaciones deben reconocer que la seguridad de la IA, la seguridad de la IA y del software, y software supply chain security ahora están profundamente entrelazados. DecisLas funciones que antes se consideraban de bajo riesgo, como las actualizaciones de dependencia, la generación de código y la automatización, ahora conllevan un riesgo significativo para la cadena de suministro de software, especialmente cuando se desarrollan.cisLos iones se crean implícitamente mediante herramientas y no explícitamente por personas.
Durante la charla SafeDev, este punto se resumió sucintamente. Como lo expresó un ponente: Cuando los sistemas de IA participan en el desarrollo de software, los equipos de seguridad ya no solo protegen el código; también protegen el des...cisiones. La automatización no elimina la responsabilidad; la redistribuye.
En la práctica, esto significa restaurar la intencionalidad donde la conveniencia ha prevalecido. La gestión de dependencias de código abierto debe tener en cuenta el comportamiento impulsado por la IA en lugar de asumir la deliberación humana. El riesgo de dependencia ya no puede tratarse como un ejercicio de revisión ocasional.cise. CI/CD pipeline security Se debe exigir la verificación, no asumir datos inocuos. Y la procedencia en las cadenas de suministro de software debe pasar de ser una aspiración a una base.
Otra conclusión del debate fue que la velocidad en sí misma ya no es neutral. La mayoría de los fallos en la cadena de suministro no se deben a un único fallo catastrófico.cisión, sino de muchas pequeñas decisiones automatizadas que nadie aprobó explícitamente. Esto es precisPor qué los modelos de confianza tradicionales fallan bajo el desarrollo de software impulsado por IA.
Nada de esto implica abandonar el código abierto ni la IA. Al contrario, reconoce su papel central en la ingeniería moderna. Sin embargo, sin una evolución de los supuestos de seguridad, las organizaciones corren el riesgo de que la automatización defina la confianza por defecto.
Para concluir…
Una forma útil de pensar en este cambio es que software supply chain security Ya no se trata solo de proteger artefactos. Se trata de proteger deciscaminos de ionesEn un mundo impulsado por la IA, las preguntas de seguridad más importantes no son solo "¿Es vulnerable este componente?", sino "¿Por qué se introdujo, quién o qué lo introdujo y bajo qué restricciones?". Las organizaciones que se adapten a este enfoque no eliminarán el riesgo, pero se verán mucho menos afectadas por él.
