El codi obert s'ha convertit en la base del desenvolupament de programari modern. Gairebé totes les aplicacions actuals depenen d'una xarxa complexa de biblioteques, marcs de treball, models i eines de compilació de tercers. Aquesta realitat per si sola ja introdueix importants... software supply chain security reptes. Alhora, la intel·ligència artificial ha entrat en el cicle de vida de desenvolupament de programari com un potent accelerador, generant codi, suggerint dependències, automatitzant correccions i fins i tot influint en el disseny arquitectòniccisions. Junts, el codi obert i la IA han transformat la manera com es construeix el programari i, inevitablement, com s'ataca. La intersecció de la seguretat de la IA, la IA i la seguretat del programari, i software supply chain security ja no és teòric. Ara és una de les principals fonts de risc de la cadena de subministrament de programari a què s'enfronten les organitzacions d'enginyeria.
Aquesta realitat va emmarcar la nostra recent xerrada SafeDev: Codi obert, IA i la nova superfície d'atac: codi armat, defenses més intel·ligents, amb líders de seguretat de Red Hat, TikTok i Xygeni. La discussió es va centrar en el que els equips de seguretat i enginyeria ja estan experimentant en entorns de producció, especialment pel que fa als atacs de la cadena de subministrament de codi obert, els paquets de codi obert maliciosos i la creixent tensió entre la velocitat i el control en el desenvolupament de programari basat en IA. El que va sorgir va ser una imatge clara: la superfície d'atac s'està expandint més ràpid del que els models de seguretat tradicionals poden suportar, i la IA actua tant com a multiplicador de força com a prova d'estrès per a supòsits de llarga durada en la seguretat i la seguretat de la IA. software supply chain security.
Si aquesta descripció s'assembla incòmodament a com la vostra organització crea programari actualment, no és casualitat. Molts equips només s'adonen de quanta confiança s'ha traslladat a l'automatització després que alguna cosa es trenqui.
Seguretat i IA Software Supply Chain Security Ara tenen el mateix problema
Un tema recurrent al llarg del debat va ser que la seguretat de la IA ja no es pot tractar com una disciplina separada de software supply chain securityEls sistemes d'IA no funcionen de manera aïllada; es construeixen, s'entrenen, es despleguen i s'integren a través del mateix pipelinedependències i registres que ja tenen dificultats amb atacs a la cadena de subministrament de codi obert.
En el desenvolupament de programari basat en IA, els models suggereixen codi, generen correccions i seleccionen dependències automàticament. Aquests decisels ions afecten directament gestió de dependències de codi obert, sovint sense intenció humana explícita. Com a resultat, el risc de dependència ja no es basa únicament en l'elecció del desenvolupador; cada cop més, es configura pel comportament de la IA.
Aquesta convergència significa que les fallades en la seguretat de la IA i el programari sovint es manifesten com a incidents tradicionals de la cadena de subministrament: dependències compromeses, artefactes de compilació contaminats o vulnerabilitats. CI/CD processos. Les eines poden ser noves, però el risc de la cadena de subministrament de programari és molt real i cada cop és més difícil de raonar.
Si els vostres models d'amenaces encara separen el "risc d'IA" del "risc de la cadena de subministrament", potser val la pena revisar on existeix realment aquest límit en els vostres fluxos de treball de compilació i desplegament.
Atacs a la cadena de subministrament de codi obert a velocitat de màquina
Els atacs a la cadena de subministrament de codi obert no són nous, però la IA canvia la seva economia. Els atacants no necessiten tècniques noves; necessiten escala. La IA permet una anàlisi ràpida de l'ecosistema, el descobriment automatitzat de dependències febles i la iteració ràpida de les càrregues útils d'atac.
Des d'un punt de vista ofensiu, aquesta industrialització del reconeixement augmenta dràsticament la taxa d'èxit dels atacs que impliquen paquets de codi obert maliciosos. Components que abans haurien passat desapercebuts ara es poden descobrir, analitzar i explotar ràpidament, sovint abans que els defensors s'adonin que estan en ús.
Aquesta és la raó software supply chain security no es pot confiar només en senyals retardats. Els registres, els avisos i les divulgacions postfacto operen en escales de temps humanes, mentre que els atacants operen cada cop més a velocitat de màquina. La finestra d'exposició resultant contribueix directament al creixent risc de la cadena de subministrament de programari.
Si el vostre senyal de detecció principal és "el registre ha eliminat el paquet", ja esteu operant més enllà de la cronologia de l'atacant.
Voleu aprofundir en els atacs a la cadena de subministrament de programari de codi obert?
Risc de dependència en el desenvolupament de programari basat en IA
Un dels riscos més clars que es van tractar durant la SafeDev Talk va ser el risc de dependència, sobretot en entorns que depenen en gran mesura del desenvolupament de programari basat en IA. Els assistents de codificació amb IA estan optimitzats per a la comoditat i la velocitat, no per minimitzar la superfície d'atac.
A la pràctica, això porta a una introducció agressiva de dependències. S'afegeixen noves biblioteques en lloc de reutilitzar la funcionalitat existent. dependències transitives expandir-se silenciosament i de codi obert gestió de dependències esdevé reactiu en lloc d'intencional. Amb el temps, els equips perden la capacitat de raonar sobre el que realment estan executant.
Això no és simplement un problema d'higiene. Cada nova dependència introdueix un risc addicional a la cadena de subministrament de programari, nous supòsits de confiança i noves oportunitats per a atacs a la cadena de subministrament de codi obert. Quan la dependència...cisA mesura que les ions s'automatitzen i es revisen superficialment, el risc de dependència esdevé sistèmic en lloc d'accidental.
Si el vostre gràfic de dependències creix més ràpid que la capacitat del vostre equip per explicar-ho, no es tracta d'un problema d'eines; és un problema de confiança.
Assistents de codificació amb IA, seguretat i el col·lapse de la revisió
Un altre mode de fallada que es va discutir va ser l'erosió de la revisió per parells en presència de codi generat per IA. Per als assistents de codificació amb IA, la seguretat no es tracta només d'una injecció ràpida o un mal ús del model; es tracta de quanta lògica no revisada entra als sistemes de producció.
Els canvis generats per la IA sovint són grans, coherents i difícils de revisar sota pressió de temps. Com a resultat, la revisió per parells esdevé superficial o simbòlica. Aquest col·lapse silenciós elimina un dels controls més eficaços de software supply chain security.
El problema no és la negligència del desenvolupador. És la desalineació del flux de treball. Quan es recompensa la velocitat i es penalitza la fricció, els controls de seguretat de la IA i del programari que depenen de l'atenció humana inevitablement s'afebleixen. Els atacants no necessiten eludir la revisió si la revisió ja no funciona com a barrera.
Molts equips assumeixen que la revisió encara funciona perquè el procés existeix. Menys es pregunten si encara funciona com a control significatiu.
Paquets de codi obert maliciosos i el mite de la popularitat
Una creença comuna en la gestió de dependències de codi obert és que els projectes populars són més segurs. En realitat, la popularitat sovint augmenta l'exposició. Les biblioteques àmpliament utilitzades són objectius d'alt valor per a atacs de la cadena de subministrament de codi obert, percisprincipalment perquè el compromís produeix un ampli impacte aigües avall.
Molts projectes populars són mantinguts per equips petits o per individus individuals. Fins i tot quan es detecten problemes, els paquets de codi obert maliciosos sovint romanen disponibles durant hores o dies abans de ser eliminats. Durant aquest temps, les organitzacions continuen ingerint-los mitjançant compilacions automatitzades.
Aquest retard reforça la necessitat d'una acció proactiva software supply chain security controls. Confiar només en la popularitat, la reputació o l'acció del registre no és suficient quan s'enfronta al risc de la cadena de subministrament de programari modern.
«Àmpliament utilitzat» no és el mateix que «defensat activament», i tractar-ho com a tal és un dels errors més persistents de la cadena de subministrament.
Procedència en cadenes de subministrament de programari i seguretat de la IA
Al llarg de la discussió, la necessitat de procedència en les cadenes de subministrament de programari va sorgir repetidament. En entorns assistits per IA, l'atribució es torna borrosa. El codi pot ser generat per un model, modificat per un humà, fusionat per automatització i implementat sense una responsabilitat clara.
Sense una procedència verificable, les organitzacions es veuen obligades a confiar implícitament en els artefactes. La seguretat de la IA exigeix un canvi de la confiança a la verificació: artefactes signats, build attestationsi orígens rastrejables. Si bé la procedència no impedeix directament el comportament maliciós, redueix significativament l'ambigüitat i limita la maniobrabilitat de l'atacant.
Això s'aplica igualment als models, a les dades i al codi. En el desenvolupament de programari basat en IA, la procedència és un requisit fonamental tant per a la seguretat de la IA com del programari.
SBOM i seguretat de la IA en l'actualitat Pipelines
El paper de SBOM i la seguretat de la IA era un altre tema implícit. SBOMproporcionen visibilitat als grafs de dependències, però la visibilitat per si sola no és suficient. En entorns amb molta IA, SBOMs han d'evolucionar per capturar no només biblioteques, sinó també models, passos de construcció i disseny automatitzat.cisions.
Quan es combina amb anàlisi del comportament i procedència, SBOM i la seguretat de la IA esdevenen eines poderoses per reduir el risc de la cadena de subministrament de programari. Permeten a les organitzacions detectar canvis inesperats, raonar sobre l'impacte i respondre de manera més eficaç als atacs de la cadena de subministrament de codi obert.
CI/CD Pipeline Security Sota la pressió de l'automatització
Finalment, CI/CD pipeline security va emergir com un pla de control crític. Pipelineexecuten cada cop més accions suggerides o activades pels sistemes d'IA. Si aquests pipelineCom que no disposen de controls d'identitat forts, verificació d'artefactes i aplicació de polítiques, es converteixen en punts d'entrada ideals per als atacants.
Inadequat CI/CD pipeline security permet que els paquets de codi obert maliciosos afectin no només els sistemes de producció, sinó també els entorns de desenvolupament i la infraestructura de construcció. A mesura que augmenta l'automatització, pipelines'han de tractar com a actius d'alt valor dins de software supply chain security programes.
Segueix la xerrada de SafeDev
Per saber-ne més sobre totes aquestes idees directament dels professionals que donen forma al camp, mireu el vídeo complet Xerrada de SafeDev: Codi obert, IA i la nova superfície d'atac: codi armat, defenses més intel·ligents, presentant Roman Zhukov (Barret Vermell), Leon Johnson (TikTok)i Luis Rodríguez Berzosa (Xygeni).
Implicacions pràctiques per a la seguretat i la IA Software Supply Chain Security
Les implicacions pràctiques d'aquests canvis van més enllà de les eines. Les organitzacions han de reconèixer que la seguretat de la IA, la seguretat de la IA i del programari, i software supply chain security ara estan profundament entrellaçats. DecisLes actualitzacions de dependències, la generació de codi i l'automatització que abans es consideraven de baix risc ara comporten un risc significatiu a la cadena de subministrament de programari, especialment quan aquestes es defineixen com acisEls ions es creen implícitament per eines en lloc d'explícitament per persones.
Durant la xerrada SafeDev, aquest punt es va resumir succintament. Tal com va dir un ponent, Quan els sistemes d'IA participen en el desenvolupament de programari, els equips de seguretat ja no només asseguren el codi; asseguren el desenvolupament.cisions. L'automatització no elimina la responsabilitat; la redistribueix.
A la pràctica, això significa restaurar la intencionalitat on la conveniència s'ha imposat. La gestió de dependències de codi obert ha de tenir en compte el comportament impulsat per la IA en lloc d'assumir la deliberació humana. El risc de dependència ja no es pot tractar com un exercici de revisió ocasional.cise. CI/CD pipeline security ha de fer complir la verificació, no assumir aportacions benignes. I la procedència en les cadenes de subministrament de programari ha de passar de l'aspiració a la línia de base.
Una altra conclusió de la discussió va ser que la velocitat en si mateixa ja no és neutral. La majoria de les fallades de la cadena de subministrament no provenen d'una sola fallada catastròfica.cisió, però a partir de moltes petites opcions automatitzades que ningú va aprovar explícitament. Això és previcisper què els models de confiança tradicionals fallen en el desenvolupament de programari basat en IA.
Res d'això implica abandonar el codi obert o la IA. Al contrari, reconeix el seu paper central en l'enginyeria moderna. Però sense que els supòsits de seguretat evolucionin, les organitzacions corren el risc de deixar que l'automatització defineixi la confiança per defecte.
Concloure…
Una manera útil de pensar en aquest canvi és que software supply chain security ja no es tracta només de protegir artefactes. Es tracta de protegir deciscamins iònicsEn un món assistit per IA, les preguntes de seguretat més importants no són només "És vulnerable aquest component?", sinó "Per què es va introduir, per qui o què i sota quines restriccions?". Les organitzacions que s'adaptin a aquest marc no eliminaran el risc, però se'n sorprendran molt menys.
