L'open source hè diventatu a basa di u sviluppu di software mudernu. Quasi ogni applicazione oghje si basa nantu à una rete cumplessa di biblioteche, framework, mudelli è strumenti di compilazione di terze parti, è u codice generatu cù l'assistenza di l'IA porta digià assai più vulnerabilità chè u codice scrittu senza ella. Sta realità da sola introduce digià vulnerabilità significative. software supply chain security sfide. À u listessu tempu, l'intelligenza artificiale hè entrata in u [ciclu di vita di u sviluppu di software] (https://xygeni.io/sscs-glossariu/chì-hè-sdlc/) cum'è un acceleratore putente, chì genera codice, suggerisce dipendenze, automatizza correzioni è ancu influenzà a cuncepzione architettonicacisioni. Inseme, l'open source è l'IA anu trasfurmatu u modu in cui u software hè custruitu, è, inevitabilmente, cumu hè attaccatu. L'intersezione di a sicurezza di l'IA, l'IA è a sicurezza di u software, è software supply chain security ùn hè più teoricu. Avà hè una di e fonti dominanti di risicu di a catena di furnimentu di software chì l'urganisazioni d'ingegneria affrontanu.
Quella realità hà inquadratu u nostru recente SafeDev Talk: Open Source, IA è a nova superficia d'attaccu: codice armatu, difese più intelligenti, cù i dirigenti di a sicurità di Red Hat, TikTok è Xygeni. A discussione s'hè cuncentrata nantu à ciò chì e squadre di sicurità è d'ingegneria stanu digià sperimentendu in l'ambienti di pruduzzione, in particulare intornu à l'attacchi di a catena di furnimentu open source, i pacchetti open source maliziosi è a crescente tensione trà velocità è cuntrollu in u sviluppu di software basatu annantu à l'IA. Ciò chì hè emersu hè stata una maghjina chjara: a superficia d'attaccu s'allarga più rapidamente di ciò chì i mudelli di sicurezza tradiziunali ponu tene, è l'IA agisce sia cum'è multiplicatore di forza sia cum'è test di stress per l'ipotesi di longa data in a sicurezza di l'IA è software supply chain security.
Sè sta descrizzione pare sgradevule à cumu a vostra urganizazione custruisce attualmente u software, ùn hè micca una cuincidenza. Parechje squadre si rendenu contu solu di quantu a fiducia hè passata à l'automatizazione dopu chì qualcosa si rompe.
Sicurezza di l'IA è Software Supply Chain Security Avà sò u listessu prublema
Un tema ricorrente in tutta a discussione hè statu chì a sicurezza di l'IA ùn pò più esse trattata cum'è una disciplina separata da software supply chain securityI sistemi di IA ùn operanu micca in isolamentu; sò custruiti, furmati, implementati è integrati per mezu di u listessu. pipelines, dipendenze è registri chì luttano digià cù attacchi à a catena di furnimentu open source.
In u sviluppu di software basatu annantu à l'IA, i mudelli suggerenu codice, generanu correzioni è selezziunanu e dipendenze automaticamente. Quessi decisl'ioni affettanu direttamente gestione di e dipendenze open source, spessu senza intenzione umana esplicita. Di cunsiguenza, u risicu di dipendenza ùn hè più guidatu solu da a scelta di u sviluppatore; hè sempre più furmatu da u cumpurtamentu di l'IA.
Questa cunvergenza significa chì i fallimenti in l'IA è in a sicurezza di u software si manifestanu spessu cum'è incidenti tradiziunali di a catena di furnimentu: dipendenze compromesse, artefatti di compilazione contaminati, o vulnerabilità. CI/CD prucessi. L'arnesi ponu esse novi, ma u risicu di a catena di furnimentu di u software hè assai reale è sempre più difficiule di ragiunà.
Sè i vostri mudelli di minaccia separanu sempre u "risicu di l'IA" da u "risicu di a catena di furnimentu", pò esse utile rivisitare induve esiste veramente quellu cunfine in i vostri flussi di travagliu di custruzzione è di implementazione.
Attacchi di a catena di furnimentu Open Source à velocità di macchina
L'attacchi à a catena di furnimentu open source ùn sò micca novi, ma l'IA cambia a so ecunumia. L'attaccanti ùn anu micca bisognu di tecniche nove; anu bisognu di scala. L'IA permette una rapida analisi di l'ecosistema, a scuperta automatizata di dipendenze debuli è una rapida iterazione nantu à i carichi utili di l'attaccu.
Da un puntu di vista offensivu, sta industrializazione di a ricunniscenza aumenta dramaticamente u tassu di successu di l'attacchi chì implicanu pacchetti open source maliziosi. I cumpunenti chì prima serianu passati inosservati ponu avà esse scuperti, analizati è sfruttati rapidamente, spessu prima chì i difensori si rendanu contu ch'elli sò in usu.
Ghjè per quessa software supply chain security ùn si pò micca fidà solu di i signali ritardati. I registri, l'avvisi è e divulgazioni post-facto operanu nantu à scale di tempu umane, mentre chì l'attaccanti operanu sempre di più à velocità di macchina. A finestra di esposizione risultante hè un cuntributore direttu à u crescente risicu di a catena di furnimentu di software.
Sè u vostru signale di rilevazione principale hè "u registru hà eliminatu u pacchettu", site digià operendu à valle di a cronologia di l'attaccante.
Vulete un'immersione prufonda in l'attacchi à a catena di furnimentu di software Open Source?
Risicu di dipendenza in u sviluppu di software basatu annantu à l'IA
Unu di i risichi più chjari discussi durante u SafeDev Talk era u risicu di dipendenza, in particulare in ambienti chì si basanu assai nantu à u sviluppu di software basatu annantu à l'IA. L'assistenti di codificazione IA sò ottimizzati per a cunvenienza è a velocità, micca per minimizà a superficia d'attaccu.
In pratica, questu porta à l'introduzione aggressiva di dipendenze. E nuove biblioteche sò aghjunte invece di riutilizà e funzionalità esistenti, dipendenze transitive espande in silenziu, è open source gestione di e dipendenze diventa reattivu piuttostu chè intenzionale. Cù u tempu, e squadre perdenu a capacità di ragiunà nantu à ciò chì stanu veramente eseguendu.
Questu ùn hè micca solu un prublema d'igiene. Ogni nova dipendenza introduce un risicu supplementu per a catena di furnimentu di software, novi presupposti di fiducia è novi opportunità per attacchi à a catena di furnimentu open source. Quandu a dipendenza...cisL'ioni sò automatizati è rivisti superficialmente, u risicu di dipendenza diventa sistemicu piuttostu chè accidentale.
Sè u vostru graficu di dipendenza cresce più veloce di a capacità di a vostra squadra di spiegallu, questu ùn hè micca un prublema di strumenti; hè un prublema di fiducia.
Assistenti di codificazione IA, sicurezza è u crollu di a rivista
Un altru modu di fallimentu discuttu hè statu l'erosione di a revisione trà pari in presenza di codice generatu da l'IA. Assistenti di codificazione IA, a sicurezza ùn hè micca solu una questione di iniezione rapida o di usu impropriu di mudelli; si tratta di quanta logica micca rivista entra in i sistemi di pruduzzione.
I cambiamenti generati da l'IA sò spessu grandi, coerenti è difficiuli da rivedere sottu pressione di u tempu. Di cunsiguenza, a revisione trà pari diventa superficiale o simbolica. Stu crollu tranquillu elimina unu di i cuntrolli più efficaci in software supply chain security.
U prublema ùn hè micca a negligenza di u sviluppatore. Hè u disallineamentu di u flussu di travagliu. Quandu a velocità hè ricumpensata è l'attritu hè penalizatu, i cuntrolli di sicurezza di l'IA è di u software chì dipendenu da l'attenzione umana s'indebuliscenu inevitabilmente. L'attaccanti ùn anu micca bisognu di saltà a revisione se a revisione ùn funziona più cum'è una barriera.
Parechje squadre supponenu chì a rivista funziona sempre perchè u prucessu esiste. Menu si dumandanu s'ella funziona sempre cum'è un cuntrollu significativu.
Pacchetti Open Source Maliziosi è u Mitu di a Pupularità
Una credenza cumuna in a gestione di e dipendenze open source hè chì i prughjetti populari sò più sicuri. In realtà, a pupularità spessu aumenta l'esposizione. E biblioteche largamente aduprate sò obiettivi di grande valore per attacchi à a catena di furnimentu open source, primacissolu perchè u compromessu produce un ampiu impattu à valle.
Parechji prughjetti populari sò mantenuti da piccule squadre o individui singuli. Ancu quandu i prublemi sò rilevati, i pacchetti open source maliziosi spessu restanu dispunibili per ore o ghjorni prima di a so rimuzione. Durante quellu tempu, l'urganisazioni cuntinueghjanu à ingerilli per mezu di compilazioni automatizate.
Stu ritardu rinforza a necessità di una pruazzione software supply chain security cuntrolli. Affidà si solu à a pupularità, a reputazione o l'azione di u registru ùn hè micca sufficiente quandu si tratta di rischi di a catena di furnimentu di software mudernu.
"Largamente adupratu" ùn hè micca listessu chè "difesu attivamente", è trattallu cum'è tale hè una di e idee sbagliate più persistenti di a catena di furnimentu.
Pruvenienza in e catene di furnimentu di software è a sicurezza di l'IA
In tuttu u dibattitu, a necessità di a pruvenienza in e catene di furnimentu di software hè emersa ripetutamente. In l'ambienti assistiti da l'IA, l'attribuzione diventa sfocata. U codice pò esse generatu da un mudellu, mudificatu da un umanu, fusionatu da l'automatizazione è implementatu senza una chiara responsabilità.
Senza una pruvenienza verificabile, l'urganisazioni sò custrette à fidà si implicitamente di l'artefatti. A sicurità di l'IA esige un cambiamentu da a fiducia à a verificazione: artefatti firmati, build attestations, è origini tracciabili. Mentre a pruvenienza ùn impedisce micca cumpletamente u cumpurtamentu maliziosu, riduce significativamente l'ambiguità è limita a manuvrabilità di l'attaccante.
Questu vale ugualmente per i mudelli, i dati è u codice. In u sviluppu di software basatu annantu à l'IA, a pruvenienza hè un requisitu fundamentale per a sicurezza di l'IA è di u software.
SBOM è a Sicurezza di l'IA in i Moderni Pipelines
U rolu di SBOM è a sicurità di l'IA era un altru tema implicitu. SBOMfurniscenu visibilità in i grafichi di dipendenza, ma a visibilità sola ùn basta micca. In ambienti cù assai IA, SBOMI sistemi devenu evoluzione per catturà micca solu e biblioteche, ma ancu mudelli, passi di custruzzione è de automatizazione.cisioni.
Quandu si combina cù analisi di u cumpurtamentu è pruvenienza, SBOM è a sicurità di l'IA diventanu strumenti putenti per riduce u risicu di a catena di furnimentu di u software. Permettenu à l'urganisazioni di rilevà cambiamenti imprevisti, di ragiunà nantu à l'impattu è di risponde più efficacemente à l'attacchi di a catena di furnimentu open source.
CI/CD Pipeline Security Sottu à a pressione di l'automatizazione
Infine, CI/CD pipeline security hè emersu cum'è un pianu di cuntrollu criticu. Pipelineeseguiscenu sempre di più azzioni suggerite o attivate da i sistemi di IA. Sè quelli pipelineS'elli ùn anu micca cuntrolli d'identità forti, verificazione di l'artefatti è applicazione di pulitiche, diventanu punti d'entrata ideali per l'attaccanti.
Inadecuatu CI/CD pipeline security permette à i pacchetti open source maliziosi d'affettà micca solu i sistemi di pruduzzione, ma ancu l'ambienti di sviluppatore è di custruisce l'infrastruttura. Cù l'aumentu di l'automatizazione, pipelinedevenu esse trattati cum'è beni di grande valore in software supply chain security prugrammi.
Fighjate a cunferenza SafeDev
Per sente di più nantu à tutte queste intuizioni direttamente da i praticanti chì modellanu u campu, fighjate cumpletamente Discussione di SafeDev: Open Source, IA è a nova superficia d'attaccu: codice armatu, difese più intelligenti, presentendu Roman Zhukov (Cappellu Rossu), Leon Johnson (TikTok), e Luis Rodríguez Berzosa (Xygeni).
Implicazioni pratiche per a sicurezza di l'IA è Software Supply Chain Security
L'implicazioni pratiche di sti cambiamenti si estendenu oltre l'arnesi. L'urganisazioni devenu ricunnosce chì a sicurità di l'IA, a sicurità di l'IA è di u software, è software supply chain security sò avà prufundamente intrecciati. DecisL'aghjurnamenti di e dipendenze, a generazione di codice è l'automatizazione, chì una volta eranu cunsiderati à bassu risicu, portanu avà un risicu significativu di a catena di furnimentu di u software, soprattuttu quandu quelli decisL'ioni sò fatti implicitamente da strumenti piuttostu chè esplicitamente da e persone.
Durante u SafeDev Talk, questu puntu hè statu riassuntu succintamente. Cum'è un oratore hà dettu, Quandu i sistemi di IA participanu à u sviluppu di software, e squadre di sicurezza ùn si limitanu più à assicurà u codice; si assicuranu u decisioni. L'automatizazione ùn elimina micca a rispunsabilità; a ridistribuisce.
In pratica, questu significa restaurà l'intenzionalità induve a cunvenienza hà pigliatu u sopravventu. A gestione di e dipendenze open source deve tene contu di u cumpurtamentu guidatu da l'IA invece di suppone a deliberazione umana. U risicu di dipendenza ùn pò più esse trattatu cum'è un eserciziu di revisione occasionale.cise. CI/CD pipeline security deve impone a verificazione, micca suppone un input benignu. È a pruvenienza in e catene di furnimentu di software deve passà da l'aspirazione à a basa.
Un'altra osservazione da a discussione hè stata chì a velocità stessa ùn hè più neutra. A maiò parte di i fallimenti di a catena di furnimentu ùn derivanu micca da un unicu decadu catastroficu.cisione, ma da parechje piccule scelte automatizate chì nimu ùn hà appruvatu esplicitamente. Questu hè precisspiega perchè i mudelli tradiziunali di fiducia fiascanu in u sviluppu di software basatu nantu à l'IA.
Nunda di questu implica abbandunà l'open source o l'IA. À u cuntrariu, ricunnosce u so rolu cintrali in l'ingegneria muderna. Ma senza evoluzione di i presupposti di sicurezza, l'urganisazioni rischianu di lascià chì l'automatizazione definisca a fiducia per difettu.
A sicurezza di l'IA significa prutege Decisioni, micca solu artefatti
Un modu utile per pensà à questu cambiamentu hè chì software supply chain security Ùn si tratta più solu di prutege l'artefatti. Si tratta di prutege icispercorsi ionici. In un mondu assistitu da l'IA, e dumande di sicurezza più impurtanti ùn sò micca solu "Stu cumpunente hè vulnerabile?", ma "Perchè hè statu introduttu, da quale o da chì, è sottu à quali restrizioni?"
Eccu esattamente induve a sicurità di l'IA è software supply chain security smette di esse duie discipline è diventate una sola pratica: verificà micca solu ciò chì facenu u codice è e dipendenze, ma da induve venenu è ciò chì hà decisu di purtà li. L'urganisazioni chì s'adattanu à questu inquadramentu ùn elimineranu micca u risicu, ma ne saranu assai menu sorprese, è assai più veloci à traccià un incidente finu à a so vera origine invece di solu u so sintomu.
FAQ
A sicurità di l'IA hè a listessa chè software supply chain security?
Micca esattamente, ma si sovrapponenu sempre di più. A sicurità di l'IA si cuncentra nantu à i risichi specifichi di i mudelli, l'agenti è u codice generatu da l'IA. Software supply chain security copre e dipendenze, custruisce pipelines, è integrità di l'artefatti. Quandu l'arnesi di l'IA selezziunanu dipendenze o generanu codice chì entra in pruduzzione, e duie discipline cunvergenu, è trattà li separatamente lascia lacune.
Perchè l'IA cambia l'ecunumia di l'attacchi à a catena di furnimentu?
L'IA riduce u costu di a ricunniscenza è di l'iterazione di u payload per l'attaccanti, permettendu li di analizà l'ecosistemi è di scopre dipendenze debuli à a velocità di a macchina, invece di affidà si à a ricerca manuale. I difensori chì si basanu nantu à signali ritardati, cum'è e rimozioni di u registru, sò strutturalmente in ritardu cù sta cronologia.
Un pacchettu open source pupulare significa ch'ellu hè sicuru?
Innò. A pupularità aumenta l'esposizione tantu quant'ella aumenta a fiducia, postu chì e biblioteche largamente aduprate sò obiettivi di grande valore prima.cissolu perchè a so cumprumissione produce un impattu largu à valle. Parechji prughjetti populari sò ancu mantenuti da squadre assai chjuche, ciò chì limita a rapidità cù a quale una cumprumissione hè rilevata è eliminata.
Chì ghjè a pruvenienza, è perchè hè impurtante per u codice generatu da l'IA ?
A pruvenienza hè una infurmazione verificabile nantu à l'origine di un artefattu, quale o ciò chì l'hà creatu è cumu hè statu custruitu. In u sviluppu assistitu da l'IA, u codice pò esse generatu da un mudellu, mudificatu da un umanu è fusionatu da l'automatizazione, tuttu senza una chiara responsabilità. A pruvenienza rimpiazza a fiducia implicita cù a verificazione: artefatti firmati, build attestations, è origini tracciabili.
