Atvirasis kodas tapo šiuolaikinės programinės įrangos kūrimo pagrindu. Beveik kiekviena šiandieninė programa remiasi sudėtingu trečiųjų šalių bibliotekų, sistemų, modelių ir kūrimo įrankių tinklu. Vien ši realybė jau įdiegia reikšmingas software supply chain security iššūkiai. Tuo pačiu metu dirbtinis intelektas įžengė į programinės įrangos kūrimo gyvavimo ciklas kaip galingas greitintuvas, generuojantis kodą, siūlantis priklausomybes, automatizuojantis taisymus ir netgi darantis įtaką architektūriniam dizainuicisjonai. Atvirojo kodo programinė įranga ir dirbtinis intelektas kartu pakeitė programinės įrangos kūrimo būdus ir, neišvengiamai, kaip ji atakuojama. Dirbtinio intelekto saugumo, dirbtinio intelekto ir programinės įrangos saugumo sankirta ir... software supply chain security nebėra teorinis. Dabar tai vienas iš pagrindinių programinės įrangos tiekimo grandinės rizikos šaltinių, su kuriuo susiduria inžinerijos organizacijos.
Ši realybė įkūnijo mūsų neseniai vykusį „SafeDev“ pokalbį: Atvirasis kodas, dirbtinis intelektas ir nauja atakos sritis: ginklu paverstas kodas, išmanesnė gynyba, kuriame dalyvavo „Red Hat“, „TikTok“ ir „Xygeni“ saugumo lyderiai. Diskusijoje daugiausia dėmesio skirta tam, su kuo saugumo ir inžinerijos komandos jau susiduria gamybinėje aplinkoje, ypač susijusioms su atvirojo kodo tiekimo grandinės atakomis, kenkėjiškais atvirojo kodo paketais ir augančia įtampa tarp greičio ir kontrolės dirbtiniu intelektu pagrįstos programinės įrangos kūrime. Išryškėjo aiškus vaizdas: atakų paviršius plečiasi greičiau, nei tradiciniai saugumo modeliai gali suspėti, o dirbtinis intelektas veikia ir kaip jėgos daugiklis, ir kaip ilgalaikių dirbtinio intelekto saugumo prielaidų streso testas. software supply chain security.
Jei šis aprašymas atrodo nemaloniai artimas tam, kaip jūsų organizacija šiuo metu kuria programinę įrangą, tai nėra atsitiktinumas. Daugelis komandų supranta, kiek pasitikėjimo atiteko automatizavimui, tik po to, kai kas nors sugenda.
Dirbtinio intelekto saugumas ir Software Supply Chain Security Ar dabar ta pati problema
Visos diskusijos metu pasikartojanti tema buvo ta, kad dirbtinio intelekto saugumo nebegalima laikyti atskira disciplina nuo... software supply chain securityDirbtinio intelekto sistemos neveikia izoliuotai; jos yra kuriamos, apmokomos, diegiamos ir integruojamos per tą patį. pipelines, priklausomybės ir registrai, kurie jau susiduria su atvirojo kodo tiekimo grandinės atakomis.
Dirbtiniu intelektu paremtoje programinės įrangos kūrimo sistemoje modeliai automatiškai siūlo kodą, generuoja pataisymus ir parenka priklausomybes. Šie veiksniai...cisjonai tiesiogiai veikia atvirojo kodo priklausomybių valdymas, dažnai be aiškaus žmogaus ketinimo. Todėl priklausomybės rizika nebėra vien kūrėjo pasirinkimas; ją vis labiau formuoja dirbtinio intelekto elgesys.
Dėl šios konvergencijos dirbtinio intelekto ir programinės įrangos saugumo sutrikimai dažnai pasireiškia kaip tradiciniai tiekimo grandinės incidentai: pažeistos priklausomybės, užteršti kūrimo artefaktai arba pažeidžiami elementai. CI/CD procesai. Įrankiai gali būti nauji, tačiau programinės įrangos tiekimo grandinės rizika yra labai reali ir ją vis sunkiau pagrįsti.
Jei jūsų grėsmių modeliai vis dar atskiria „DI riziką“ nuo „tiekimo grandinės rizikos“, gali būti verta dar kartą patikrinti, kur ši riba iš tikrųjų yra jūsų kūrimo ir diegimo darbo eigoje.
Atvirojo kodo tiekimo grandinės atakos mašininiu greičiu
Atvirojo kodo tiekimo grandinės atakos nėra naujos, tačiau dirbtinis intelektas keičia jų ekonomiką. Užpuolikams nereikia naujų metodų; jiems reikia masto. Dirbtinis intelektas leidžia greitai analizuoti ekosistemas, automatiškai aptikti silpnas priklausomybes ir greitai iteruoti atakų naudingąją apkrovą.
Puolimo požiūriu, ši žvalgybos industrializacija smarkiai padidina atakų, susijusių su kenkėjiškais atvirojo kodo paketais, sėkmės rodiklį. Komponentai, kurie anksčiau būtų buvę nepastebėti, dabar gali būti greitai aptikti, analizuojami ir išnaudoti, dažnai dar prieš tai, kai gynėjai supranta, kad jie naudojami.
Tai kodėl software supply chain security Negalima pasikliauti vien uždelstais signalais. Registrai, pranešimai ir po fakto atskleidimas veikia žmogiškuoju tempu, o užpuolikai vis dažniau veikia mašininiu greičiu. Dėl to susidaręs poveikio laikotarpis tiesiogiai prisideda prie didėjančios programinės įrangos tiekimo grandinės rizikos.
Jei pagrindinis aptikimo signalas yra „registras pašalino paketą“, jūs jau veikiate užpuoliko laiko juostoje.
Norite išsamiau panagrinėti atvirojo kodo programinės įrangos tiekimo grandinės atakas?
Priklausomybės rizika DI valdomoje programinės įrangos kūrime
Viena aiškiausių „SafeDev“ pokalbio metu aptartų rizikų buvo priklausomybės rizika, ypač aplinkose, kurios labai priklauso nuo dirbtinio intelekto valdomos programinės įrangos kūrimo. Dirbtinio intelekto kodavimo asistentai yra optimizuoti patogumui ir greičiui, o ne atakų paviršiaus ploto mažinimui.
Praktiškai tai veda prie agresyvaus priklausomybių diegimo. Užuot pakartotinai panaudojus esamas funkcijas, pridedamos naujos bibliotekos. tranzitinės priklausomybės tyliai plėstis ir atvirojo kodo priklausomybės valdymas tampa reaktyvus, o ne tyčinis. Laikui bėgant, komandos praranda gebėjimą argumentuoti, ką jos iš tikrųjų vykdo.
Tai ne tik higienos problema. Kiekviena nauja priklausomybė sukuria papildomą programinės įrangos tiekimo grandinės riziką, naujas pasitikėjimo prielaidas ir naujas galimybes atvirojo kodo tiekimo grandinės atakoms. Kai priklausomybė išnykstacisKadangi jonizacijos yra automatizuotos ir peržiūrimos paviršutiniškai, priklausomybės rizika tampa sisteminė, o ne atsitiktinė.
Jei jūsų priklausomybių grafikas auga greičiau nei jūsų komanda gali jį paaiškinti, tai ne įrankių problema, o pasitikėjimo problema.
Dirbtinio intelekto kodavimo asistentai, saugumas ir peržiūros žlugimas
Kitas aptartas gedimo būdas buvo kolegų peržiūros silpnėjimas, kai naudojamas dirbtinio intelekto sugeneruotas kodas. Dirbtinio intelekto kodavimo asistentų atveju saugumas susijęs ne tik su greitu įterpimu ar modelio netinkamu naudojimu; tai susiję su tuo, kiek neperžiūrėtos logikos patenka į gamybines sistemas.
Dirbtinio intelekto generuojami pakeitimai dažnai būna dideli, nuoseklūs ir sunkiai peržiūrimi esant laiko spaudimui. Dėl to kolegų vertinimas tampa paviršutiniškas arba simbolinis. Šis tylus žlugimas panaikina vieną veiksmingiausių kontrolės priemonių. software supply chain security.
Problema yra ne kūrėjo aplaidumas. Tai darbo eigos nesuderinamumas. Kai atlyginama už greitį, o baudžiama už trintį, dirbtinio intelekto ir programinės įrangos saugumo kontrolės priemonės, kurios priklauso nuo žmogaus dėmesio, neišvengiamai susilpnėja. Užpuolikams nereikia apeiti peržiūros, jei ji nebeatlieka kliūties.
Daugelis komandų mano, kad peržiūra vis dar veikia, nes egzistuoja procesas. Mažiau tų, kurie klausia, ar ji vis dar veikia kaip prasminga kontrolės priemonė.
Kenkėjiški atvirojo kodo paketai ir populiarumo mitas
Atvirojo kodo priklausomybių valdymo srityje paplitęs įsitikinimas, kad populiarūs projektai yra saugesni. Iš tikrųjų populiarumas dažnai padidina matomumą. Plačiai naudojamos bibliotekos yra vertingi taikiniai. atvirojo kodo tiekimo grandinės atakos, dėlcisely, nes kompromisas suteikia platų poveikį tolesniam darbui.
Daugelį populiarių projektų prižiūri mažos komandos arba pavieniai asmenys. Net ir aptikus problemų, kenkėjiški atvirojo kodo paketai dažnai lieka pasiekiami kelias valandas ar dienas, kol yra pašalinami. Tuo metu organizacijos toliau juos įsisavina per automatizuotas versijas.
Šis vėlavimas sustiprina poreikį imtis aktyvių veiksmų software supply chain security kontrolė. Susidūrus su šiuolaikinės programinės įrangos tiekimo grandinės rizika, nepakanka pasikliauti vien populiarumu, reputacija ar registro veiksmais.
„Plačiai naudojamas“ nėra tas pats, kas „aktyviai ginamas“, ir traktuoti tai kaip tokį yra vienas iš labiausiai paplitusių klaidingų įsitikinimų apie tiekimo grandinę.
Programinės įrangos tiekimo grandinės ir dirbtinio intelekto saugumo kilmė
Diskusijos metu ne kartą iškilo poreikis nustatyti kilmę programinės įrangos tiekimo grandinėse. Dirbtinio intelekto aplinkoje priskyrimas tampa neaiškus. Kodą gali generuoti modelis, modifikuoti žmogus, sujungti automatizavimas ir diegti be aiškios atskaitomybės.
Neturėdamos patikrinamos kilmės, organizacijos yra priverstos netiesiogiai pasitikėti artefaktais. Dirbtinio intelekto saugumas reikalauja pereiti nuo pasitikėjimo prie patvirtinimo: pasirašytų artefaktų, build attestationsir atsekamą kilmę. Nors kilmė visiškai neužkerta kelio kenkėjiškam elgesiui, ji žymiai sumažina dviprasmybę ir apriboja užpuolikų manevringumą.
Tai vienodai taikoma modeliams, duomenims ir kodui. Dirbtiniu intelektu pagrįstoje programinės įrangos kūrime kilmė yra esminis reikalavimas tiek dirbtiniam intelektui, tiek programinės įrangos saugumui.
SBOM ir dirbtinio intelekto saugumas šiuolaikiniame pasaulyje Pipelines
Rolė SBOM ir dirbtinio intelekto saugumas buvo dar viena numanoma tema. SBOMsuteikia matomumą priklausomybių grafikuose, tačiau vien matomumo nepakanka. Dirbtinio intelekto aplinkoje SBOMturi vystytis, kad galėtų apimti ne tik bibliotekas, bet ir modelius, kūrimo veiksmus ir automatizuotą decisjonai.
Kartu su elgesio analizė ir kilmė, SBOM ...o dirbtinio intelekto saugumas tampa galingomis priemonėmis programinės įrangos tiekimo grandinės rizikai mažinti. Jos leidžia organizacijoms aptikti netikėtus pokyčius, pagrįsti jų poveikį ir efektyviau reaguoti į atvirojo kodo tiekimo grandinės atakas.
CI/CD Pipeline Security Esant automatizavimo spaudimui
Galiausiai, CI/CD pipeline security iškilo kaip kritinė valdymo plokštuma. Pipelinevis dažniau vykdo DI sistemų siūlomus arba suaktyvintus veiksmus. Jei tie veiksmai pipelineKadangi trūksta stiprios tapatybės kontrolės, artefaktų patvirtinimo ir politikos vykdymo, jos tampa idealiais užpuolikų patekimo taškais.
Nepakankamas CI/CD pipeline security leidžia kenkėjiškiems atvirojo kodo paketams paveikti ne tik gamybos sistemas, bet ir kūrėjų aplinkas bei kūrimo infrastruktūrą. Didėjant automatizavimui, pipelineturi būti traktuojami kaip didelės vertės turtas software supply chain security programas.
Žiūrėkite „SafeDev“ pokalbį
Norėdami daugiau sužinoti apie visas šias įžvalgas tiesiogiai iš šios srities specialistų, žiūrėkite visą vaizdo įrašą. „SafeDev“ pokalbis: Atvirasis kodas, dirbtinis intelektas ir nauja atakos sritis: ginklu paverstas kodas, išmanesnė gynyba, kuriame Romanas Žukovas (raudonoji skrybėlė), Leonas Johnsonas (TikTok)ir Luisas Rodríguezas Berzosa („Xygeni“).
Praktinės implikacijos dirbtinio intelekto saugumui ir Software Supply Chain Security
Praktinės šių pokyčių pasekmės apima ne tik įrankius. Organizacijos turi pripažinti, kad dirbtinio intelekto saugumas, dirbtinio intelekto ir programinės įrangos saugumas ir software supply chain security dabar yra glaudžiai susipynę. DecisKadaise mažos rizikos laikomos priklausomybės nuo atnaujinimų, kodo generavimo ir automatizavimo funkcijos dabar kelia didelę programinės įrangos tiekimo grandinės riziką, ypač kai jos decisJonus netiesiogiai sukuria įrankiai, o ne tiesiogiai žmonės.
„SafeDev“ pranešimo metu šis teiginys buvo glaustai apibendrintas. Kaip pasakė vienas kalbėtojas, Kai dirbtinio intelekto sistemos dalyvauja programinės įrangos kūrime, saugumo komandos nebėra tik kodo apsauga; jos saugo ir...cisjonai. Automatizavimas neatleidžia nuo atsakomybės, o ją perskirsto.
Praktiškai tai reiškia sąmoningumo atkūrimą ten, kur patogumas paėmė viršų. Atvirojo kodo priklausomybių valdymas turi atsižvelgti į dirbtinio intelekto valdomą elgesį, o ne į žmogaus apsvarstymą. Priklausomybės rizikos nebegalima traktuoti kaip retkarčiais atliekamą peržiūrą.cise. CI/CD pipeline security Turi būti užtikrinamas patikrinimas, o ne daroma prielaida, kad įvestis yra geranoriška. O programinės įrangos tiekimo grandinėse kilmė turi būti perkelta iš siekiamo lygio į pradinį lygį.
Kita diskusijos įžvalga buvo ta, kad pats greitis nebėra neutralus. Dauguma tiekimo grandinės gedimų kyla ne dėl vienos katastrofiškos priežasties.cisbet iš daugelio mažų automatinių pasirinkimų, kurių niekas aiškiai nepatvirtino. Tai yra iš ankstocisKodėl tradiciniai pasitikėjimo modeliai neveikia, kai programinė įranga kuriama dirbtiniu intelektu.
Tai nereiškia, kad atsisakoma atvirojo kodo ar dirbtinio intelekto. Priešingai, tai pripažįsta jų pagrindinį vaidmenį šiuolaikinėje inžinerijoje. Tačiau neplėtojant saugumo prielaidų, organizacijos rizikuoja leisti automatizavimui pagal numatytuosius nustatymus apibrėžti pasitikėjimą.
Baigti ...
Naudingas būdas apmąstyti šį pokytį yra tai, kad software supply chain security nebėra kalbama vien apie artefaktų apsaugą. Reikia apsaugoti decisjonų takaiDirbtinio intelekto valdomame pasaulyje svarbiausi saugumo klausimai yra ne tik „Ar šis komponentas pažeidžiamas?“, bet ir „Kodėl jis buvo įdiegtas, kas tai padarė ir kokie apribojimai?“. Organizacijos, kurios prisitaikys prie šio požiūrio, nepašalins rizikos, tačiau ji jas daug mažiau nustebins.
