Atvērtā pirmkoda programmatūra ir kļuvusi par mūsdienu programmatūras izstrādes pamatu. Gandrīz katra mūsdienu lietojumprogramma balstās uz sarežģītu trešo pušu bibliotēku, ietvaru, modeļu un izstrādes rīku tīklu. Šī realitāte vien jau ievieš ievērojamas izmaiņas. software supply chain security izaicinājumi. Vienlaikus mākslīgais intelekts ir ienācis programmatūras izstrādes dzīves cikls kā spēcīgs paātrinātājs, ģenerējot kodu, iesakot atkarības, automatizējot labojumus un pat ietekmējot arhitektūras dizainucisjoni. Atvērtā pirmkoda programmatūra un mākslīgais intelekts kopā ir pārveidojuši programmatūras izstrādes veidu un neizbēgami arī to, kā tā tiek uzbrukta. Mākslīgā intelekta drošības, mākslīgā intelekta un programmatūras drošības krustpunkts un software supply chain security vairs nav teorētisks. Tagad tas ir viens no galvenajiem programmatūras piegādes ķēdes riska avotiem, ar ko saskaras inženierijas organizācijas.
Šī realitāte ietvēra mūsu neseno SafeDev sarunu: Atvērtais pirmkods, mākslīgais intelekts un jaunā uzbrukuma virsma: ieroču kods, viedāka aizsardzība, kurā piedalījās drošības līderi no Red Hat, TikTok un Xygeni. Diskusijā galvenā uzmanība tika pievērsta tam, ar ko drošības un inženieru komandas jau saskaras ražošanas vidē, jo īpaši saistībā ar atvērtā pirmkoda piegādes ķēdes uzbrukumiem, ļaunprātīgām atvērtā pirmkoda pakotnēm un pieaugošo spriedzi starp ātrumu un kontroli mākslīgā intelekta vadītā programmatūras izstrādē. Radās skaidrs priekšstats: uzbrukuma virsma paplašinās ātrāk, nekā tradicionālie drošības modeļi spēj turēt līdzi, un mākslīgais intelekts darbojas gan kā spēka reizinātājs, gan kā stresa tests ilgstoši pastāvošiem pieņēmumiem mākslīgā intelekta drošības jomā. software supply chain security.
Ja šis apraksts šķiet neērti līdzīgs tam, kā jūsu organizācija pašlaik veido programmatūru, tā nav nejaušība. Daudzas komandas saprot, cik liela uzticēšanās ir pārgājusi uz automatizāciju, tikai pēc tam, kad kaut kas sabojājas.
Mākslīgā intelekta drošība un Software Supply Chain Security Vai tagad ir tā pati problēma
Visas diskusijas laikā atkārtojās tēma, ka mākslīgā intelekta drošību vairs nevar uzskatīt par atsevišķu disciplīnu no software supply chain securityMākslīgā intelekta sistēmas nedarbojas izolēti; tās tiek veidotas, apmācītas, ieviestas un integrētas, izmantojot to pašu. pipelines, atkarības un reģistri, kas jau tā cīnās ar atvērtā pirmkoda piegādes ķēdes uzbrukumiem.
Mākslīgā intelekta vadītā programmatūras izstrādē modeļi automātiski iesaka kodu, ģenerē labojumus un atlasa atkarības. Šie faktoricisjoni tieši ietekmē atvērtā koda atkarību pārvaldība, bieži vien bez skaidra cilvēka nodoma. Tā rezultātā atkarības risku vairs nenosaka tikai izstrādātāja izvēle; to arvien vairāk ietekmē mākslīgā intelekta uzvedība.
Šī konverģence nozīmē, ka mākslīgā intelekta un programmatūras drošības kļūmes bieži izpaužas kā tradicionāli piegādes ķēdes incidenti: apdraudētas atkarības, bojāti būvējuma artefakti vai ievainojamības. CI/CD procesi. Rīki var būt jauni, taču programmatūras piegādes ķēdes risks ir ļoti reāls un arvien grūtāk izskaidrojams.
Ja jūsu apdraudējumu modeļi joprojām nošķir “mākslīgā intelekta risku” no “piegādes ķēdes riska”, iespējams, ir vērts pārskatīt, kur šī robeža faktiski pastāv jūsu izveides un izvietošanas darbplūsmās.
Atvērtā pirmkoda piegādes ķēdes uzbrukumi mašīnas ātrumā
Atvērtā pirmkoda piegādes ķēdes uzbrukumi nav nekas jauns, taču mākslīgais intelekts maina to ekonomiku. Uzbrucējiem nav vajadzīgas jaunas metodes; viņiem ir nepieciešams mērogs. Mākslīgais intelekts nodrošina ātru ekosistēmas analīzi, vāju atkarību automatizētu atklāšanu un ātru uzbrukuma vērtuma iterāciju.
No uzbrukuma viedokļa šī izlūkošanas industrializācija ievērojami palielina uzbrukumu, kuros iesaistītas ļaunprātīgas atvērtā pirmkoda pakotnes, veiksmes līmeni. Komponentus, kas iepriekš būtu palikuši nepamanīti, tagad var ātri atklāt, analizēt un izmantot, bieži vien pirms aizstāvji saprot, ka tie tiek izmantoti.
Tas ir iemesls, kāpēc software supply chain security Nevar paļauties tikai uz aizkavētiem signāliem. Reģistri, ieteikumi un pēcfaktu informācijas atklāšana darbojas cilvēka darba laika skalā, savukārt uzbrucēji arvien biežāk darbojas ar datoru ātrumu. Iegūtais atkarību periods tieši veicina pieaugošo programmatūras piegādes ķēdes risku.
Ja jūsu galvenais noteikšanas signāls ir “reģistrs noņēma pakotni”, jūs jau darbojaties lejup pa uzbrucēja laika skalu.
Vai vēlaties padziļināti izpētīt atvērtā pirmkoda programmatūras piegādes ķēdes uzbrukumus?
Atkarības risks mākslīgā intelekta vadītā programmatūras izstrādē
Viens no skaidrākajiem riskiem, kas tika apspriests SafeDev sarunā, bija atkarības risks, īpaši vidēs, kas lielā mērā balstās uz mākslīgā intelekta vadītu programmatūras izstrādi. Mākslīgā intelekta kodēšanas asistenti ir optimizēti ērtībai un ātrumam, nevis uzbrukuma virsmas samazināšanai.
Praksē tas noved pie agresīvas atkarību ieviešanas. Tiek pievienotas jaunas bibliotēkas, nevis atkārtoti izmantota esošā funkcionalitāte. tranzitīvās atkarības klusi paplašināties un atvērtā koda atkarības pārvaldība kļūst reaktīva, nevis apzināta. Laika gaitā komandas zaudē spēju spriest par to, ko tās patiesībā vada.
Tā nav tikai higiēnas problēma. Katra jauna atkarība rada papildu programmatūras piegādes ķēdes risku, jaunus uzticamības pieņēmumus un jaunas iespējas atvērtā pirmkoda piegādes ķēdes uzbrukumiem. Kad atkarība tiek definēta kā…cisjomas tiek automatizētas un pārskatītas virspusēji, atkarības risks kļūst sistēmisks, nevis nejaušs.
Ja jūsu atkarību grafiks aug ātrāk nekā jūsu komandas spēja to izskaidrot, tā nav rīku problēma, bet gan uzticēšanās problēma.
Mākslīgā intelekta kodēšanas asistenti, drošība un pārskatīšanas sabrukums
Vēl viens apspriestais kļūmes veids bija salīdzinošās pārskatīšanas erozija mākslīgā intelekta ģenerēta koda klātbūtnē. Mākslīgā intelekta kodēšanas asistentu gadījumā drošība nav tikai tūlītēja ievadīšana vai modeļa ļaunprātīga izmantošana; tā ir par to, cik daudz nepārskatītas loģikas nonāk ražošanas sistēmās.
Mākslīgā intelekta ģenerētās izmaiņas bieži vien ir lielas, saskaņotas un grūti pārskatāmas laika spiediena apstākļos. Tā rezultātā salīdzinošā pārskatīšana kļūst virspusēja vai simboliska. Šis klusais sabrukums likvidē vienu no efektīvākajām kontrolēm. software supply chain security.
Problēma nav izstrādātāja nolaidība. Tā ir darbplūsmas neatbilstība. Kad ātrums tiek atalgots, bet berze tiek sodīta, mākslīgā intelekta un programmatūras drošības kontroles, kas ir atkarīgas no cilvēka uzmanības, neizbēgami vājinās. Uzbrucējiem nav jāapiet pārskatīšana, ja pārskatīšana vairs nefunkcionē kā šķērslis.
Daudzas komandas pieņem, ka pārskatīšana joprojām darbojas, jo process pastāv. Mazāk cilvēku jautā, vai tā joprojām darbojas kā jēgpilna kontrole.
Ļaunprātīgas atvērtā pirmkoda pakotnes un popularitātes mīts
Izplatīts uzskats par atvērtā pirmkoda atkarību pārvaldību ir tāds, ka populāri projekti ir drošāki. Patiesībā popularitāte bieži vien palielina atpazīstamību. Plaši izmantotas bibliotēkas ir augstvērtīgi mērķi atvērtā koda piegādes ķēdes uzbrukumi, priekšcisely, jo kompromiss rada plašu lejupējo ietekmi.
Daudzus populārus projektus uztur nelielas komandas vai atsevišķi indivīdi. Pat tad, ja problēmas tiek atklātas, ļaunprātīgas atvērtā pirmkoda pakotnes bieži vien paliek pieejamas stundām vai dienām ilgi, pirms tās tiek noņemtas. Šajā laikā organizācijas turpina tās saņemt, izmantojot automatizētas versijas.
Šī kavēšanās pastiprina nepieciešamību pēc proaktīvām darbībām. software supply chain security kontrole. Paļaušanās tikai uz popularitāti, reputāciju vai reģistra darbībām nav pietiekama, saskaroties ar mūsdienu programmatūras piegādes ķēdes risku.
“Plaši izmantots” nav tas pats, kas “aktīvi aizstāvēts”, un uztvert to kā tādu ir viens no noturīgākajiem maldīgajiem priekšstatiem par piegādes ķēdi.
Izcelsme programmatūras piegādes ķēdēs un mākslīgā intelekta drošībā
Diskusijas gaitā atkārtoti parādījās nepieciešamība pēc izcelsmes programmatūras piegādes ķēdēs. Mākslīgā intelekta atbalstītās vidēs attiecinājums kļūst neskaidrs. Kodu var ģenerēt modelis, modificēt cilvēks, apvienot automatizēti un izvietot bez skaidras atbildības.
Bez pārbaudāmas izcelsmes organizācijas ir spiestas netieši uzticēties artefaktiem. Mākslīgā intelekta drošība prasa pāreju no uzticēšanās uz verifikāciju: parakstītiem artefaktiem, build attestationsun izsekojama izcelsme. Lai gan izcelsme pilnībā nenovērš ļaunprātīgu rīcību, tā ievērojami samazina neskaidrības un ierobežo uzbrucēja manevrēšanas iespējas.
Tas vienlīdz attiecas uz modeļiem, datiem un kodu. Mākslīgā intelekta vadītā programmatūras izstrādē izcelsme ir pamatprasība gan mākslīgajam intelektam, gan programmatūras drošībai.
SBOM un mākslīgā intelekta drošība mūsdienu pasaulē Pipelines
Loma SBOM un mākslīgā intelekta drošība bija vēl viena netieša tēma. SBOMnodrošina atkarību grafiku pārskatāmību, taču ar redzamību vien nepietiek. Vidēs, kurās dominē mākslīgais intelekts, SBOMir jāattīstās, lai aptvertu ne tikai bibliotēkas, bet arī modeļus, veidošanas soļus un automatizētu izstrādi.cisjoni.
Kombinējot ar uzvedības analīze un izcelsme, SBOM un mākslīgā intelekta drošība kļūst par spēcīgiem rīkiem programmatūras piegādes ķēdes risku samazināšanai. Tie ļauj organizācijām atklāt negaidītas izmaiņas, spriest par to ietekmi un efektīvāk reaģēt uz atvērtā pirmkoda piegādes ķēdes uzbrukumiem.
CI/CD Pipeline Security Automatizācijas spiediena ietekmē
Visbeidzot, CI/CD pipeline security parādījās kā kritiska vadības plakne. Pipelinearvien vairāk izpilda darbības, ko iesaka vai aktivizē mākslīgā intelekta sistēmas. Ja šīs darbības pipelineTā kā trūkst spēcīgas identitātes kontroles, artefaktu verifikācijas un politikas ieviešanas, tās kļūst par ideāliem ieejas punktiem uzbrucējiem.
Neadekvāti CI/CD pipeline security ļauj ļaunprātīgām atvērtā pirmkoda pakotnēm ietekmēt ne tikai ražošanas sistēmas, bet arī izstrādātāju vides un infrastruktūras izveidi. Pieaugot automatizācijai, pipelines jāuzskata par augstas vērtības aktīviem software supply chain security programmas.
Noskatieties SafeDev sarunu
Lai uzzinātu vairāk par visām šīm atziņām tieši no praktiķiem, kas veido šo jomu, noskatieties pilnu video. SafeDev saruna: Atvērtais pirmkods, mākslīgais intelekts un jaunā uzbrukuma virsma: ieroču kods, viedāka aizsardzība, attēlots Romāns Žukovs (Sarkanā cepure), Leons Džonsons (TikTok), un Luiss Rodrigess Berzosa (Xygeni).
Praktiskas sekas mākslīgā intelekta drošībai un Software Supply Chain Security
Šo pārmaiņu praktiskā ietekme sniedzas tālāk par rīkiem. Organizācijām ir jāatzīst, ka mākslīgā intelekta drošība, mākslīgā intelekta un programmatūras drošība un software supply chain security tagad ir cieši saistītas. Decisjomas, kas kādreiz tika uzskatītas par zema riska, atkarību atjauninājumi, koda ģenerēšana un automatizācija tagad rada ievērojamu programmatūras piegādes ķēdes risku, īpaši, ja tās tiek izstrādātas.cisJonus rada netieši, izmantojot instrumentus, nevis tieši, ko veic cilvēki.
SafeDev runas laikā šis punkts tika īsi apkopots. Kā teica viens runātājs, Kad programmatūras izstrādē piedalās mākslīgā intelekta sistēmas, drošības komandas vairs nenodrošina tikai koda aizsardzību; tās nodrošina arī de aizsardzību.cisjoni. Automatizācija neatbrīvo atbildību; tā to pārdala.
Praksē tas nozīmē atjaunot apzinātību tur, kur ērtības ir ņēmušas virsroku. Atvērtā pirmkoda atkarību pārvaldībā jāņem vērā mākslīgā intelekta vadīta uzvedība, nevis jāpieņem cilvēka apsvērumi. Atkarību risku vairs nevar uzskatīt par neregulāru pārskatīšanas uzdevumu.cise. CI/CD pipeline security Ir jānodrošina verifikācija, nevis jāpieņem labdabīga ievade. Un programmatūras piegādes ķēdēs izcelsmes vietai ir jāvirzās no vēlamā uz bāzes līniju.
Vēl viena diskusijas atziņa bija tāda, ka ātrums pats par sevi vairs nav neitrāls. Lielākā daļa piegādes ķēdes kļūmju nerodas viena katastrofāla notikuma rezultātā.cisbet gan no daudzām nelielām automatizētām izvēlēm, kuras neviens nav tieši apstiprinājis. Tas ir iepriekšcisKāpēc tradicionālie uzticēšanās modeļi neizdodas mākslīgā intelekta vadītas programmatūras izstrādē.
Nekas no tā nenozīmē atteikšanos no atvērtā pirmkoda programmatūras vai mākslīgā intelekta. Gluži pretēji, tas atzīst to centrālo lomu mūsdienu inženierzinātnēs. Taču, neattīstot drošības pieņēmumus, organizācijas riskē ļaut automatizācijai pēc noklusējuma noteikt uzticību.
Secināt…
Noderīgs veids, kā domāt par šo maiņu, ir šāds: software supply chain security vairs nav runa tikai par artefaktu aizsardzību. Runa ir par aizsardzību decisjonu ceļiMākslīgā intelekta atbalstītā pasaulē vissvarīgākie drošības jautājumi ir ne tikai "Vai šī komponente ir ievainojama?", bet arī "Kāpēc tā tika ieviesta, kas to ieviesa vai kas to izdarīja, un ar kādiem ierobežojumiem?". Organizācijas, kas pielāgojas šai pieejai, nenovērsīs risku, taču tās būs daudz mazāk pārsteigtas par to.
