Open source-ul a devenit fundamentul dezvoltării moderne de software. Aproape fiecare aplicație de astăzi se bazează pe o rețea complexă de biblioteci, framework-uri, modele și instrumente de construire terțe. Această realitate introduce deja schimbări semnificative. software supply chain security provocări. În același timp, inteligența artificială a intrat în ciclul de viață al dezvoltării software-ului ca un accelerator puternic, generând cod, sugerând dependențe, automatizând remedieri și chiar influențând designul arhitecturalcisioni. Împreună, open source-ul și inteligența artificială au transformat modul în care este construit software-ul și, inevitabil, modul în care acesta este atacat. Intersecția dintre securitatea inteligenței artificiale, securitatea inteligenței artificiale și a software-ului și software supply chain security nu mai este teoretic. Acum este una dintre sursele dominante de risc în lanțul de aprovizionare cu software cu care se confruntă organizațiile de inginerie.
Această realitate a stat la baza recentei noastre discuții SafeDev: Open Source, IA și noua suprafață de atac: Cod armat, apărare mai inteligentă, cu participarea unor lideri în domeniul securității de la Red Hat, TikTok și Xygeni. Discuția s-a concentrat pe experiențele echipelor de securitate și inginerie din mediile de producție, în special în ceea ce privește atacurile open source asupra lanțului de aprovizionare, pachetele open source rău intenționate și tensiunea tot mai mare dintre viteză și control în dezvoltarea de software bazată pe inteligență artificială. Ceea ce a ieșit la iveală a fost o imagine clară: suprafața de atac se extinde mai rapid decât pot ține pasul modelele tradiționale de securitate, iar IA acționează atât ca un multiplicator de forță, cât și ca un test de stres pentru presupunerile vechi în domeniul securității și al inteligenței artificiale. software supply chain security.
Dacă această descriere pare inconfortabil de apropiată de modul în care organizația dumneavoastră construiește software în prezent, nu este o coincidență. Multe echipe își dau seama cât de multă încredere s-a mutat în automatizare abia după ce ceva nu funcționează.
Securitatea IA și Software Supply Chain Security Acum sunt aceeași problemă
O temă recurentă pe parcursul discuției a fost aceea că securitatea inteligenței artificiale nu mai poate fi tratată ca o disciplină separată de software supply chain securitySistemele de inteligență artificială nu funcționează izolat; acestea sunt construite, instruite, implementate și integrate prin intermediul aceluiași pipelineservere, dependențe și registre care deja se confruntă cu atacuri open source asupra lanțului de aprovizionare.
În dezvoltarea de software bazată pe inteligență artificială, modelele sugerează cod, generează corecții și selectează automat dependențele. Aceste modelecisionii afectează direct gestionarea dependențelor open source, adesea fără intenție umană explicită. Prin urmare, riscul de dependență nu mai este determinat exclusiv de alegerea dezvoltatorului; este din ce în ce mai mult modelat de comportamentul inteligenței artificiale.
Această convergență înseamnă că defecțiunile în domeniul securității inteligenței artificiale și al software-ului se manifestă adesea ca incidente tradiționale ale lanțului de aprovizionare: dependențe compromise, artefacte de compilare alterate sau vulnerabilități. CI/CD procese. Instrumentele pot fi noi, dar riscul lanțului de aprovizionare cu software este foarte real și din ce în ce mai dificil de abordat.
Dacă modelele dvs. de amenințări încă separă „riscul IA” de „riscul lanțului de aprovizionare”, ar putea merita să revizuiți unde există de fapt această limită în fluxurile de lucru de construire și implementare.
Atacuri open source asupra lanțului de aprovizionare la viteza mașinilor
Atacurile open source asupra lanțului de aprovizionare nu sunt noi, dar inteligența artificială schimbă economia acestora. Atacatorii nu au nevoie de tehnici noi; au nevoie de scalabilitate. Inteligența artificială permite analiza rapidă a ecosistemului, descoperirea automată a dependențelor slabe și iterația rapidă a sarcinilor de atac.
Din punct de vedere ofensiv, această industrializare a recunoașterii crește dramatic rata de succes a atacurilor care implică pachete open source rău intenționate. Componente care anterior ar fi trecut neobservate pot fi acum descoperite, analizate și exploatate rapid, adesea înainte ca apărătorii să își dea seama că sunt utilizate.
Acesta este motivul software supply chain security nu se pot baza doar pe semnale întârziate. Registrele, avizele și dezvăluirile post-facto operează la scale de timp umane, în timp ce atacatorii operează din ce în ce mai mult la viteza mașinilor. Fereastra de expunere rezultată contribuie direct la creșterea riscului lanțului de aprovizionare cu software.
Dacă semnalul principal de detectare este „registrul a eliminat pachetul”, operați deja în aval de cronologia atacatorului.
Vrei să aprofundezi atacurile asupra lanțului de aprovizionare cu software open source?
Riscul de dependență în dezvoltarea de software bazată pe inteligență artificială
Unul dintre cele mai clare riscuri discutate în timpul discuției SafeDev a fost riscul de dependență, în special în mediile care se bazează în mare măsură pe dezvoltarea de software bazată pe inteligență artificială. Asistenții de codare bazați pe inteligență artificială sunt optimizați pentru confort și viteză, nu pentru a minimiza suprafața de atac.
În practică, acest lucru duce la introducerea agresivă a dependențelor. Se adaugă noi biblioteci în loc să se reutilizeze funcționalitățile existente. dependențe tranzitive extindere silențioasă și open source managementul dependenței devine reactivă mai degrabă decât intenționată. În timp, echipele pierd capacitatea de a raționa despre ceea ce derulează de fapt.
Aceasta nu este pur și simplu o problemă de igienă. Fiecare nouă dependență introduce riscuri suplimentare în lanțul de aprovizionare cu software, noi presupuneri de încredere și noi oportunități pentru atacuri open source în lanțul de aprovizionare. Când dependența...cisCând ionii sunt automatizați și revizuiți superficial, riscul de dependență devine sistemic, mai degrabă decât accidental.
Dacă graficul dependenței crește mai repede decât capacitatea echipei de a-l explica, aceasta nu este o problemă de instrumente; este o problemă de încredere.
Asistenți de codare AI, securitate și colapsul recenziilor
Un alt mod de eșec discutat a fost erodarea evaluării inter pares în prezența codului generat de inteligența artificială. Pentru asistenții de codare bazați pe inteligență artificială, securitatea nu se rezumă doar la injectarea promptă sau la utilizarea greșită a modelului; ci și la câtă logică neravizuită intră în sistemele de producție.
Schimbările generate de inteligența artificială sunt adesea mari, coerente și dificil de revizuit sub presiunea timpului. Drept urmare, evaluarea inter pares devine superficială sau simbolică. Această prăbușire discretă elimină unul dintre cele mai eficiente controale din... software supply chain security.
Problema nu este neglijența dezvoltatorului. Este o nealiniere a fluxului de lucru. Atunci când viteza este recompensată, iar dificultățile sunt penalizate, controalele de securitate ale inteligenței artificiale și ale software-ului care depind de atenția umană slăbesc inevitabil. Atacatorii nu trebuie să ocolească revizuirea dacă aceasta nu mai funcționează ca o barieră.
Multe echipe presupun că revizuirea funcționează în continuare deoarece procesul există. Mai puține se întreabă dacă aceasta încă funcționează ca un control semnificativ.
Pachete open source rău intenționate și mitul popularității
O convingere comună în gestionarea dependențelor open source este că proiectele populare sunt mai sigure. În realitate, popularitatea crește adesea expunerea. Bibliotecile utilizate pe scară largă sunt ținte de mare valoare pentru atacuri open source pe lanțul de aprovizionare, pentrucisdoar pentru că compromisul are un impact amplu în aval.
Multe proiecte populare sunt întreținute de echipe mici sau de persoane individuale. Chiar și atunci când sunt detectate probleme, pachetele open source rău intenționate rămân adesea disponibile ore sau zile înainte de eliminare. În acest timp, organizațiile continuă să le ingereze prin versiuni automate.
Această întârziere întărește nevoia de acțiune proactivă software supply chain security controale. Bazarea exclusivă pe popularitate, reputație sau acțiuni din registru este insuficientă atunci când te confrunți cu riscuri moderne în lanțul de aprovizionare cu software.
„Utilizat pe scară largă” nu este același lucru cu „apărat activ”, iar tratarea sa ca atare este una dintre cele mai persistente concepții greșite despre lanțul de aprovizionare.
Proveniență în lanțurile de aprovizionare cu software și securitatea inteligenței artificiale
De-a lungul discuției, nevoia de proveniență în lanțurile de aprovizionare cu software a apărut în mod repetat. În mediile asistate de inteligență artificială, atribuirea devine neclară. Codul poate fi generat de un model, modificat de o ființă umană, îmbinat prin automatizare și implementat fără o responsabilitate clară.
Fără o proveniență verificabilă, organizațiile sunt obligate să aibă încredere implicită în artefacte. Securitatea inteligenței artificiale necesită o trecere de la încredere la verificare: artefacte semnate, build attestationsși origini trasabile. Deși proveniența nu previne complet comportamentul rău intenționat, aceasta reduce semnificativ ambiguitatea și limitează manevrabilitatea atacatorului.
Acest lucru se aplică în egală măsură modelelor, datelor și codului. În dezvoltarea de software bazată pe inteligență artificială, proveniența este o cerință fundamentală atât pentru securitatea inteligenței artificiale, cât și pentru cea a software-ului.
SBOM și securitatea IA în mediul modern Pipelines
Rolul SBOM iar securitatea inteligenței artificiale a fost o altă temă implicită. SBOMoferă vizibilitate asupra grafurilor de dependențe, dar vizibilitatea în sine nu este suficientă. În mediile cu o mare utilizare a inteligenței artificiale, SBOMtrebuie să evolueze pentru a cuprinde nu doar biblioteci, ci și modele, pași de construire și dezvoltări automatizate.cisioni.
Când este combinat cu analiza comportamentului și proveniență, SBOM iar securitatea inteligenței artificiale (IA) devin instrumente puternice pentru reducerea riscului din lanțul de aprovizionare cu software. Acestea permit organizațiilor să detecteze schimbări neașteptate, să analizeze impactul și să răspundă mai eficient la atacurile open source din lanțul de aprovizionare.
CI/CD Pipeline Security Sub presiunea automatizării
În cele din urmă, CI/CD pipeline security a apărut ca un plan de control critic. Pipelineexecută din ce în ce mai mult acțiuni sugerate sau declanșate de sistemele de inteligență artificială. Dacă acestea pipelineDeoarece nu dispun de controale puternice ale identității, verificarea artefactelor și aplicarea politicilor, acestea devin puncte de intrare ideale pentru atacatori.
Neadecvat CI/CD pipeline security permite pachetelor open source rău intenționate să afecteze nu numai sistemele de producție, ci și mediile de dezvoltare și infrastructura de construire. Pe măsură ce automatizarea crește, pipelinetrebuie tratate ca active de mare valoare în cadrul software supply chain security programe.
Urmăriți discuția SafeDev
Pentru a afla mai multe despre toate aceste perspective direct de la practicienii care modelează domeniul, urmăriți integral Discuție SafeDev: Open Source, IA și noua suprafață de atac: Cod armat, apărare mai inteligentă, Oferind Roman Jukov (Pălăria Roșie), Leon Johnson (TikTok) și Luis Rodríguez Berzosa (Xygeni).
Implicații practice pentru securitatea IA și Software Supply Chain Security
Implicațiile practice ale acestor schimbări se extind dincolo de instrumente. Organizațiile trebuie să recunoască faptul că securitatea inteligenței artificiale, securitatea inteligenței artificiale și a software-ului și software supply chain security sunt acum profund împletite. DecisIoni care odinioară erau considerate cu risc scăzut, actualizările de dependențe, generarea de cod și automatizarea prezintă acum riscuri semnificative în lanțul de aprovizionare cu software, mai ales atunci când acestea suntcisIonii sunt creați implicit de unelte, mai degrabă decât explicit de oameni.
În timpul discuției SafeDev, acest punct a fost rezumat succint. După cum a spus un vorbitor, Când sistemele de inteligență artificială participă la dezvoltarea de software, echipele de securitate nu se mai ocupă doar de securizarea codului; ele securizează și decisAutomatizarea nu elimină responsabilitatea; o redistribuie.
În practică, aceasta înseamnă restabilirea intenționalității acolo unde confortul a preluat controlul. Gestionarea dependențelor open source trebuie să țină cont de comportamentul condus de inteligența artificială, mai degrabă decât să presupună deliberarea umană. Riscul de dependență nu mai poate fi tratat ca un exercițiu ocazional de revizuire.cise. CI/CD pipeline security trebuie să impună verificarea, nu să presupună o contribuție benignă. Iar proveniența în lanțurile de aprovizionare cu software trebuie să treacă de la aspirație la nivel de bază.
O altă concluzie trasă în urma discuției a fost că viteza în sine nu mai este neutră. Majoritatea eșecurilor lanțului de aprovizionare nu provin dintr-o singură eroare catastrofală.cision, ci din multe mici alegeri automate pe care nimeni nu le-a aprobat în mod explicit. Aceasta este precisDe ce modelele tradiționale de încredere eșuează în dezvoltarea de software bazată pe inteligență artificială.
Nimic din toate acestea nu implică abandonarea tehnologiilor open source sau a inteligenței artificiale. Dimpotrivă, recunoaște rolul lor central în ingineria modernă. Însă, fără evoluția ipotezelor de securitate, organizațiile riscă să permită automatizării să definească încrederea în mod implicit.
A concluziona…
O modalitate utilă de a gândi despre această schimbare este că software supply chain security nu se mai pune problema doar de protejarea artefactelor. Este vorba despre protejarea deciscăi ioniceÎntr-o lume asistată de inteligență artificială, cele mai importante întrebări de securitate nu sunt doar „Este această componentă vulnerabilă?”, ci „De ce a fost introdusă, de către cine sau ce și sub ce constrângeri?”. Organizațiile care se adaptează la această abordare nu vor elimina riscul, dar vor fi mult mai puțin surprinse de acesta.
