U kontroliranoj studiji predstavljenoj na USENIX Sigurnost 2025, istraživači su zamolili 16 velikih jezičnih modela da generiraju 576 000 uzoraka koda. Gotovo jedan od pet paketa otvorenog koda koje su ti modeli preporučili nije postojao: 205 474 jedinstvenih lažnih naziva paketa, izmišljenih ni iz čega. To bi bila kurioznost da je slučajno. Nije. Četrdeset tri posto haluciniranih naziva pojavljivalo se iznova i iznova kroz ponovljene upite. Napadači ne moraju pogađati što će asistent za kodiranje izmisliti. Mogu gledati, čekati i prvo registrirati naziv.
To je ključni problem Sigurnost lanca opskrbe umjetnom inteligencijom u jednom eksperimentu: ista umjetna inteligencija koja ubrzava razvoj softvera postala je predvidljiva, iskoristiva ulazna točka u njega. Pitanje za sigurnosne timove više nije dotiče li umjetna inteligencija lanac opskrbe softverom. Pitanje je možete li vidjeti što radi na obje strane borbe: umjetna inteligencija koja piše vaš kod, umjetna inteligencija koja brani vaše pipelinei umjetnu inteligenciju koju napadač pokazuje na oboje.
Što je sigurnost lanca opskrbe umjetnom inteligencijom?
Sigurnost lanca opskrbe umjetnom inteligencijom je praksa zaštite lanca opskrbe softverom od rizika koje uvodi ili pojačava umjetna inteligencija i korištenja umjetne inteligencije za obranu istog lanca opskrbe. Nalazi se na presjeku dva trenda koje većina sigurnosnih programa još uvijek tretira odvojeno: kod generiran umjetnom inteligencijom koji ulazi u kodnu bazu i napadi pokretani umjetnom inteligencijom usmjereni na ovisnosti, izgradnju pipelinei alate za razvojne programere koji ga okružuju.
Tradicionalna sigurnost aplikacija pita postoji li poznata ranjivost u poznatoj komponenti. Sigurnost lanca opskrbe umjetnom inteligencijom postavlja teža, brža pitanja: Postoji li ova ovisnost koju je upravo instalirao AI agent zapravo ili je bila halucinirana? Ponaša li se ovaj novo objavljeni paket zlonamjerno, iako za njega još ne postoji potpis? Koji se AI modeli, agenti i veze izvode tijekom životnog ciklusa razvoja softvera i što mogu dosegnuti?
Odgovaranje na ta pitanja brzinom kojom se kod zapravo isporučuje je cijela disciplina.
Kako je umjetna inteligencija postala površina za napad na lanac opskrbe
Napadači su prije nekog vremena prestali eksperimentirati s umjetnom inteligencijom. Sada je ugrađuju u operacije koje izravno ciljaju kod i njegove ovisnosti, a ne samo na pristiglu poštu i login stranice.
Nemarno čučanje: korištenje umjetne inteligencije kao oružja
Tehnika sada ima ime: nemarno čučanje, skovao ga je u travnju 2025. Seth Larson, rezidentni sigurnosni programer u Python Software Foundationu. Mehanika je jednostavna i brutalna. Asistenti za umjetnu inteligenciju rutinski predlažu nazive paketa koji ne postoje. Budući da se te halucinacije ponavljaju, napadač može registrirati izmišljeni naziv kao stvarni, zlonamjerni paket i čekati da ga sljedeći programer (ili sljedeći autonomni agent) instalira.
Presedan je već dokumentiran. 2023. godine, istraživač sigurnosti Bar Lanyado objavio prazan paket rezerviranih mjesta pod imenom koje su modeli često halucinirali, huggingface-cliU roku od tri mjeseca preuzet je više od 30 000 puta, a halucinirana naredba za instalaciju čak se pojavila u javnom repozitoriju README datoteke velike tehnološke tvrtke. To je bio bezopasan test. Isti priručnik sa stvarnim korisnim teretom sada je ponovljivi poslovni model za napadače.
Autonomni agenti za kodiranje pogoršavaju situaciju uklanjanjem posljednje ljudske kontrolne točke. Agent koji instalira ovisnosti bez pregleda eliminira jedini trenutak u kojem bi programer mogao primijetiti da paket izgleda pogrešno.
Zlonamjerni paketi u industrijskim razmjerima
Nemarno čučanje je jedna taktika unutar mnogo veće promjene. 2025. godine kampanje s velikim brojem zlonamjernih paketa postao je osnovni operativni model za napade na lanac opskrbe, kao što je Xygenijev Novi trendovi napada na AppSec za 2026. godinu dokumente. Napadači su usvojili ekonomiju neželjene pošte: objavljuju tisuće zlonamjernih paketa, prihvaćaju brza uklanjanja i oslanjaju se na vjerojatnost, a ne na upornost. Javni registri sada godišnje objavljuju stotine tisuća novih zlonamjernih paketa, a čak i kratko vrijeme izloženosti kontaminira nizvodne verzije.
MCP: novi, uglavnom neosigurani sloj veze
Protokol konteksta modela (MCP) omogućuje agentima umjetne inteligencije povezivanje s alatima i izvorima podataka. Također stvara novu površinu za napad koju većina skenera nikada ne pregledava. Zlonamjerni MCP poslužitelj može se nevidljivo nalaziti uz legitimne poslužitelje, dostupan bilo kojem agentu s pristupom. OWASP je objavio MCP Top 10 u 2025. godini katalogizirati te rizike, od promptne injekcije i trovanja alata do neautentificiranih poslužitelja kojima bilo koji agent na mreži može pristupiti.
Tajne cure kroz kod generiran umjetnom inteligencijom
Prema podacima tvrtke Check Point External Risk Management (ranije tvrtke Cyberint), dijelom potaknut phishingom i zlonamjernim softverom za krađu informacija poboljšanim umjetnom inteligencijom. U softverskim okruženjima, to se izravno mapira na čvrsto kodirane ključeve i tokene u kodu generiranom umjetnom inteligencijom. Pomoćnik za kodiranje koji je unio .NS Umetanje datoteke u njezin kontekst može reproducirati tajnu u prijedlogu, a napadači pretražuju točno taj uzorak.
Ljudska dimenzija također nije nestala. IBM-ovo izvješće o troškovima kršenja podataka za 2025. godinu otkrilo je da je među povredama koje uključuju umjetnu inteligenciju, 37% koristilo phishing generiran umjetnom inteligencijom, a 35% koristilo lažno predstavljanje, tehnike koje su sve više usmjerene na razvojne programere putem lažnog regrutiranja i lažnih računa za održavanje.
Kako umjetna inteligencija brani lanac opskrbe
Mogućnosti koje čine umjetnu inteligenciju opasnom upravo su ono što je čini korisnom za branitelje. U lancu opskrbe taj je kompromis najkonkretniji na četiri mjesta.
Otkrivanje zlonamjernog softvera prije potpisivanja
Ovo je definirajuća sposobnost. Tradicionalno skeniranje čeka poznati loš potpis prije nego što može označiti paket, što je strukturno presporo za napade koji uzrokuju tisuće preuzimanja unutar nekoliko sati od objavljivanja. Detekcija temeljena na ponašanju umjesto toga ocjenjuje novoobjavljeni paket u trenutku kada se pojavi: njegove radnje tijekom instalacije, mrežni pozivi, obrasci maskiranja i anomalije metapodataka. To zatvara prozor o kojem ovise kampanje slopsquattinga i typosquattinga. Shai-Hulud i GlassWorm npm kampanje s kraja 2025., koje su detektori temeljeni na potpisima u potpunosti propustili, prethodno su...cisAnaliza ponašanja u slučaju Ely je izgrađena da uhvati.
Prioritet prema iskoristivosti, a ne količini
Najpraktičniji doprinos umjetne inteligencije modernoj AppSec-u nije pronalaženje dodatnih problema; on smanjuje buku onoga što je već pronađeno. Analiza dostupnosti određuje je li ranjivi put koda zapravo izvršen. Bodovanje iskorištavanja vaga podatke o napadima iz stvarnog svijeta u odnosu na sirovi CVSS broj. Zajedno omogućuju timovima da se usredotoče na dio nalaza koji predstavljaju stvarni, iskorištavajući rizik umjesto da ručno trijažiraju tisuće upozorenja niskog signala.
Otkrivanje anomalija na pipeline nivo
In Darktraceovo istraživanje o stanju umjetne inteligencije u kibernetičkoj sigurnosti za 2026. godinu, sigurnosni lideri naveli su otkrivanje prijetnji i uočavanje anomalija (72%) kao područje u kojem umjetna inteligencija ima najveći utjecaj, ispred automatiziranog odgovora (48%) i upravljanja ranjivostima (47%). Primijenjeno na CI/CD, to znači označavanje instalacijske skripte koja se ponaša drugačije od svega što se prije vidjelo u toj pipelineili ažuriranje ovisnosti koje uvodi neočekivani mrežni poziv.
Automatizirana, pregledna sanacija
Osim pronalaženja i rangiranja rizika, umjetna inteligencija sada generira rješenje: sigurnu, specifičnu promjenu koda za okvir koja se podnosi kao pull request a ne kartu koja trune u zaostatku. IBM otkrili su da organizacije koje intenzivno koriste umjetnu inteligenciju i automatizaciju u sigurnosnim operacijama smanjuju svoj ukupni životni ciklus kršenja na 204 dana, u usporedbi s 284 za one koje to nisu činile (oko 80 dana brže), uz uštedu u prosjeku od 1.9 milijuna dolara po kršenju. Otkrivanje rizika bez njegovog zatvaranja samo premješta zaostatke; spajanje trijaže umjetne inteligencije s ispravcima generiranim umjetnom inteligencijom zatvara krug.
Jaz u upravljanju koji većina timova nije zatvorila
Evo neugodnog dijela. Istraživanje tvrtke Darktrace iz 2026. godine pokazalo je da 77% organizacija sada koristi generativnu umjetnu inteligenciju u svom sigurnosnom paketu, ali samo 37% ima formalnu politiku za sigurno korištenje umjetne inteligencije. Ta je brojka zapravo pala s 45% godinu prije. Usvajanje nadmašuje upravljanje, a napadači iskorištavaju tu prazninu.
Za softverske timove to se konkretno pokazuje: asistenti za AI kodiranje, agenti i MCP veze već rade diljem SDLC, često bez centraliziranog uvida u ono čemu pristupaju ili što su uveli. Većina organizacija može imenovati svoje pružatelje usluga u oblaku. Vrlo malo njih može imenovati svaki AI model, agent i MCP poslužitelj dostupan s računala programera. Taj inventar, AI Bill of Materials (AI-BOM), temelj je na kojem se gradi ostatak sigurnosti AI lanca opskrbe. Ne možete osigurati ono što niste inventarirali.
Što bi AppSec timovi trebali učiniti sada
The prosječno kršenje podataka koštalo je 4.44 milijuna dolara u 2025. (IBM), a lanac opskrbe sve je više jedna od ulaznih točaka. Praktični odgovor nije „usvajanje umjetne inteligencije“ u apstraktnom smislu. To je kratak, konkretan popis:
- Popisajte što umjetna inteligencija pokreće u vašem SDLC. Modeli, agenti, MCP poslužitelji i alati za AI kodiranje su imovina. Prvo izradite AI-BOM.
- Tretirajte kod generiran umjetnom inteligencijom kao kod napisan ljudskim rukom. Kod koji se kompajlira nije automatski siguran, a njegove ovisnosti zaslužuju istu recenziju kao i sve ostalo.
- Otkrijte zlonamjerni softver po ponašanju, a ne po potpisima. Skeniranje temeljeno na potpisima je strukturno previše sporo za kampanje s velikim volumenom i kratkim vijekom trajanja paketa.
- Prioritet dajte prema iskoristivosti, a ne količini upozorenja. Obrambena vrijednost umjetne inteligencije je odvajanje stvarnog rizika od buke, a ne njezino dodatno generiranje.
- Automatizirajte sanaciju, ne samo detekciju. Detekcija bez popravka samo premješta zaostatak negdje drugdje.
Kuda ide sigurnost lanca opskrbe umjetnom inteligencijom
Dva će obrasca definirati sljedećih nekoliko godina. Prvo, napadi postaju predvidljivi u velikim razmjerima, a ne nasumični: slopsquatting funkcionira unaprijedciszato što su halucinacije umjetne inteligencije dosljedne, što znači da obrana mora prijeći s jednokratnih potpisa na prepoznavanje uzoraka koje se skalira kako bi se podudaralo. Drugo, obrana se pomiče s "upozorenja čovjeka" na "identificiranje, ocjenjivanje i reagiranje prije nego što postoji zahtjev". Organizacije koje dobivaju na snazi su one koje hvataju ponašanje zlonamjernog paketa u vrijeme objavljivanja, a ne čekaju da se zapiše CVE.
Umjetna inteligencija je vaš najnoviji rizik i vaša najbolja obrana, često u istom sustavu
Umjetna inteligencija djeluje u dva smjera odjednom. Napadačima daje skalabilne, automatizirane alate, a braniteljima mogućnost otkrivanja i reagiranja u mjeri u kojoj ručni pregled nikada ne bi mogao. Upravo ta dvojnost je razlog zašto se sigurnost opskrbnog lanca umjetne inteligencije ne može ugraditi kao naknadna misao ili potpuno zabraniti.
Ovo je praznina Xygeni izgrađen je da se zatvori. Rano upozorenje o zlonamjernom softveru (MEW) Kontinuirano prati javne i privatne registre te otkriva zlonamjerne pakete u trenutku njihove objave, prije nego što postoji bilo kakav potpis, koristeći AI zaključke koje je potvrdio ljudski istraživački tim. Xygeni Shield tu inteligenciju stavlja u pogon na krajnjoj točki programera: blokira zlonamjerne pakete tijekom instalacije prije pokretanja njihovih skripti i inventarizuje AI alate, agente i MCP poslužitelje na svakom računalu. Zajedno su namjenski izgrađeni za prijetnje koje ovaj članak opisuje: slopsquatting, typosquatting, zbunjenost ovisnosti i kompromitiranje od strane održavatelja, uključujući Shai Hulud i alati temeljeni na potpisima za klase napada GlassWorm propušteni. U kombinaciji s određivanjem prioriteta temeljenim na dostupnosti, AI-BOM na vašem SDLCi automatizirano saniranje pull-request-a, kod generiran umjetnom inteligencijom i Napadi pokretani umjetnom inteligencijom dobiti istu kontrolu, bez usporavanja programera.
Započnite besplatno. Xygenijev Developer plan je 0 €: 10 repozitorija, 200 skeniranja mjesečno, do 5 suradnika, bez kreditne kartice. Sign up with GitHub, GitLab ili Google i pokrenite prvo skeniranje za manje od 10 minuta; Shield Zaštita krajnjih točaka uskoro stiže u plan za razvojne programere.
Česta pitanja
Što je sigurnost lanca opskrbe umjetnom inteligencijom?
Sigurnost lanca opskrbe umjetnom inteligencijom štiti lanac opskrbe softverom od rizika koje umjetna inteligencija uvodi ili pojačava, kao što su halucinirane ovisnosti, kod generiran umjetnom inteligencijom koji sadrži ranjivosti i zlonamjerne MCP veze, a istovremeno koristi umjetnu inteligenciju za obranu putem otkrivanja zlonamjernog softvera na temelju ponašanja, prioritizacije iskorištavanja i automatiziranog saniranja.
Kako se umjetna inteligencija koristi za obranu lanca opskrbe softverom?
Umjetna inteligencija omogućuje obrane s kojima se alati temeljeni na potpisima ne mogu mjeriti: ocjenjivanje ponašanja novo objavljenog paketa u trenutku kada se pojavi, određivanje je li ranjivi put koda zapravo dostupan, označavanje anomalija pipeline aktivnost i generiranje ispravaka specifičnih za okvir kao pull requests a ne zaostale ulaznice.
Zašto tradicionalni skeneri ne mogu otkriti napade na lanac opskrbe uzrokovane umjetnom inteligencijom?
Tradicionalni alati oslanjaju se na poznate potpise i objavljene CVE-ove, pa označavaju paket tek nakon što je već identificiran kao zlonamjeran. Kampanje s velikim brojem kratkotrajnih paketa povećavaju broj preuzimanja unutar nekoliko sati od objave (mnogo prije nego što potpis postoji), zbog čega je potrebno otkrivanje prije potpisa na temelju ponašanja.
Što je AI-BOM i zašto je važan?
AI popis materijala (AI-BOM) je popis svakog AI modela, agenta i MCP veze koji se izvode tijekom životnog ciklusa razvoja softvera. Važan je jer ne možete osigurati ono što niste popisali, a većina organizacija nema centralizirani uvid u to koja je AI dostupna s programerovog računala.
