Zabezpečení dodavatelského řetězce s využitím umělé inteligence

Zabezpečení dodavatelského řetězce s využitím umělé inteligence: Jak umělá inteligence útočí na kód a brání ho

V kontrolované studii prezentované na Zabezpečení USENIX 2025Vědci požádali 16 velkých jazykových modelů, aby vygenerovaly 576 000 vzorků kódu. Téměř každý pátý z open-source balíčků, které tyto modely doporučovaly, neexistoval: 205 474 unikátních falešných názvů balíčků, vymyšlených z ničeho. To by byla kuriozita, kdyby to bylo náhodné. Není. Čtyřicet tři procent halucinovaných názvů se opakovaně objevovalo v rámci opakovaných výzev. Útočníci nemusí hádat, co programátorský asistent vymyslí. Mohou sledovat, čekat a nejprve zaregistrovat název.

To je základní problém Zabezpečení dodavatelského řetězce s využitím umělé inteligence v jednom experimentu: tatáž umělá inteligence, která urychluje vývoj softwaru, se stala předvídatelným a zneužitelným vstupním bodem do něj. Otázkou pro bezpečnostní týmy už není, zda se umělá inteligence dotýká dodavatelského řetězce softwaru. Jde o to, zda vidíte, co dělá na obou stranách boje: umělá inteligence, která píše váš kód, a umělá inteligence, která brání váš... pipelinea umělou inteligenci, na kterou útočník ukazuje na obě.

Co je zabezpečení dodavatelského řetězce s využitím umělé inteligence?

Zabezpečení dodavatelského řetězce s využitím umělé inteligence je postup ochrany dodavatelského řetězce softwaru před riziky, která umělá inteligence přináší nebo zesiluje, a postup využití umělé inteligence k obraně téhož dodavatelského řetězce. Nachází se na průsečíku dvou trendů, které většina bezpečnostních programů stále řeší odděleně: kód generovaný umělou inteligencí vstupující do kódové základny a útoky poháněné umělou inteligencí zaměřené na závislosti, sestavení pipelinea vývojářské nástroje, které ho obklopují.

Tradiční zabezpečení aplikací se ptá, zda ve známé komponentě existuje známá zranitelnost. Zabezpečení dodavatelského řetězce s využitím umělé inteligence klade složitější a rychlejší otázky: Existuje tato závislost, kterou agent umělé inteligence právě nainstaloval, skutečně, nebo se jednalo o halucinaci? Chová se tento nově publikovaný balíček škodlivě, i když pro něj ještě neexistuje žádný podpis? Které modely, agenti a připojení umělé inteligence běží v celém životním cyklu vývoje softwaru a čeho se mohou dotknout?

Odpovídání na tyto otázky rychlostí, s jakou se kód skutečně dodává, je celá disciplína.

Jak se umělá inteligence stala povrchem pro útoky v dodavatelském řetězci

Útočníci s experimentováním s umělou inteligencí přestali už před časem. Nyní ji zabudovávají do operací, které cílí přímo na kód a jeho závislosti, nejen na schránky a login stránek.

Slopsquatting: využití vynálezů umělé inteligence jako zbraně

Tato technika má nyní název: dřepy, který v dubnu 2025 zavedl Seth Larson, rezidentní vývojář zabezpečení v Python Software Foundation. Mechanika je jednoduchá a brutální. Asistenti kódování s umělou inteligencí běžně navrhují názvy balíčků, které neexistují. Protože se tyto halucinace opakují, může útočník zaregistrovat vymyšlený název jako skutečný, škodlivý balíček a čekat, až jej nainstaluje další vývojář (nebo další autonomní agent).

Precedent je již zdokumentován. V roce 2023 bezpečnostní výzkumník Bar Lanyado publikoval prázdný zástupný balíček pod názvem, který modelky často halucinovaly, huggingface-cliBěhem tří měsíců byl stažen více než 30 000krát a halucinovaný příkaz install se dokonce objevil ve veřejném repozitáři README od velké technologické společnosti. To byl neškodný test. Stejný postup se skutečným užitečným zatížením je nyní pro útočníky opakovatelným obchodním modelem.

Autonomní kódovací agenti to ještě zhoršují odstraněním posledního lidského kontrolního bodu. Agent, který instaluje závislosti bez kontroly, eliminuje jediný okamžik, kdy by si vývojář mohl všimnout, že balíček vypadá špatně.

Škodlivé balíčky v průmyslovém měřítku

Nedbalé dřepy jsou jednou z taktik v rámci mnohem většího posunu. V roce 2025 kampaně s velkým objemem škodlivých balíčků se stal základním operačním modelem pro útoky na dodavatelský řetězec, jelikož se Xygeni Nové trendy útoků AppSec pro rok 2026 dokumenty. Útočníci přijali ekonomii spamu: publikují škodlivé balíčky po tisících, akceptují rychlé odstranění a spoléhají se na pravděpodobnost spíše než na vytrvalost. Veřejné registry nyní ročně registrují stovky tisíc nových škodlivých balíčků a i krátké expoziční okno kontaminuje následné sestavení.

MCP: nová, převážně nezabezpečená vrstva připojení

Protokol MCP (Model Context Protocol) umožňuje agentům umělé inteligence připojit se k nástrojům a zdrojům dat. Vytváří také nový povrch pro útok, který většina skenerů nikdy nekontroluje. Škodlivý server MCP se může neviditelně nacházet vedle legitimních serverů a být dostupný jakémukoli agentovi s přístupem. OWASP zveřejnila v roce 2025 žebříček MCP Top 10 katalogizovat tato rizika, od okamžitého vkládání infekcí a otravy nástrojů až po neověřené servery, ke kterým se může dostat jakýkoli agent v síti.

Tajemství unikající skrze kód generovaný umělou inteligencí

Podle společnosti Check Point External Risk Management (dříve Check Point External Risk Management) vzrostl počet kompromitovaných přihlašovacích údajů v roce 2025 oproti roku 2024 zhruba o 160 %. Cyberint), částečně poháněný phishingem a malwarem typu infostealer vylepšeným umělou inteligencí. V softwarových prostředích se to mapuje přímo na pevně zakódované klíče a tokeny v kódu generovaném umělou inteligencí. Asistent kódování, který přijal .env soubor do jeho kontextu může reprodukovat tajný kód v návrhu a útočníci hledají přesně tento vzorec.

Ani lidský rozměr nezmizel. Zpráva IBM o nákladech na únik dat z roku 2025 zjistila, že mezi úniky zahrnujícími umělou inteligenci 37 % využívalo phishing generovaný umělou inteligencí a 35 % deepfake impersonation, techniky stále častěji zaměřené na vývojáře prostřednictvím falešného oslovování náborářů a imitace účtů správců.

Jak umělá inteligence chrání dodavatelský řetězec

Právě schopnosti, které činí umělou inteligenci nebezpečnou, ji činí užitečnou pro obránce. V dodavatelském řetězci je tento kompromis nejkonkrétnější na čtyřech místech.

Detekce malwaru před podpisem

Toto je určující schopnost. Tradiční skenování čeká na známý závadný podpis, než může označit balíček, což je strukturálně příliš pomalé pro útoky, které hromadí tisíce stažení během několika hodin od publikace. Detekce založená na chování místo toho hodnotí nově publikovaný balíček v okamžiku, kdy se objeví: jeho akce při instalaci, síťová volání, vzory obfuskace a anomálie metadat. Tím se uzavírá okno pro kampaně typu „slopsquatting“ a „typosquatting“, na kterých závisí. Kampaně Shai-Hulud a GlassWorm npm z konce roku 2025, které detektory založené na podpisech zcela minuly, jsou předem...cisAnalýza chování v tomto případě je navržena tak, aby zachytila.

Prioritizace podle využitelnosti, nikoli objemu

Nejpraktičtějším přínosem umělé inteligence pro moderní AppSec není nalezení dalších problémů, ale redukce šumu z toho, co již bylo nalezeno. Analýza dosažitelnosti určuje, zda je zranitelná kódová cesta skutečně spuštěna. Bodování zneužitelnosti porovnává reálná data o útocích s hrubým číslem CVSS. Společně umožňují týmům soustředit se na zlomek nálezů, které představují skutečné a zneužitelné riziko, namísto ručního třídění tisíců upozornění s nízkým signálem.

Detekce anomálií na pipeline úroveň

In Průzkum Darktrace o stavu kybernetické bezpečnosti v oblasti umělé inteligence v roce 2026Bezpečnostní lídři uvedli detekci hrozeb a odhalování anomálií (72 %) jako oblast, kde má umělá inteligence největší dopad, před automatizovanou reakcí (48 %) a řízením zranitelností (47 %). Aplikováno na CI/CD, to znamená označení instalačního skriptu, který se chová jinak než cokoli, co jsme v daném skriptu dříve viděli pipelinenebo aktualizaci závislostí, která zavádí neočekávané síťové volání.

Automatizovaná, kontrolovatelná náprava

Kromě vyhledávání a hodnocení rizik nyní umělá inteligence generuje i opravu: bezpečnou změnu kódu specifickou pro daný framework, která se odešle jako pull request spíše než tiket, který hnije v nevyřízených záležitostech. IBM zjistila, že organizace, které ve velké míře využívají umělou inteligenci a automatizaci v rámci bezpečnostních operací, zkrátily celkový životní cyklus narušení bezpečnosti na 204 dní oproti 284 dnům u těch, které je nepoužívaly (přibližně o 80 dní rychleji), a zároveň ušetřily v průměru 1.9 milionu dolarů na jedno narušení bezpečnosti. Detekce rizika bez jeho uzavření pouze přesouvá nevyřízené záležitosti; spárování třídění pomocí umělé inteligence s opravami generovanými umělou inteligencí uzavírá cyklus.

Mezera v řízení, kterou většina týmů dosud neuzavřela

A tady je ta nepříjemná část. Průzkum společnosti Darktrace z roku 2026 zjistil, že 77 % organizací nyní používá generativní umělou inteligenci ve svém bezpečnostním balíčku, ale pouze 37 % má formální zásady pro bezpečné používání umělé inteligence. Toto číslo ve skutečnosti kleslo ze 45 % v předchozím roce. Adopce předbíhá řízení a útočníci této mezery zneužívají.

Pro softwarové týmy se to projevuje konkrétně: asistenti kódování s využitím umělé inteligence, agenti a připojení MCP již běží napříč celým SDLC, často bez centralizovaného přehledu o tom, k čemu přistupují nebo co zavedly. Většina organizací dokáže pojmenovat své poskytovatele cloudových služeb. Jen velmi málo z nich dokáže pojmenovat každý model, agenta a server MCP umělé inteligence, ke kterému je možné dosáhnout z počítače vývojáře. Tento inventář, kusovník umělé inteligence (AI-BOM), je základem, na kterém je postaveno zbytek zabezpečení dodavatelského řetězce umělé inteligence. Nemůžete zabezpečit to, co nemáte inventarizováno.

Co by měly týmy AppSec dělat nyní

Jedno průměrné narušení dat v roce 2025 stály 4.44 milionu dolarů (IBM) a dodavatelský řetězec je stále častěji jedním ze vstupních bodů. Praktickou reakcí není abstraktní „přijetí umělé inteligence“. Je to krátký, konkrétní seznam:

  • Inventurizujte, jaká umělá inteligence ve vašem podniku běží SDLC. Modely, agenti, MCP servery a nástroje pro kódování umělé inteligence jsou aktiva. Nejprve sestavte kusovník umělé inteligence.
  • S kódem generovaným umělou inteligencí zacházejte jako s kódem napsaným člověkem. Kód, který se kompiluje, není automaticky bezpečný a jeho závislosti si zaslouží stejnou kontrolu jako cokoli jiného.
  • Detekujte malware podle chování, nikoli podle signatur. Skenování založené na podpisech je strukturálně příliš pomalé pro kampaně s velkým objemem a krátkodobými balíčky.
  • Prioritizujte podle zneužitelnosti, nikoli podle objemu upozornění. Obranná hodnota umělé inteligence spočívá v oddělení skutečného rizika od šumu, ne v jeho dalším generování.
  • Automatizujte nápravu, nejen detekci. Detekce bez opravy jen přesune nevyřízené záležitosti někam jinam.

Kam směřuje bezpečnost dodavatelského řetězce s využitím umělé inteligence

Příštích několik let budou definovat dva vzorce. Zaprvé, útoky se stávají předvídatelnými ve velkém měřítku, nikoli náhodnými: slopsquatting funguje předem.cisJe to proto, že halucinace umělé inteligence jsou konzistentní, což znamená, že obrana se musí přesunout od jednorázových signatur k rozpoznávání vzorů, které se škáluje tak, aby odpovídalo. Za druhé, obrana se přesouvá od „upozornění člověka“ k „identifikaci, vyhodnocení a reakci před existencí tiketu“. Organizace, které získávají na síle, jsou ty, které zachytí chování škodlivého balíčku v době publikování a nečekají na zápis CVE.

Umělá inteligence je vaším nejnovějším rizikem a zároveň nejlepší obranou, často ve stejném systému.

Umělá inteligence působí dvěma směry najednou. Útočníkům poskytuje škálovatelné, automatizované nástroje a obráncům schopnost detekovat a reagovat v rozsahu, v jakém by manuální kontrola nikdy nedokázala. Právě tato dualita je důvodem, proč nelze zabezpečení dodavatelského řetězce s využitím umělé inteligence začlenit jako dodatečnou myšlenku nebo jej rovnou zakázat.

Tohle je mezera Xygeni byl postaven tak, aby se uzavřel. Včasné varování před malwarem (MEW) Neustále monitoruje veřejné i soukromé registry a detekuje škodlivé balíčky v okamžiku jejich zveřejnění, ještě předtím, než existuje jakákoli signatura, a to pomocí verdiktů umělé inteligence ověřených lidským výzkumným týmem. Xygeni Shield tuto inteligenci využívá na koncovém bodě vývojáře: blokuje škodlivé balíčky v době instalace před spuštěním jejich skriptů a inventarizuje nástroje umělé inteligence, agenty a servery MCP na každém počítači. Společně jsou navrženy tak, aby odpovídaly hrozbám, které tento článek popisuje: nedbalost, typosquatting, zmatek závislostí a kompromitace ze strany správce, včetně... Shai Hulud a nástroje založené na signaturách tříd útoků GlassWorm chyběly. V kombinaci s prioritizací založenou na dosažitelnosti je AI-BOM napříč vaší SDLCa automatizované nápravné práce na základě pull requestů, kód generovaný umělou inteligencí a Útoky s umělou inteligencí získat stejnou kontrolu, aniž by to zpomalovalo vývojáře.

Začněte zdarma. Vývojářský plán Xygeni je 0 €: 10 repozitářů, 200 skenů měsíčně, až 5 přispěvatelů, bez kreditní karty. Sign up with GitHub, GitLab nebo Google a spusťte první skenování za méně než 10 minut; Shield Ochrana koncových bodů bude brzy k dispozici v plánu pro vývojáře. 

Nejčastější dotazy

Co je zabezpečení dodavatelského řetězce s využitím umělé inteligence?

Zabezpečení dodavatelského řetězce s využitím umělé inteligence chrání dodavatelský řetězec softwaru před riziky, která umělá inteligence zavádí nebo zesiluje, jako jsou halucinované závislosti, kód generovaný umělou inteligencí obsahující zranitelnosti a škodlivá připojení MCP, a zároveň využívá umělou inteligenci k jeho obraně prostřednictvím detekce malwaru na základě chování, prioritizace zneužitelnosti a automatizované nápravy.

Jak se umělá inteligence používá k ochraně dodavatelského řetězce softwaru?

Umělá inteligence umožňuje obranu, které se nástroje založené na signaturách nemohou rovnat: hodnocení chování nově publikovaného balíčku v okamžiku jeho objevení, určení, zda je cesta ke zranitelnému kódu skutečně dosažitelná, a označování anomálií. pipeline aktivitu a generování oprav specifických pro daný framework, jako pull requests spíše než nevyřízené tikety.

Proč tradiční skenery nedokážou zachytit útoky na dodavatelský řetězec řízené umělou inteligencí?

Tradiční nástroje se spoléhají na známé signatury a publikované CVE, takže balíček označí až poté, co byl identifikován jako škodlivý. Kampaně s velkým objemem a krátkodobou platností balíčků zvyšují počet stažení během několika hodin od publikace (dlouho předtím, než existuje signatura), a proto je nutná detekce založená na chování a před signaturou.

Co je to AI-BOM a proč je důležitý?

Kusovník AI (AI-BOM) je inventář všech modelů, agentů a MCP propojených s AI v celém životním cyklu vývoje softwaru. Je důležitý, protože nemůžete zabezpečit to, co nemáte inventarizováno, a většina organizací nemá centralizovaný přehled o tom, která AI je dostupná z počítače vývojáře.

nástroje pro analýzu složení softwaru SCA
Stanovte priority, opravte a zabezpečte svá softwarová rizika
Získejte svůj bezplatný účet.
Nevyžaduje se žádná kreditní karta.

Zajistěte si vývoj a dodávky softwaru

s produktovým balíčkem Xygeni