Egy, a következő címen bemutatott, kontrollált vizsgálatban USENIX Biztonság 2025A kutatók 16 nagyméretű nyelvi modellt kértek meg 576 000 kódminta generálására. A modellek által ajánlott nyílt forráskódú csomagok közel ötöde nem létezett: 205 474 egyedi, hamis csomagnév, a semmiből kitalálva. Ez érdekes lenne, ha véletlenszerű lenne. Nem az. A hallucinált nevek negyvenhárom százaléka újra és újra megjelent az ismétlődő kérdésekben. A támadóknak nem kell találgatniuk, mit fog kitalálni egy kódolóasszisztens. Figyelhetik, várhatnak, és először regisztrálhatják a nevet.
Ez a lényegi probléma AI ellátási lánc biztonság egy kísérletben: ugyanaz a mesterséges intelligencia, amely felgyorsítja a szoftverfejlesztést, kiszámítható, kihasználható belépési ponttá vált. A biztonsági csapatok számára a kérdés már nem az, hogy a mesterséges intelligencia érinti-e a szoftverellátási láncot. Az, hogy látható-e, mit csinál a harc mindkét oldalán: a kódodat író mesterséges intelligencia, a kódodat védő mesterséges intelligencia pipeline, és a támadó által irányított mesterséges intelligencia mindkettőre mutat.
Mi az ellátási lánc biztonsága mesterséges intelligenciával?
A mesterséges intelligencia által vezérelt ellátási lánc biztonsága a szoftverellátási lánc mesterséges intelligencia által bevezetett vagy felerősített kockázatokkal szembeni védelmének, valamint a mesterséges intelligencia használatának gyakorlata ugyanezen ellátási lánc védelmére. Ez két olyan trend metszéspontjában helyezkedik el, amelyeket a legtöbb biztonsági program még mindig külön kezel: a mesterséges intelligencia által generált kód bekerül a kódbázisba, valamint a mesterséges intelligencia által vezérelt támadások, amelyek a függőségeket, a buildeket és a rendszereket célozzák meg. pipelineés a körülötte lévő fejlesztői eszközök.
A hagyományos alkalmazásbiztonság azt kérdezi, hogy létezik-e ismert sebezhetőség egy ismert komponensben. Az MI ellátásilánc-biztonsága nehezebb, gyorsabb kérdéseket vet fel: Vajon ez a függőség, amelyet egy MI-ügynök telepített, valóban létezik, vagy csak hallucináció volt? Vajon ez az újonnan közzétett csomag rosszindulatúan viselkedik, annak ellenére, hogy még nincs hozzá aláírás? Mely MI-modellek, ügynökök és kapcsolatok futnak a szoftverfejlesztési életciklus során, és mire képesek rájutni?
Ezeknek a kérdéseknek a gyorsasági kóddal történő megválaszolása valójában a teljes tudományág.
Hogyan vált a mesterséges intelligencia az ellátási lánc támadási felületévé
A támadók egy ideje felhagytak a mesterséges intelligenciával való kísérletezéssel. Most olyan műveletekbe építik be, amelyek közvetlenül a kódot és annak függőségeit célozzák meg, nem csak a beérkező leveleket és... login oldalakon.
Lopakodós felfogás: fegyverré alakítani a mesterséges intelligencia találmányait
A technikának mára neve is van: guggolás...amelyet Seth Larson, a Python Software Foundation biztonsági fejlesztője alkotott meg 2025 áprilisában. A mechanika egyszerű és brutális. A mesterséges intelligencia által hajtott kódolási asszisztensek rutinszerűen olyan csomagneveket javasolnak, amelyek nem léteznek. Mivel ezek a hallucinációk ismétlődnek, a támadó regisztrálhatja a kitalált nevet valódi, rosszindulatú csomagként, és várhatja, amíg a következő fejlesztő (vagy a következő autonóm ügynök) telepíti.
A precedens már dokumentált. 2023-ban egy biztonsági kutató Lanyado bár közzétett egy üres helykitöltő csomagot egy olyan néven, amely gyakran hallucinált modelleket ábrázol, átölelőarc-cliHárom hónapon belül több mint 30 000 alkalommal töltötték le, és a hallucinated install parancs még egy nagy technológiai vállalat nyilvános README tárházában is megjelent. Ez egy ártalmatlan teszt volt. Ugyanez a forgatókönyv valós hasznos adattal most egy megismételhető üzleti modell a támadók számára.
Az autonóm kódolóügynökök a legutolsó emberi ellenőrzőpont eltávolításával súlyosbítják a helyzetet. Egy olyan ügynök, amely ellenőrzés nélkül telepíti a függőségeket, kiküszöböli azt az egyetlen pillanatot, amikor a fejlesztő észrevehette volna, hogy a csomag hibásan néz ki.
Kártékony csomagok ipari méretekben
A slopsquatting (a felületes guggolás) egy taktika egy sokkal nagyobb változáson belül. 2025-ben... nagy volumenű kártékony csomagokat tartalmazó kampányok az ellátási lánccal kapcsolatos támadások alapvető működési modelljévé vált, mivel a Xygeni Új AppSec támadási trendek 2026-ra dokumentumok. A támadók a spamgazdaságtan elveihez folyamodnak: ezrével teszik közzé a rosszindulatú csomagokat, elfogadják a gyors eltávolításokat, és a valószínűségre támaszkodnak a tartósság helyett. A nyilvános nyilvántartások ma már évente több százezer új rosszindulatú csomagot tárolnak, és még egy rövid expozíciós időablak is szennyezi a későbbi verziókat.
MCP: egy új, nagyrészt nem biztonságos kapcsolati réteg
A Model Context Protocol (MCP) lehetővé teszi a mesterséges intelligencia által használt ügynökök számára, hogy eszközökhöz és adatforrásokhoz csatlakozzanak. Emellett egy új támadási felületet is létrehoz, amelyet a legtöbb szkenner soha nem vizsgál. Egy rosszindulatú MCP-kiszolgáló láthatatlanul elhelyezkedhet a legitim szerverek mellett, és bármely hozzáféréssel rendelkező ügynök elérheti azokat. Az OWASP 2025-ben közzétette az MCP Top 10 listáját hogy katalogizálja ezeket a kockázatokat, az azonnali behatolástól és az eszközmérgezéstől kezdve a nem hitelesített szerverekig, amelyeket a hálózaton lévő bármely ügynök elérhet.
Titkok szivárognak ki a mesterséges intelligencia által generált kódon keresztül
A Check Point External Risk Management (korábban ...) adatai szerint a feltört hitelesítő adatok száma nagyjából 160%-kal nőtt 2025-ben 2024-hez képest. Kiberint), amelyet részben mesterséges intelligencia által fokozott adathalász és információlopó rosszindulatú programok vezérelnek. Szoftveres környezetekben ez közvetlenül a mesterséges intelligencia által generált kódban rögzített kulcsokhoz és tokenekhez kapcsolódik. Egy kódoló asszisztens, amely beolvasztott egy .NS A fájl kontextusába helyezése reprodukálhatja a javaslatban szereplő titkos információt, és a támadók pontosan ezt a mintát keresik.
Az emberi dimenzió sem tűnt el. Az IBM 2025-ös adatvédelmi incidensek költségeivel foglalkozó jelentése szerint a mesterséges intelligenciát érintő incidensek 37%-a mesterséges intelligencia által generált adathalászatot, 35%-a pedig deepfake-utánzást alkalmazott, amely technikák egyre inkább a fejlesztőket célozzák meg hamis toborzók megkeresésével és megszemélyesített karbantartói fiókokkal.
Hogyan védi a mesterséges intelligencia az ellátási láncot?
Pontosan azok a képességek teszik a mesterséges intelligenciát veszélyessé, amelyek hasznossá teszik a védők számára. Az ellátási láncban ez a kompromisszum négy helyen a legkézzelfoghatóbb.
Kártevő-észlelés az aláírás előtt
Ez a meghatározó képesség. A hagyományos vizsgálat egy ismerten rossz aláírásra vár, mielőtt megjelölhetne egy csomagot, ami strukturálisan túl lassú azokhoz a támadásokhoz, amelyek a közzétételt követő órákon belül több ezer letöltést generálnak. A viselkedésalapú észlelés ehelyett a frissen közzétett csomagot a megjelenés pillanatában pontozza: a telepítési idejű műveleteket, a hálózati hívásokat, az obfuszkációs mintákat és a metaadat-anomáliákat. Ez bezárja azt az ablakot, amelytől a slopsquatting és a typosquatting kampányok függenek. A 2025 végi Shai-Hulud és GlassWorm npm kampányok, amelyeket az aláírásalapú észlelők teljesen kihagytak, előzetesek.cisAz eset viselkedéselemzésének célja a fogékonyság meghatározása.
Priorizálás a kihasználhatóság, nem a mennyiség alapján
A mesterséges intelligencia legpraktikusabb hozzájárulása a modern alkalmazásbiztonsághoz nem a további problémák felkutatása, hanem a már megtaláltak zajának elnyomása. Az elérhetőségi elemzés meghatározza, hogy egy sebezhető kódútvonal valóban végrehajtásra kerül-e. A kihasználhatósági pontozás a valós támadási adatokat egy nyers CVSS-számmal mérlegeli. Együttesen lehetővé teszik a csapatok számára, hogy a valódi, kihasználható kockázatot jelentő találatok azon hányadára összpontosítsanak, ahelyett, hogy manuálisan több ezer alacsony jelzésű riasztást kellene triázniuk.
Anomáliaészlelés a következő helyen: pipeline szint
In A Darktrace mesterséges intelligencia kiberbiztonsági állapotáról szóló 2026-os felmérésea biztonsági vezetők a fenyegetések észlelését és az anomáliák észlelését (72%) nevezték meg olyan területként, ahol a mesterséges intelligencia a legnagyobb hatást éri el, megelőzve az automatikus reagálást (48%) és a sebezhetőségkezelést (47%). CI/CD, ez azt jelenti, hogy megjelölünk egy olyan telepítőszkriptet, amely a korábban látotttól eltérően viselkedik abban a pipeline, vagy egy függőségi frissítés, amely váratlan hálózati hívást okoz.
Automatizált, felülvizsgálható javítás
A kockázatok megtalálásán és rangsorolásán túl a mesterséges intelligencia mostantól a javítást is generálja: egy biztonságos, keretrendszer-specifikus kódmódosítást, amelyet hibajelentésként küldenek be. pull request ahelyett, hogy egy jegyet gyűjtöttek volna össze, ami a hátralékok között rothad. IBM megállapította, hogy azok a szervezetek, amelyek széles körben alkalmaznak mesterséges intelligenciát és automatizálást a biztonsági műveleteikben, a teljes incidens életciklusát 204 napra csökkentették, szemben azokkal a 284 nappal, amelyek nem alkalmazták ezt (körülbelül 80 nappal gyorsabban), miközben átlagosan 1.9 millió dollárt takarítottak meg incidensenként. A kockázat észlelése annak lezárása nélkül csak áthelyezi a várólistát; a mesterséges intelligencia által generált hibaelhárítási prioritások párosítása lezárja a folyamatot.
Az irányítási szakadékot a legtöbb csapat nem tudták áthidalni
És itt jön a kellemetlen rész. A Darktrace 2026-os felmérése szerint a szervezetek 77%-a ma már generatív mesterséges intelligenciát használ a biztonsági rendszerében, de csak 37%-uk rendelkezik hivatalos szabályzattal a mesterséges intelligencia biztonságos használatára vonatkozóan. Ez a szám valójában csökkent az egy évvel korábbi 45%-ról. Az adaptáció megelőzi az irányítást, és a támadók kihasználják ezt a hiányosságot.
A szoftvercsapatok számára ez kézzelfoghatóan megmutatkozik: a mesterséges intelligencia által támogatott kódolási asszisztensek, ügynökök és MCP-kapcsolatok már futnak a hálózaton. SDLC, gyakran anélkül, hogy központilag rálátnának arra, hogy mihez férnek hozzá, vagy mit vezettek be. A legtöbb szervezet meg tudja nevezni a felhőszolgáltatóit. Nagyon kevesen tudják megnevezni az összes AI-modellt, ügynököt és MCP-kiszolgálót, amely elérhető a fejlesztő gépéről. Ez a leltár, az AI-anyagjegyzék (AI-BOM), az alapja, amelyre az AI ellátási lánc biztonságának többi része épül. Nem lehet biztosítani azt, amit nem leltározott.
Mit kell most tenniük az AppSec csapatoknak?
Az átlagos adatvédelmi incidens 2025-ben 4.44 millió dollárba kerül (IBM), és az ellátási lánc egyre inkább az egyik belépési pont. A gyakorlati válasz nem az absztrakt „mesterséges intelligencia bevezetése”. Ez egy rövid, konkrét lista:
- Létrehozza a mesterséges intelligenciával futtatott rendszereket SDLC. A modellek, ügynökök, MCP-szerverek és AI-kódolóeszközök erőforrások. Először építsd fel az AI-BOM-ot.
- A mesterséges intelligencia által generált kódot úgy kell kezelni, mint az ember által írt kódot. A lefordítható kód nem automatikusan biztonságos, és a függőségei ugyanolyan felülvizsgálatot érdemelnek, mint bármi más.
- A kártevőket viselkedés, ne pedig aláírások alapján észleljük. Az aláírás-alapú szkennelés strukturálisan túl lassú a nagy volumenű, rövid életű csomagkampányokhoz.
- A kihasználhatóság alapján rangsorolj, ne a riasztások mennyisége alapján. A mesterséges intelligencia védelmi értéke a valós kockázat és a zaj elkülönítése, nem pedig annak növelése.
- Automatizálja a javítást, ne csak az észlelést. A javítás nélküli észlelés csak máshová helyezi a feladatlistát.
Merre tart az AI ellátási lánc biztonsága?
Két minta fogja meghatározni a következő néhány évet. Először is, a támadások a véletlenszerűből inkább nagy léptékben, kiszámíthatóvá válnak: a felszínes támadások előre működnek.cisKülönösen azért, mert a mesterséges intelligencia hallucinációi következetesek, ami azt jelenti, hogy a védekezésnek az egyszeri aláírásokról a skálázható mintázatfelismerésre kell áttérnie. Másodszor, a védekezés az „ember riasztásáról” az „azonosításra, pontozásra és reagálásra” helyeződik át, mielőtt egy jegy létrejönne. Azok a szervezetek nyernek teret, amelyek a közzétételkor észlelik a rosszindulatú csomagok viselkedését, és nem várják meg, amíg egy CVE megíródik.
A mesterséges intelligencia a legújabb kockázat és a legjobb védelem, gyakran ugyanabban a rendszerben.
A mesterséges intelligencia egyszerre két irányban is képes hatni. Skálázható, automatizált eszközöket ad a támadóknak, a védőknek pedig olyan mértékű észlelést és reagálást biztosít, amire a manuális felülvizsgálat soha nem lett volna képes. Pontosan ez a kettősség az oka annak, hogy a mesterséges intelligenciával működő ellátási lánc biztonságát nem lehet utólagosan bevezetni, vagy egyenesen betiltani.
Ez a szakadék Xygeni bezárására épült. Kártevő korai figyelmeztetés (MEW) folyamatosan figyeli a nyilvános és privát nyilvántartásokat, és a kártékony csomagokat a közzétételük pillanatában, még az aláírás létezése előtt észleli, emberi kutatócsoport által validált mesterséges intelligencia által létrehozott ítéletek segítségével. Xygeni Shield ezt az intelligenciát a fejlesztő végpontján helyezi működésbe: blokkolja a rosszindulatú csomagokat a telepítéskor, mielőtt azok szkriptjei futnának, és leltárt készít az AI-eszközökről, ügynökökről és MCP-kiszolgálókról minden gépen. Együttesen kifejezetten a cikkben ismertetett fenyegetésekre tervezték őket: slopsquatting, elgépelés, függőségi zavar és karbantartói kompromittálás, beleértve a Shai Hulud és a GlassWorm támadási osztályok aláírás-alapú eszközei kimaradtak. Az elérhetőség-alapú priorizálással kombinálva egy AI-BOM az egész rendszereden SDLC, és automatizált pull-request hibaelhárítás, mesterséges intelligencia által generált kód és MI-alapú támadások ugyanazt az ellenőrzést kapják, anélkül, hogy lelassítanák a fejlesztőket.
Kezdje ingyenesen. A Xygeni fejlesztői csomagja 0 euróba kerül: 10 repozitórium, havi 200 szkennelés, akár 5 közreműködő, hitelkártya igénylés nélkül. Sign up with GitHub, a GitLab vagy a Google segítségével, és futtasd az első vizsgálatodat kevesebb mint 10 perc alatt; Shield A végpontvédelem hamarosan elérhető lesz a fejlesztői csomagban.
FAQ
Mi az ellátási lánc biztonsága mesterséges intelligenciával?
Az MI ellátási lánc biztonsága megvédi a szoftverellátási láncot a MI által bevezetett vagy felerősített kockázatoktól, mint például a hallucinált függőségek, a sebezhetőségeket tartalmazó MI által generált kód és a rosszindulatú MCP-kapcsolatok, miközben a MI-t használja a védekezéshez viselkedésalapú rosszindulatú programok észlelésével, a kihasználhatósági priorizálással és az automatizált elhárítással.
Hogyan használják a mesterséges intelligenciát a szoftverellátási lánc védelmére?
A mesterséges intelligencia olyan védelmet tesz lehetővé, amelyet az aláírás-alapú eszközök nem tudnak felülmúlni: egy újonnan közzétett csomag viselkedésének pontozása a megjelenés pillanatában, annak meghatározása, hogy egy sebezhető kódútvonal valóban elérhető-e, anomáliák megjelölése pipeline tevékenység, és keretrendszer-specifikus javítások generálása pull requests ahelyett, hogy elhalasztott jegyeket kellene felhalmoznom.
Miért nem képesek a hagyományos szkennerek kiszűrni a mesterséges intelligencia által vezérelt ellátási lánc támadásokat?
A hagyományos eszközök ismert aláírásokra és közzétett CVE-kre támaszkodnak, így csak azután jelölnek meg egy csomagot, miután azt már rosszindulatúként azonosították. A nagy volumenű, rövid életű csomagkampányok a közzétételt követő órákon belül felgyorsítják a letöltéseket (jóval azelőtt, hogy az aláírás létezne), ezért van szükség viselkedésalapú, aláírás előtti észlelésre.
Mi az a mesterséges intelligencia által generált BOM, és miért fontos?
Az MI anyagjegyzék (AI-BOM) a szoftverfejlesztési életciklus során futó összes MI-modell, ügynök és MCP-kapcsolat leltározása. Ez azért fontos, mert nem lehet biztonságossá tenni azt, amit nem leltározott, és a legtöbb szervezetnek nincs központi rálátása arra, hogy a fejlesztő gépéről milyen MI érhető el.







