Datoteka vještina. Datoteka s pravilima. Konfiguracija MCP poslužitelja. Tri retka običnog teksta, commitobrađeni kao dokumentacija, pregledani kao dokumentacija, i nijedan od njih ne izgleda kao kod. Pa ipak, svaki od njih može tiho prepisati ono što je vašem AI asistentu naloženo da radi i što smije dosegnuti. To je neugodna istina koja stoji iza AI sigurnosti. u 2026Industrija je provela dvije godine brinući se o tome što sadrži kod generiran umjetnom inteligencijom. Teži problem pokazao se samim lancem opskrbe umjetnom inteligencijom: modeli, agenti, MCP poslužitelji i konfiguracijske datoteke koje se sada nalaze uz vaš izvorni kod i ovisnosti otvorenog koda, uglavnom neinventirane i nepregledane. Upravo je zato sigurnost lanca opskrbe umjetnom inteligencijom postala zasebna disciplina i zašto je odabir prave tvrtke za sigurnost umjetne inteligencije jednako važan kao i odabir pravog skenera.
Površina za napad koju nitko nije predvidio u proračunu
Softver je nekad imao nekoliko mjesta na koja je napadač mogao dospjeti: kod, ovisnosti, pipelineUmjetna inteligencija dodala je još dva, a oba se izravno uklapaju u lanac opskrbe umjetne inteligencije.
Model i agent. Trovanje alata, brzo ubrizgavanje, autonomija agenta koja ide dalje nego što je itko namjeravao. Skrivena instrukcija u opisu MCP poslužitelja može tiho preusmjeriti ono što kopilot radi, a programer to nikada ne vidi.
Vlastito okruženje programera. IDE-ovi, AI kopiloti, MCP poslužitelji, agentski CLI-ji. Nevidljivi za naslijeđene AppSec skenere, koji ne znaju što je model, i nevidljivi za EDR, koji prati operativni sustav i nema pojma što je ovisnost ili MCP poziv.
Ništa od ovoga nije teoretski. U posljednjih osamnaest mjeseci:
- Skriveni Unicode "backdoor" za datoteku s pravilima omogućuje napadačima ubacivanje nevidljivih instrukcija u konfiguracijske datoteke koje Copilot i Cursor čitaju, tiho otkrivajući kod koji je asistent generirao. GitHub je 2025. godine dodao upozorenje za to.
- Greška ubrizgavanja naredbi u popularnom MCP mostu (CVSS 9.6) dosegla je preko 400 000 preuzimanja prije nego što je ispravljena, što je prvi dokumentirani slučaj potpunog udaljenog izvršavanja koda pokrenutog jednostavnim povezivanjem s nepouzdanim MCP poslužiteljem.
- Samorazmnožavajući npm crv pretvorio je same developere u mehanizam isporuke, a obrazac se ponovio u velikim razmjerima u sljedećim mjesecima u drugim ekosustavima, što je tipičan primjer propusta u sigurnosti lanca opskrbe umjetne inteligencije.
- Istraživači su otkrili da značajan udio paketa koje LLM-ovi preporučuju uopće ne postoji, odnosno da napadač registrira „neispravna“ imena prije nego što pravi programer uopće zatraži od modela da ih uveze.
Googleovo vlastito istraživanje o osiguranju lanca opskrbe AI softverom dolazi do sličnog zaključka iz drugog kuta: modeli pronađeni u optjecaju 2023. i 2024. izgledali su legitimno, a nosili su kod koji je mogao ukrasti podatke ili postaviti stražnja vrata nakon preuzimanja, a rješenje nije bila toliko nova kategorija alata koliko primjena discipline lanca opskrbe, poput porijekla i potpisivanja, na artefakte koje nitko prije nije pratio. To je problem sigurnosti lanca opskrbe AI-om u jednoj rečenici: artefakti su novi, ali disciplina koja im je potrebna nije.
Zašto vaši postojeći alati ne uspijevaju
SAST čita kod. SCA čita manifest ovisnosti. Niti jedno od njih ne zna što je model, što MCP poslužitelj otkriva ili što datoteka vještina upućuje agenta da učini. Upravo taj jaz je mjesto gdje se događaju napadi iz ere umjetne inteligencije, u prostoru između „koda koji skeniramo“ i „umjetne inteligencije koju smo tiho usvojili“.
Rezultat je kategorija umjetne inteligencije u sjeni br. CISO trenutno može odgovoriti na: koje modele koristimo, koji agenti mogu doći do čega i na koji se MCP poslužitelj netko spojio prošli utorak bez da je ikome rekao. Dobar odgovor na to pitanje je zadatak sigurnosti opskrbnog lanca umjetne inteligencije i to je razlog zašto generički AppSec alati ovdje stalno ne uspijevaju.
Što zapravo znači sigurnost umjetne inteligencije
Xygeni je tvrtka za umjetnu inteligenciju koja ovo tretira kao tri povezana pokreta preko SDLCotkriti, detektirati i provesti.
Otkrijte: saznajte koju umjetnu inteligenciju zapravo imate
Kontinuirano, automatsko otkrivanje u vašim repozitorijima otkriva svaku AI imovinu: modele, okvire, skupove podataka, krajnje točke zaključivanja, agente, MCP poslužitelje, vještine, upite, guardrails, i alate za AI kodiranje koje vaši programeri zapravo koriste. Nema anketa. Nema samostalnog izvještavanja. Ako je ostavilo trag u repozitoriju, pojavljuje se u inventaru, što je prvi i najosnovniji zahtjev sigurnosti pravog AI lanca opskrbe.
Grafikon umjetne inteligencije zatim mapira kako su ta sredstva povezana: koji model skup podataka koristi, koji agent poziva koji alat, koji MCP poslužitelj stoji iza kojeg asistenta. Imovina sama po sebi malo govori. Grafikon pokazuje gdje se rizik koncentrira.
Iz istog otkrića, Xygeni generira AI-BOM: strojno čitljiv popis svega što je povezano s umjetnom inteligencijom u vašem softveru, spreman za reviziju. Kada regulator, revizor ili kupac pita koju umjetnu inteligenciju koristite, odgovor postaje preuzimanje umjesto trotjedne gužve.
Otkrivanje: rizika koje konvencionalni skeneri ne mogu vidjeti
Namjenski AI skener traži načine kvara koji su specifični za AI sustave: ubrizgavanje prompta, ubrizgavanje alata i nepouzdano pozivanje alata, curenje podataka putem dohvaćanja, zaobilaženje prompta sustava, pretjerana angažiranost. Svaki nalaz preslikava se na OWASP Top 10 za prijave na LLM i upućuje na točnu datoteku i redak koji stvara izloženost, a ne na nejasno upozorenje „pregledajte korištenje umjetne inteligencije“.
Isti sloj za detekciju tretira datoteke vještina, datoteke pravila i MCP konfiguracije kao sigurnosne artefakte kakvi i jesu, a ne kao bezopasnu dokumentaciju. Označava zlonamjerne ili zaražene vještine, pregledava konfiguracije MCP poslužitelja radi trovanja alata i prikazuje upute koje zapravo pokreću vaša AI opterećenja.
Prioritizirajte: lijevak koji smanjuje buku, a ne uglove
Svaki nalaz se postupno filtrira: do onoga što je dostupno u kodu aplikacije, zatim do onoga što je zaista iskoristivo, a zatim do onoga što se nalazi u kodu koji vaš tim aktivno razvija. Ono što dođe do reda programera je kratki popis onoga što zapravo prijeti produkciji, s priloženom referencom okvira, prozorom izloženosti i smjernicama za ublažavanje.
Provesti: zaustaviti prije nego što se pokrene
Shield donosi provedbu pravila na krajnju točku samog programera: blokira neovlaštene i zlonamjerne instalacije, neodobrene modele i nesankcionirane MCP poslužitelje prije nego što se išta izvrši. Ispod toga se nalazi Xygenijev Rano upozorenje o zlonamjernom softveru (MEW), koji hvata zlonamjerne pakete prije nego što postoji potpis, alati temeljeni na reputaciji sloja i dalje vjeruju jer nitko još nije prijavio paket. To je polovica provođenja sigurnosti opskrbnog lanca umjetne inteligencije: otkrivanje i detekcija vam govore što nije u redu, Shield je ono što ga zapravo zaustavlja.
Vaša izloženost umjetnoj inteligenciji nije samo u vašem AI kodu
Potpuna slika sigurnosti opskrbnog lanca umjetne inteligencije zahtijeva više od modelnog inventara, a rijetko se radi samo o blještavim detaljima:
- Vjerodajnice pružatelja umjetne inteligencije ostavljeno u datotekama promptova, konfiguracijama agenta ili pipeline Zapisnici su tajne kao i sve druge, a Xygenijeva detekcija tajni ih hvata prije nego što dospiju u javni registar.
- Ranjive ovisnosti umjetne inteligencije i strojnog učenja nose obične CVE-ove, otkrivene istom analizom sastava softvera koja već pokriva ostatak vašeg stoga. Istraživanje treće strane o primjeni umjetne inteligencije pokazalo je koliki dio modernog AI stoga čine vanjski paketi i skrivene komponente, što je upravo ono što je analiza sastava površinskog softvera i trebala pokriti.
- Zlonamjerni paketi objavljeno brže od bilo kojeg savjetodavnog pipeline možete ih katalogizirati prije potpisivanja, ista MEW sposobnost štiti ostatak vašeg lanca opskrbe.
Agentski sloj: DevAI i CoreAI
Otkrivanje i detekcija pokrivaju ono što se već nalazi u vašim repozitorijima. DevAI Radi tamo gdje se stvara rizik: unutar IDE-a, kao kontinuirani, proaktivni sloj koji skenira ljudski i AI generirani kod dok se piše, bez potrebe za upitima. Objašnjava cijeli put iskorištavanja iza otkrića i predlaže MCP-om validirane popravke koje programer može primijeniti s povjerenjem, bez prekida izrade.
CoreAI nalazi se iznad pojedinačnih skenera kao sloj inteligencije: povezuje kod, ovisnosti, pipelinei podatke o položaju u jedan model rizika, odgovara na pitanja prirodnim jezikom i izrađuje izvješća spremna za rukovoditelje koja su voditelju sigurnosti potrebna kako bi pokazao da se upravljanje zapravo događa, a ne samo tvrdi.
Proširite ono što imate u AI sigurnosti. Nemojte ništa čupati.
Najčešći prigovor na novu sigurnosnu kategoriju je „već imamo dovoljno alata“. Kao tvrtka za umjetnu inteligenciju i sigurnost, Xygeni vas ne traži da išta zamijenite: ista trijaža, objašnjenje i određivanje prioriteta koje primjenjuju na vlastite nalaze jednako se primjenjuju i na nalaze iz vaših postojećih SAST, SCAi skenere trećih strana. Vaš trenutni stog postaje ulaz, a ne žrtva, a sigurnosna pozicija vašeg AI lanca opskrbe poboljšava se bez projekta "kopiraj i zamijeni" vezanog uz njega.
Zašto je ovo važno sada, a ne kasnije
Regulatori se slažu oko istog očekivanja iz različitih smjerova: Zakon EU o umjetnoj inteligenciji, NIS2 i španjolski ENS zalažu se za inventuru i sljedivost za AI sustave, iste dokaze koje AI-BOM treba proizvesti. Smjer kretanja je jasan čak i tamo gdje se točni mehanizmi usklađenosti još uvijek ne uspostavljaju: ne možete potvrditi da nikada niste inventarirali AI i ne možete tvrditi da je AI opskrbni lanac siguran ako vam je sam opskrbni lanac nevidljiv.
Odabir tvrtke za umjetnu inteligenciju i sigurnost
Ne postavljaju sve tvrtke za umjetnu inteligenciju svoje granice na istom mjestu. Neke se zaustavljaju na skeniranju vašeg vlastitog koda generiranog umjetnom inteligencijom. Druge se zaustavljaju na krajnjoj točki. Sigurnosno pitanje opskrbnog lanca umjetne inteligencije veće je od bilo kojeg sloja zasebno: obuhvaća model, agenta, MCP poslužitelj, datoteku vještina i uobičajenu ovisnost koja se nalazi ispod svega toga. Taj pogled na cijeli životni ciklus, od otkrivanja do provođenja, u jednoj konzoli s ostatkom vaših AppSec nalaza, ono je što treba tražiti kada procjenjujete tvrtku za umjetnu inteligenciju, a ne alat s jednom točkom.
Datoteke koje nitko ne pregledava postale su ulaz. Sigurnost umjetne inteligencije je disciplina njihovog pregledavanja, a sigurnost lanca opskrbe umjetnom inteligencijom je ono što omogućuje toj disciplini da se održi od početka do kraja, na istoj platformi na kojoj već pregledavate sve ostalo.
Pogledajte što vaša umjetna inteligencija zapravo smije raditi. Počni besplatno or zakazati demo.
Česta pitanja
Napušta li Xygenijev kod ikada moju infrastrukturu?
Ne. Skeniranja se izvode unutar vašeg vlastitog okruženja, a izvorni kod se nikada ne prenosi na Xygenijeve poslužitelje. AI inventar i AI-BOM izrađuju se iz onoga što skener vidi lokalno, a ne iz kopije poslane izvana.
Koja je razlika između AI sigurnosti, DevAI-ja i CoreAI-ja?
AI Security otkriva i detektira: gradi AI inventar, AI-BOM, i pronalazi rizike poput promptne injekcije ili zatrovanih datoteka vještina. DevAI radi unutar IDE-a dok programeri pišu kod, predlažući ispravke u hodu. CoreAI se nalazi iznad oboje, povezujući nalaze na cijeloj platformi i odgovarajući na pitanja o vašoj sigurnosnoj poziciji prirodnim jezikom.
S kojim se okvirima za umjetnu inteligenciju Xygeni usklađuje?
Nalazi se podudaraju s OWASP Top 10 za LLM prijave, OWASP Top 10 za MCP i OWASP Top 10 za Agentske vještine, uz NIST SP 800-218A i CISSmjernice A/G7 o AI sastavnicama materijala. To mapiranje čini AI-BOM upotrebljivim kao dokaz sukladnosti, a ne samo kao inventar.
Hoće li ovo označiti svaku AI biblioteku ili model kao rizik?
Ne. Lijevak prioritetizacije sužava nalaze na ono što je dostupno u kodu aplikacije, što se zaista može iskoristiti i što je u aktivnom razvoju, tako da je popis koji programer vidi kratak, a ne popis svih otkrivenih AI sredstava.
