Pitajte voditelja sigurnosne službe koliko AI alata trenutno dodiruje podatke tvrtke i dobit ćete pouzdan broj. Bit će pogrešan, a ne zato što netko nešto skriva. Većina shadow AI-a ne ostavlja ništa za pronaći: nema instalacije, nema licence, nema stavke. Kartica preglednika i osobni login dovoljni. Taj jaz između umjetne inteligencije koju pokriva vaša politika i umjetne inteligencije koju vaša organizacija zapravo koristi ono je što potiče rizik skrivene umjetne inteligencije, a on je iz IT fusnote prerastao u jednu od najbrže rastućih kategorija u AppSecu. Ovaj vodič pokriva kako otkriti i eliminirati skrivenu umjetnu inteligenciju u praksi, sa signalima za otkrivanje i koracima upravljanja koji se održavaju nakon završetka revizije.
Rizik sjene umjetne inteligencije u jednom odlomku
Shadow AI je bilo koji AI alat, model, agent ili API poziv koji radi unutar vaše organizacije bez sigurnosne ili IT provjere. To je izravni nasljednik shadow IT-a, ali ga je teže uhvatiti: shadow IT obično je ostavljao zapis o nabavi ili mrežni potpis s kojim se CASB mogao usporediti. Shadow AI često ne ostavlja ni jedno ni drugo. Zaposlenik lijepi ugovor u chatbot prijavljen s osobnim računom ili programer šalje API ključ od pružatelja modela izravno u skriptu, a ništa od toga ne dotiče inventar dobavljača. Dvije neovisno objavljene brojke pokazuju koliko se rizika shadow AI već akumuliralo: 80% radnika koristi AI alate koje njihova organizacija nije odobrila, prema izvješću Unseen Securityja o stanju shadow AI-a za 2026. godinu, a 86% organizacija kaže da im nedostaje uvid u to kako podaci zapravo teku do i od AI alata koji se već koriste.
Zašto je rizik shadow AI-a prerastao shadow IT
Tri promjene objašnjavaju zašto se rizik od umjetne inteligencije u sjeni kretao brže od upravljanja izgrađenog za suzbijanje IT-a u sjeni, a nijedna od njih nije reverzibilna.
- Umjetna inteligencija više nije trebala instalaciju. Alati koji su definirali shadow IT (neodobreni SaaS, lažna proširenja preglednika) ostavili su dokaze u inventaru imovine. AI asistent otvoren u kartici preglednika ili model API pozvan s osobnom karticom ne ostavlja ništa što bi praćenje krajnjih točaka ili nabava mogli prijaviti.
- Umjetna inteligencija se preselila unutar alata koje ste već odobrili. Značajke u stilu Copilota sada se isporučuju ugrađene u platforme koje su već na popisu dopuštenih. Platforma je pregledana. Mogućnosti umjetne inteligencije su se tiho uključile unutar nje, ali obično se to nije dogodilo.
- Volumen se premjestio s ljudskog na strojno aktiviranu razinu. Zscalerov tim ThreatLabz analizirao je 536.5 milijardi transakcija umjetne inteligencije i strojnog učenja u svom oblaku i zabilježio je porast od 3,464.6% u odnosu na prethodnu godinu enterprise Promet umjetne inteligencije/strojnog učenja. Upravo je taj opseg promjena razlog zašto je procjena rizika umjetne inteligencije u sjeni, napravljena prije godinu dana, već zastarjela i zašto revizije u određenom trenutku gube na vrijednosti zbog problema koji se svaki mjesec pogoršava.
Gdje se zapravo skriva umjetna inteligencija u sjeni
Sigurnosni timovi koji traže rizik od shadow AI-a pomoću shadow-IT alata obično se vrate s nepotpunim popisom, jer su skrovišta različita:
- Alati temeljeni na pregledniku bez otiska krajnje točke. Umjetna inteligencija radi u potpunosti u kartici. Nema agenta za otkrivanje, nema ništa za instaliranje.
- Značajke umjetne inteligencije ugrađene u odobrene platforme. Platforma je pregledana. AI značajka koja je kasnije isporučena unutar nje obično nije.
- Osobni troškovi korištenja API-ja. Programer stavlja API modela na osobnu karticu i poziva ga izravno iz koda. Nikada ne stiže do nabave, pa nikada ne stiže do zaliha.
- Nepregledane upute i datoteke vještina agenta. Alati za agentsko kodiranje sve više slijede upute zapisane izravno u repozitorij (datoteke vještina, pravila agenata), a te datoteke mogu povezati agenta s modelom, skupom podataka ili MCP poslužiteljem na koji se nitko nije prijavio.
Kako otkriti i eliminirati sjenovitu umjetnu inteligenciju
Znati kako otkriti i eliminirati umjetnu inteligenciju u sjeni znači tretirati je kao dva odvojena problema koja moraju ići zajedno: pronaći ono što već postoji i osigurati da se ne vrati neupravljano.
Otkrijte to: tri signala koja rade zajedno
Nijedno pojedinačno skeniranje ne pronalazi sav rizik umjetne inteligencije u sjeni, jer svako skriveno mjesto iznad ostavlja drugačiji trag.
- Mrežni i proxy zapisnici. Vaši zapisnici vatrozida, proxyja i DNS-a već bilježe odlazne pozive prema krajnjim točkama pružatelja umjetne inteligencije, bez obzira je li alat odobren ili ne. Visokofrekventni API pozivi s jednog hosta, veliki odlazni korisni sadržaji ili automatizirani promet izvan radnog vremena prema krajnjoj točki modela su obrasci koje vrijedi isprobati.
- Signali identiteta i pristupa. Mrežni zapisnici vam govore da je alat u upotrebi; vaš davatelj identiteta govori vam tko stoji iza njega i koliko je pristupa prepustio. Pripazite na OAuth odobrenja nepregledanim AI aplikacijama, prijave na AI alate s osobnim, a ne korporativnim računima i API aktivnosti servisnih računa koje nitko ne može objasniti.
- Otkrivanje imovine i na razini koda. Ovo je sloj standard alati shadow-IT-a promašuju, a specifičan je za način na koji se umjetna inteligencija pojavljuje u softveru: modeli, skupovi podataka, krajnje točke zaključivanja, agenti, MCP poslužitelji i alati za umjetnu inteligenciju na koje se izravno poziva u repozitorijima, pipelinei datoteke vještina, ne samo u prometu preglednika. Bez ovog sloja, možete vidjeti tu pozvan je API modela; ne možete vidjeti koji agent ga je nazvao, od koji pipeline, ili s čime je povezano, što je točno mjesto gdje Rizik umjetne inteligencije u sjeni pretvara se u incident u lancu opskrbe a ne kršenje pravila.
Riješite se toga: četiri koraka koja će ga zadržati
Detekcija vam govori što se već izvodi. Pretvaranje toga u nešto trajno traje četiri koraka, izvršava se kao petlja, a ne kao jednokratna revizija, budući da se rizik umjetne inteligencije u sjeni mijenja brže nego što bilo koji godišnji pregled može pratiti.
- Izgradite jedan inventar, a ne tri. Tradicionalna imovina (repo poslovi, pipeline(s, kontejneri) i AI resursi (modeli, skupovi podataka, agenti, MCP poslužitelji, alati za kodiranje) moraju se nalaziti u istom prikazu, s mapiranim odnosima među njima. AI alat koji sam po sebi izgleda bezopasno može biti pravo otkriće kada vidite koji ga skup podataka dovodi i s kojom krajnjom točkom komunicira.
- Klasificirajte prije nego što napišete politiku. Pravilo kojim se zabranjuju „osjetljivi podaci u alatima umjetne inteligencije“ ne znači ništa ako nitko ne može reći koji su podaci važni. Znajte gdje se nalaze regulirani i povjerljivi podaci i neka ta klasifikacija odluči koji su slučajevi upotrebe umjetne inteligencije u redu, a koji nikada ne napuštaju zgradu.
- Dajte timovima brži odobreni put, a ne duži popis zabrana. Ljudi posežu za shadow AI jer je odobrena opcija sporija od kartice koja je već otvorena ispred njih. Upravljani katalog odobrenih modela i agenata, s vjerodajnicama koje su apstrahirane od programera, uklanja razlog za zaobilaženje pravila.
- Provedite tamo gdje rizik zapravo djeluje: instalaciju i poziv. Blokiranje modela u dokumentu ne sprječava agenta da ga instalira. Provedba se mora odvijati u trenutku kada se paket instalira ili se poziva API, tako da blokirana radnja automatski ne uspijeva umjesto da ovisi o tome hoće li netko zapamtiti pravilo.
Što rizik skrivene umjetne inteligencije znači za AppSec, ne samo za IT
Većina smjernica za shadow AI tretira ovo isključivo kao problem sprječavanja gubitka podataka, a DLP je legitimni dio toga. No, sve veći udio rizika shadow AI uopće se ne pojavljuje u pregledniku: pojavljuje se kao halucinirani paket koji je agent pokušao instalirati, MCP poslužitelj koji nitko nije provjerio ili asistent kodiranja sa stalnim pristupom repozitoriju kojeg nikada nije imao pravo dirati. To nije shadow IT s oznakom AI. To je nova kategorija rizika u lancu opskrbe softverom i potrebna joj je ista disciplina koju AppSec već primjenjuje na bilo koju drugu ovisnost: znati što je tamo, provjeriti to i automatizirati provjeru umjesto da se nadamo da će se svaki programer sjetiti provjeriti.
Prestanite upravljati umjetnom inteligencijom iz proračunske tablice
Razlika nije u trudu; to je vidljivost: većini timova nedostaje jedno mjesto gdje se nalaze resursi umjetne inteligencije, kod i pipelinepojavljuju se zajedno, što je točno udaljenost između „imamo politiku umjetne inteligencije u sjeni“ i „možemo je zapravo provesti“.
To je problem Xygeni Sigurnost umjetne inteligencije izgrađena je oko. Inventar umjetne inteligencije kontinuirano i automatski otkriva svaku imovinu umjetne inteligencije u vašim repozitorijima, pipelinei razvojna okruženja: modeli, okviri, skupovi podataka, krajnje točke zaključivanja, agenti, MCP poslužitelji i alati za AI kodiranje poput Copilota, Cursora ili Claude Codea, mapirani kao graf odnosa s AI-BOM generiranim pri svakom skeniranju. DevAI radi kao aktivna zaštitna ograda u istim okruženjima, provjeravajući datoteke vještina i upute agenta te blokirajući zlonamjerne instalacije prije nego što agent djeluje, bez potrebe za upitom. A budući da CoreAI primjenjuje istu korelaciju i upravljanje vođeno umjetnom inteligencijom na nalaze vaših postojećih skenera kao što to čini i na Xygenijev vlastiti, rizik umjetne inteligencije u sjeni ne nestaje u još jednom nepovezanom alatu: završava u istom prikazu rizika kao i sve ostalo u vašem SDLC.
Započnite besplatno. Sign up with GitHub, GitLab ili Google i ostvarite uvid u do 25 repozitorija i 50 AI skeniranja mjesečno bez ikakvih troškova, bez potrebe za kreditnom karticom.
Česta pitanja
Što je, jednostavnim riječima, rizik umjetne inteligencije u sjeni?
Rizik skrivene umjetne inteligencije je izloženost koju stvaraju alati umjetne inteligencije, modeli, agenti ili API pozivi koji se izvode unutar organizacije bez sigurnosnog pregleda. Budući da većina toga ne ostavlja zapis o instalaciji niti nabavi, rizik se tiho povećava sve dok ga netko namjerno ne počne tražiti.
Kako u praksi otkrivate i eliminirate umjetnu inteligenciju u sjeni?
Detekcija se provodi na temelju tri signala koji rade zajedno (mrežni i proxy zapisnici, signali identiteta i pristupa te kod/pipelineotkrivanje imovine na razini), a eliminacija je petlja od četiri koraka: izgradnja jednog ujedinjenog inventara, klasificiranje podataka prije pisanja pravila, davanje timovima bržeg odobrenog puta i provođenje u trenutku instalacije ili API poziva, a ne u dokumentu.
Je li shadow AI isto što i shadow IT?
Povezano, nije identično. Shadow IT obično je ostavljao trag (instalaciju, licencu, mrežni potpis). Shadow AI često ne ostavlja ništa od toga: karticu preglednika i osobnu login dovoljni su, a značajke umjetne inteligencije sada se isporučuju ugrađene u već odobrene platforme.
Može li CASB ili DLP alat samostalno otkriti rizik umjetne inteligencije u sjeni?
Samo djelomično. Ti su alati izgrađeni za hvatanje nesankcioniranog softvera s utjecajem na okoliš. Model pozvan izravno iz koda ili značajka umjetne inteligencije uključena unutar odobrene platforme ne generira nijedan od signala koje CASB treba označiti. Upravljanje rizikom umjetne inteligencije u sjeni u potpunosti zahtijeva identitet, mrežu i kod/pipeline-razina vidljivosti zajedno.
Gdje se shadow AI najčešće pojavljuje u razvoju softvera?
Osim chatbotova temeljenih na pregledniku, pojavljuje se kao API ključevi ugrađeni u izvorni kod, modeli otvorenog koda uvučeni u projekt bez sigurnosnog skeniranja i datoteke vještina agenata ili veze MCP poslužitelja dodane u repozitorij bez pregleda, upravo onaj sloj koji generički alati shadow-IT-a ne pregledavaju.
