Pajautājiet drošības vadītājam, cik daudz mākslīgā intelekta rīku pašlaik pieskaras uzņēmuma datiem, un jūs saņemsiet pārliecinošu skaitli. Tas būs nepareizi, un nevis tāpēc, ka kāds kaut ko slēpj. Lielākā daļa ēnu mākslīgā intelekta neatstāj neko meklējamu: ne instalāciju, ne licenci, ne rindas vienumu. Pārlūkprogrammas cilne un personīgā lapa. login ir pietiekami. Šī atšķirība starp mākslīgo intelektu (AI), uz kuru attiecas jūsu politika, un mākslīgo intelektu (AI), ko jūsu organizācija faktiski izmanto, ir tas, kas veicina ēnu mākslīgā intelekta (AI) risku, un tas ir izaudzis no IT zemsvītras piezīmes par vienu no visstraujāk mainīgajām lietotņu drošības kategorijām. Šajā rokasgrāmatā ir aprakstīts, kā praksē atklāt un novērst ēnu mākslīgo intelektu, norādot atklāšanas signālus un pārvaldības soļus, kas ir spēkā arī pēc audita beigām.
Ēnu mākslīgā intelekta risks vienā rindkopā
Ēnu mākslīgais intelekts ir jebkurš mākslīgā intelekta rīks, modelis, aģents vai API izsaukums, kas darbojas jūsu organizācijā bez drošības vai IT pārskatīšanas. Tas ir tiešs ēnu IT pēctecis, taču to ir grūtāk pamanīt: ēnu IT parasti atstāj iepirkuma ierakstu vai tīkla parakstu, ko CASB varētu salīdzināt. Ēnu mākslīgais intelekts bieži vien neatstāj ne vienu, ne otru. Darbinieks ielīmē līgumu tērzēšanas robotā, piesakoties ar personīgo kontu, vai izstrādātājs ievada API atslēgu no modeļa nodrošinātāja tieši skriptā, un nekas no tā nepieskaras piegādātāja inventāram. Divi neatkarīgi ziņoti skaitļi parāda, cik liels ēnu mākslīgā intelekta risks jau ir uzkrājies: 80% darbinieku izmanto mākslīgā intelekta rīkus, kurus viņu organizācija nav apstiprinājusi, liecina Unseen Security 2026. gada ziņojums par ēnu mākslīgā intelekta stāvokli, un 86% organizāciju apgalvo, ka tām trūkst pārskatāmības par to, kā dati faktiski plūst uz un no jau izmantotajiem mākslīgā intelekta rīkiem.
Kāpēc ēnu mākslīgā intelekta risks pārauga ēnu IT
Trīs pārmaiņas izskaidro, kāpēc ēnu mākslīgā intelekta risks mainījās ātrāk nekā pārvaldība, kas izveidota, lai aptvertu ēnu IT, un neviena no tām nav atgriezeniska.
- Mākslīgajam intelektam vairs nebija nepieciešama instalēšana. Rīki, kas definēja ēnu IT (nesankcionēta SaaS, negodīgi pārlūkprogrammas paplašinājumi), atstāja pierādījumus aktīvu inventārā. Mākslīgā intelekta palīgs, kas atvērts pārlūkprogrammas cilnē, vai modeļa API, kas izsaukts ar personīgo karti, neatstāj neko, ko atzīmēt galapunktu uzraudzībai vai iepirkumiem.
- Mākslīgais intelekts pārvietojās uz jau apstiprinātajiem rīkiem. Copilot stila funkcijas tagad tiek piegādātas iegultas platformās, kas jau ir atļauto ierīču sarakstā. Platforma tika pārskatīta. Mākslīgā intelekta iespējas tajā nemanāmi ieslēdzās, bet parasti tas nenotika.
- Apjoms mainījās no cilvēka iedarbināta uz mašīnas mērogu. Zscaler ThreatLabz komanda analizēja 536.5 miljardus mākslīgā intelekta un mašīnmācīšanās darījumu visā mākonī un reģistrēja 3,464.6% pieaugumu salīdzinājumā ar iepriekšējo gadu enterprise AI/ML datplūsma. Tieši šāda mēroga izmaiņas ir iemesls, kāpēc pirms gada veiktais ēnu AI riska novērtējums jau ir novecojis un kāpēc konkrēta laika auditi turpina zaudēt problēmas dēļ, kas katru mēnesi saasinās.
Kur patiesībā slēpjas ēnu mākslīgais intelekts
Drošības komandas, kas meklē ēnu mākslīgā intelekta riskus, izmantojot ēnu IT rīkus, parasti atgriežas ar nepilnīgu sarakstu, jo slēptuves ir atšķirīgas:
- Pārlūkprogrammā balstīti rīki bez galapunktu ietekmes. Mākslīgais intelekts darbojas pilnībā vienā cilnē. Nav jāatklāj aģents, nav jāinstalē nekas.
- Sankcionētās platformās iegultas mākslīgā intelekta funkcijas. Platforma tika pārskatīta. Mākslīgā intelekta funkcija, kas tajā tika ieviesta vēlāk, parasti netika pārskatīta.
- Personīgi segta API lietošana. Izstrādātājs ievieto modeļa API personīgajā kartītē un izsauc to tieši no koda. Tas nekad nenonāk iepirkumu nodaļā, tāpēc nekad nenonāk krājumos.
- Nepārskatītas aģenta instrukcijas un prasmju datnes. Aģentu kodēšanas rīki arvien biežāk seko instrukcijām, kas ierakstītas tieši repozitorijā (prasmju failos, aģentu noteikumos), un šie faili var savienot aģentu ar modeli, datu kopu vai MCP serveri, kurā neviens nav reģistrējies.
Kā atklāt un novērst ēnu mākslīgo intelektu
Zināt, kā atklāt un likvidēt ēnu mākslīgo intelektu, nozīmē to uztvert kā divas atsevišķas problēmas, kurām jādarbojas kopā: atrast to, kas jau ir, un nodrošināt, lai tas neatgrieztos nekontrolēts.
Atklāt to: trīs signāli, kas darbojas kopā
Neviena atsevišķa skenēšana neatrod visu ēnu mākslīgā intelekta risku, jo katra slēptuve virs tās atstāj atšķirīgu pēdu.
- Tīkla un starpniekservera žurnāli. Jūsu ugunsmūra, starpniekservera un DNS žurnāli jau reģistrē izejošos zvanus uz mākslīgā intelekta pakalpojumu sniedzēja galapunktiem neatkarīgi no tā, vai rīks ir apstiprināts. Augstas frekvences API zvani no viena resursdatora, lielas izejošās slodzes vai ārpus darba laika automatizēta datplūsma uz modeļa galapunktu ir modeļi, kurus ir vērts izmantot.
- Identitātes un piekļuves signāli. Tīkla žurnāli norāda, ka rīks tiek izmantots; jūsu identitātes pakalpojumu sniedzējs norāda, kas aiz tā stāv un cik daudz piekļuves viņi ir nodevuši. Pievērsiet uzmanību OAuth piešķiršanām nepārskatītām mākslīgā intelekta lietojumprogrammām, pieteikšanās mākslīgā intelekta rīkos ar personīgiem, nevis korporatīviem kontiem, un pakalpojumu kontu API aktivitātēm, ko neviens nevar izskaidrot.
- Resursu un koda līmeņa atklāšana. Šis ir slānis standard ēnu IT rīki to neizmanto, un tas ir specifiski tam, kā mākslīgais intelekts parādās programmatūrā: modeļos, datu kopās, secinājumu galapunktos, aģentos, MCP serveros un mākslīgā intelekta kodēšanas rīkos, uz kuriem ir tiešas atsauces krātuvēs, pipelineun prasmju failus, ne tikai pārlūkprogrammas datplūsmā. Bez šī slāņa var redzēt Ka tika izsaukta modeļa API; jūs to nevarat redzēt kas aģents to sauca no kas pipeline, vai ar ko tas ir savienots, kas ir tieši tur Ēnu mākslīgā intelekta risks pārvēršas piegādes ķēdes incidentā nevis politikas pārkāpums.
Atbrīvojieties no tā: četri soļi, kas to padarīs neaizmirstamu
Noteikšana parāda, kas jau darbojas. Lai to pārvērstu par kaut ko ilgtspējīgu, ir nepieciešami četri soļi, kas tiek izpildīti kā cikls, nevis vienreizēja audita veidā, jo ēnu mākslīgā intelekta risks mainās ātrāk, nekā to spēj izsekot jebkura ikgadēja pārskatīšana.
- Izveidojiet vienu inventāru, nevis trīs. Tradicionālie aktīvi (repo darījumi, pipeline(s, konteineri) un mākslīgā intelekta aktīviem (modeļiem, datu kopām, aģentiem, MCP serveriem, kodēšanas rīkiem) ir jāatrodas vienā skatā, un ir jābūt kartētām to savstarpējām attiecībām. Mākslīgā intelekta rīks, kas pats par sevi izskatās nekaitīgs, var kļūt par īstu atmaskojumu, kad redzat, kāds datu kopums to baro un ar kādu galapunktu tas sazinās.
- Klasificējiet pirms politikas rakstīšanas. Noteikums, kas aizliedz “sensitīvus datus mākslīgā intelekta rīkos”, neko nenozīmē, ja neviens nevar pateikt, kuri dati ir svarīgi. Ziniet, kur atrodas regulēti un konfidenciāli dati, un ļaujiet šai klasifikācijai noteikt, kuri mākslīgā intelekta lietošanas gadījumi ir pieņemami un kuri nekad nepamet ēku.
- Dodiet komandām ātrāku apstiprināšanas ceļu, nevis garāku aizliegumu sarakstu. Cilvēki izmanto ēnu mākslīgo intelektu, jo sankcionētā opcija ir lēnāka nekā jau atvērtā cilne. Pārvaldīts apstiprinātu modeļu un aģentu katalogs, kurā izstrādātājiem nav piešķirtas akreditācijas dati, novērš iemeslu apiet politiku.
- Ieviest izpildi tur, kur risks faktiski darbojas: instalēšanas un izsaukuma laikā. Modeļa bloķēšana dokumentā neliedz aģentam to instalēt. Izpildei jānotiek brīdī, kad tiek instalēta pakotne vai izsaukta API, lai bloķēta darbība neizdotos automātiski, nevis būtu atkarīga no tā, vai kāds atceras noteikumu.
Ko ēnu mākslīgā intelekta risks nozīmē lietotņu saugumam, ne tikai IT nozarei
Lielākā daļa ēnu mākslīgā intelekta vadlīniju to uzskata tikai par datu zuduma novēršanas problēmu, un DLP ir leģitīma tās sastāvdaļa. Taču arvien lielāka daļa ēnu mākslīgā intelekta riska vispār neparādās pārlūkprogrammā: tas parādās kā halucinēta pakotne, ko aģents mēģināja instalēt, MCP serveris, kuru neviens nav pārbaudījis, vai kodēšanas asistents ar pastāvīgu piekļuvi repozitorijam, kuram tam nekad nebija atļauts pieskarties. Tā nav ēnu IT ar AI etiķeti. Tā ir jauna programmatūras piegādes ķēdes riska kategorija, un tai ir nepieciešama tāda pati disciplīna, kādu AppSec jau piemēro jebkurai citai atkarībai: zināt, kas tur ir, pārbaudīt to un automatizēt pārbaudi, nevis cerēt, ka katrs izstrādātājs atcerēsies to pārbaudīt.
Pārtrauciet pārvaldīt mākslīgo intelektu no izklājlapas
Plaisa nav piepūlē, bet gan redzamībā: lielākajai daļai komandu trūkst vienas vietas, kur varētu atrasties mākslīgā intelekta līdzekļi, kods un... pipelineparādās kopā, kas ir tieši attālums starp “mums ir ēnu mākslīgā intelekta politika” un “mēs to faktiski varam īstenot”.
Tā ir problēma Ksigēni Mākslīgā intelekta drošība ir veidota ap [mākslīgā intelekta inventarizāciju]. Mākslīgā intelekta inventarizācija nepārtraukti un automātiski atrod visus mākslīgā intelekta resursus jūsu krātuvēs. pipelineun izstrādātāju vides: modeļi, ietvari, datu kopas, secinājumu galapunkti, aģenti, MCP serveri un mākslīgā intelekta kodēšanas rīki, piemēram, Copilot, Cursor vai Claude Code, kas kartēti kā relāciju grafs ar mākslīgā intelekta BOM, kas ģenerēts katrā skenēšanā. DevAI darbojas kā aktīva aizsargbarjera tajās pašās vidēs, validējot prasmju failus un aģenta norādījumus un bloķējot ļaunprātīgas instalācijas, pirms aģents rīkojas, bez nepieciešamības pēc uzvednes. Un tā kā CoreAI piemēro tādu pašu mākslīgā intelekta vadītu korelāciju un pārvaldību gan esošo skeneru atradumiem, gan Xygeni pašu rezultātiem, ēnu mākslīgā intelekta risks nepazūd vēl vienā atvienotā rīkā: tas nonāk tajā pašā riska skatā kā viss pārējais jūsu ierīcē. SDLC.
Sāciet bez maksas. Sign up with GitHub, GitLab vai Google un iegūstiet pārredzamību līdz pat 25 repozitorijiem un 50 mākslīgā intelekta skenējumiem mēnesī bez maksas, kredītkarte nav nepieciešama.
FAQ
Kas ir ēnu mākslīgā intelekta risks vienkāršoti?
Ēnu mākslīgā intelekta risks ir iedarbība, ko rada mākslīgā intelekta rīki, modeļi, aģenti vai API izsaukumi, kas darbojas organizācijas iekšienē bez drošības pārskatīšanas. Tā kā lielākā daļa no tā neatstāj instalāciju un iegādes ierakstus, risks nemanāmi pieaug, līdz kāds to apzināti meklē.
Kā praksē atklāt un novērst ēnu mākslīgo intelektu?
Noteikšana darbojas, izmantojot trīs signālus, kas darbojas kopā (tīkla un starpniekservera žurnālus, identitātes un piekļuves signālus un kodu/pipelinelīmeņa aktīvu atklāšana), un eliminācija ir četru soļu cikls: izveidot vienotu inventāru, klasificēt datus pirms politikas izstrādes, nodrošināt komandām ātrāku apstiprināšanas ceļu un ieviest instalēšanas vai API izsaukuma brīdī, nevis dokumentā.
Vai ēnu mākslīgais intelekts (AI) ir tas pats, kas ēnu IT?
Saistīti, nevis identiski. Ēnu IT parasti atstāj pēdas (instalāciju, licenci, tīkla parakstu). Ēnu mākslīgais intelekts bieži vien neko no tā neatstāj: pārlūkprogrammas cilni un personisku... login ir pietiekami, un mākslīgā intelekta funkcijas tagad tiek piegādātas iegultas jau apstiprinātās platformās.
Vai CASB vai DLP rīks var pats par sevi noteikt ēnu mākslīgā intelekta risku?
Tikai daļēji. Šie rīki tika izstrādāti, lai notvertu nesankcionētu programmatūru ar pēdas nospiedumu. Modelis, kas izsaukts tieši no koda, vai mākslīgā intelekta funkcija, kas ieslēgta apstiprinātā platformā, neģenerē nevienu no signāliem, kurus CASB ir noregulēts atzīmēt. Ēnu mākslīgā intelekta riska pārvaldībai pilnībā ir nepieciešama identitāte, tīkls un kods/pipelinelīmeņa redzamība kopā.
Kur tieši programmatūras izstrādē visbiežāk parādās ēnu mākslīgais intelekts?
Papildus pārlūkprogrammā balstītiem tērzēšanas robotiem tas parādās kā API atslēgas, kas iekodētas pirmkodā, atvērtā pirmkoda modeļi, kas ievilkti projektā bez drošības skenēšanas, un aģenta prasmju faili vai MCP servera savienojumi, kas pievienoti repozitorijam bez pārskatīšanas, tieši tas slānis, ko vispārīgie ēnu IT rīki nepārbauda.
