Питајте руководиоца безбедности колико алата вештачке интелигенције тренутно додирује податке компаније и добићете поуздан број. Биће погрешан, а не зато што неко нешто крије. Већина „сенковних“ вештачких интелигенција не оставља ништа за откривање: нема инсталације, нема лиценце, нема ставке. Картица прегледача и лични... login су довољни. Тај јаз између вештачке интелигенције коју покрива ваша политика и вештачке интелигенције коју ваша организација заправо користи је оно што покреће ризик од вештачке интелигенције у скринку, и он је из ИТ фусноте прерастао у једну од најбрже растућих категорија у AppSec-у. Овај водич покрива како открити и елиминисати вештачку интелигенцију у скринку у пракси, са сигналима за откривање и корацима управљања који се задржавају и након завршетка ревизије.
Ризик сенчене вештачке интелигенције у једном пасусу
Shadow AI је било који AI алат, модел, агент или API позив који ради унутар ваше организације без безбедносне или ИТ провере. То је директан наследник shadow IT-а, али га је теже ухватити: shadow IT је обично остављао запис о набавци или мрежни потпис са којим је CASB могао да се упореди. Shadow AI често не оставља ни једно ни друго. Запослени лепи уговор у чет-бота пријављеног са личним налогом, или програмер преноси API кључ од добављача модела директно у скрипту, и ништа од тога не дотиче инвентар добављача. Две независно објављене бројке показују колико се ризика shadow AI већ акумулирало: 80% радника користи AI алате које њихова организација није одобрила, према извештају Unseen Security-ја о стању shadow AI-а за 2026. годину, а 86% организација каже да им недостаје увид у то како подаци заправо теку до и од AI алата који су већ у употреби.
Зашто је ризик сенчене вештачке интелигенције прерастао сенчену ИТ
Три промене објашњавају зашто се ризик од вештачке интелигенције у сенци кретао брже од управљања изграђеног да би се обуздао ИТ у сенци, и ниједна од њих није реверзибилна.
- Вештачкој интелигенцији је престала да је потребна инсталација. Алати који су дефинисали хаотични ИТ (несанкционисани SaaS, лажна проширења прегледача) оставили су доказе у инвентару имовине. АИ асистент отворен у картици прегледача или модел API позван са личном картицом не оставља ништа што би праћење крајњих тачака или набавка могли да означе.
- Вештачка интелигенција се преселила унутар алата које сте већ одобрили. Функције у стилу Копилота сада се испоручују уграђене у платформе које су већ на листи дозвољених. Платформа је прегледана. Могућности вештачке интелигенције су се тихо укључивале унутар ње, али обично се то није дешавало.
- Запремина се пребацила са људског на машински ниво. Zscaler-ов ThreatLabz тим је анализирао 536.5 милијарди трансакција вештачке интелигенције и машинског учења преко свог облака и забележио је повећање од 3,464.6% у односу на претходну годину enterprise Саобраћај вештачке интелигенције/машинског учења. Тај обим промена је управо разлог зашто је процена ризика вештачке интелигенције урађена пре годину дана већ застарела и зашто ревизије у одређеном тренутку стално губе на значају због проблема који се погоршава сваког месеца.
Где се заправо крије вештачка интелигенција у сенци
Безбедносни тимови који траже ризик од вештачке интелигенције у сенци помоћу алата за ИТ у сенци обично се враћају са непотпуним списком, јер су места скривања различита:
- Алати засновани на прегледачу без отиска крајње тачке. Вештачка интелигенција ради у потпуности у картици. Нема агента за детекцију, нема ништа за инсталирање.
- Функције вештачке интелигенције уграђене у санкционисане платформе. Платформа је била прегледана. Функција вештачке интелигенције која је касније испоручени унутар ње обично није.
- Лични трошкови коришћења API-ја. Програмер ставља API модела на личну картицу и позива га директно из кода. Он никада не стиже до набавке, па никада не стиже до залиха.
- Непрегледана упутства и фајлови вештина агента. Алати за агентско кодирање све више прате инструкције директно записане у спремиште (датотеке вештина, правила агента), а те датотеке могу повезати агента са моделом, скупом података или MCP сервером на који се нико није пријавио.
Како открити и елиминисати сенчену вештачку интелигенцију
Знање како открити и елиминисати вештачку интелигенцију у сенци значи да је третирати као два одвојена проблема која морају да се решавају заједно: проналажење онога што је већ ту и осигуравање да се не врати неуправљано.
Детектовање: три сигнала која раде заједно
Ниједно појединачно скенирање не проналази сав ризик од вештачке интелигенције у сенци, јер свако скривено место изнад оставља другачији траг.
- Мрежни и прокси евиденције. Ваши евиденције заштитног зида, проксија и DNS-а већ бележе одлазне позиве ка крајњим тачкама добављача вештачке интелигенције, без обзира на то да ли је алат одобрен. Високофреквентни API позиви са једног хоста, велики одлазни корисни терет или аутоматизовани саобраћај ван радног времена ка крајњој тачки модела су обрасци које вреди испробати.
- Сигнали за идентитет и приступ. Мрежни евиденције вам говоре да је алат у употреби; ваш добављач идентитета вам говори ко стоји иза њега и колико приступа је препустио. Пазите на OAuth доделе непрегледаним AI апликацијама, пријављивања на AI алате са личним, а не са корпоративним налозима, и API активности сервисних налога које нико не може да објасни.
- Откривање средстава и на нивоу кода. Ово је слој standard Промашује алате shadow-IT, а специфичан је за то како се вештачка интелигенција појављује у софтверу: модели, скупови података, крајње тачке закључивања, агенти, MCP сервери и алати за вештачко кодирање на које се директно позивају у репозиторијумима, pipelineи датотеке вештина, не само у саобраћају прегледача. Без овог слоја, можете видети Koji позван је моделски API; не можете видети који агент га је назвао, од који pipeline, или са чиме је повезано, што је тачно место где Ризик вештачке интелигенције у сенци претвара се у инцидент у ланцу снабдевања а не кршење смерница.
Елиминишите га: четири корака која ће га учинити трајним
Детекција вам говори шта је већ покренуто. Претварање тога у нешто трајно захтева четири корака, покретање као петља, а не једнократна ревизија, јер се ризик вештачке интелигенције у сенци мења брже него што било који годишњи преглед може да прати.
- Направите један инвентар, а не три. Традиционална имовина (репо, pipelineс, контејнери) и вештачка интелигенција (модели, скупови података, агенти, MCP сервери, алати за кодирање) морају да се налазе у истом приказу, са мапираним односима између њих. Аутоматска интелигенција која сама по себи изгледа безопасно може бити права препрека када видите који скуп података га снабдева и са којом крајњом тачком комуницира.
- Класификујте пре него што напишете политику. Правило којим се забрањују „осетљиви подаци у алатима вештачке интелигенције“ не значи ништа ако нико не може да каже који су подаци важни. Знајте где се налазе регулисани и поверљиви подаци и дозволите тој класификацији да одлучи који су случајеви употребе вештачке интелигенције у реду, а који никада не напуштају зграду.
- Дајте тимовима бржи одобрени пут, а не дужу листу забрањених. Људи посежу за вештачком интелигенцијом у сенци јер је одобрена опција спорија од картице која је већ отворена испред њих. Регулисани каталог одобрених модела и агената, са акредитивима изузетим од програмера, уклања разлог за заобилажење политике.
- Спровести тамо где ризик заправо делује: инсталација и позив. Блокирање модела у документу не спречава агента да га инсталира. Спровођење треба да се деси у тренутку када се пакет инсталира или се API позива, тако да блокирана акција аутоматски не успева уместо да зависи од тога да ли неко памти правило.
Шта ризик од вештачке интелигенције у сенци значи за AppSec, не само за ИТ
Већина смерница за вештачку интелигенцију у сенци третира ово искључиво као проблем спречавања губитка података, а DLP је легитиман део тога. Али све већи део ризика вештачке интелигенције у сенци се уопште не појављује у прегледачу: појављује се као халуцинирани пакет који је агент покушао да инсталира, MCP сервер који нико није проверио или асистент за кодирање са сталним приступом спремишту којег никада није имао право да додирне. То није ИТ у сенци са ознаком вештачке интелигенције. То је нова категорија ризика у ланцу снабдевања софтвером и потребна јој је иста дисциплина коју AppSec већ примењује на било коју другу зависност: знати шта је тамо, верификовати то и аутоматизовати верификацију уместо да се надате да ће се сваки програмер сетити да провери.
Престаните да управљате вештачком интелигенцијом из табеле
Разлика није у труду; то је видљивост: већини тимова недостаје једно место где се налазе средства вештачке интелигенције, код и pipelineпојављују се заједно, што је тачно растојање између „имамо политику вештачке интелигенције у сенци“ и „можемо је заправо спровести“.
То је проблем Ксигени Безбедност вештачке интелигенције је изграђена око. Инвентаризација вештачке интелигенције континуирано и аутоматски открива сваку имовину вештачке интелигенције у вашим репозиторијумима, pipelineи програмерска окружења: модели, оквири, скупови података, крајње тачке закључивања, агенти, MCP сервери и алати за вештачку интелигенцију (AI) кодирање као што су Copilot, Cursor или Claude Code, мапирани као графикон односа са AI-BOM генерисаним при сваком скенирању. ДевАИ ради као активна заштитна ограда у истим окружењима, валидирајући датотеке вештина и инструкције агента и блокирајући злонамерне инсталације пре него што агент реагује, без потребе за упитом. А пошто CoreAI примењује исту корелацију и управљање вођено вештачком интелигенцијом на налазе ваших постојећих скенера као што то чини и са Xygeni-јевим сопственим, ризик вештачке интелигенције у сенци не нестаје у још једном неповезаном алату: он се налази у истом приказу ризика као и све остало у вашем SDLC.
Почните бесплатно. Sign up with GitHub, GitLab или Google и добијте увид у до 25 репозиторијума и 50 AI скенирања месечно без трошкова, без потребе за кредитном картицом.
ČPP
Шта је, једноставним речима, ризик вештачке интелигенције у сенци?
Ризик од сенчене вештачке интелигенције је изложеност коју стварају алати, модели, агенти или API позиви вештачке интелигенције који се покрећу унутар организације без безбедносне провере. Пошто већина тога не оставља никакву евиденцију о инсталацији и набавци, ризик се неприметно повећава док га неко намерно не почне тражити.
Како у пракси откривате и елиминишете вештачку интелигенцију у сенци?
Детекција се покреће на основу три сигнала који раде заједно (мрежни и прокси логови, сигнали идентитета и приступа и код/pipelineоткривање средстава на нивоу), а елиминација је петља од четири корака: изградња једног обједињеног инвентара, класификовање података пре писања политике, давање тимовима бржег одобреног пута и спровођење у тренутку инсталације или API позива, а не у документу.
Да ли је сенчена вештачка интелигенција исто што и сенчена ИТ?
Повезано, није идентично. Shadow IT је обично остављао траг (инсталацију, лиценцу, мрежни потпис). Shadow AI често не оставља ништа од тога: картицу прегледача и личну login су довољне, а функције вештачке интелигенције сада се испоручују уграђене у платформе које су већ одобрене.
Да ли CASB или DLP алат може сам да открије ризик од вештачке интелигенције у сенци?
Само делимично. Ти алати су направљени да ухвате несанкционисани софтвер са трагом. Модел позван директно из кода или функција вештачке интелигенције укључена унутар одобрене платформе не генерише ниједан од сигнала које је CASB подешен да означи. Управљање ризиком од вештачке интелигенције у потпуности захтева идентитет, мрежу и код/pipeline-видљивост на нивоу заједно.
Где се сенчена вештачка интелигенција најчешће појављује у развоју софтвера?
Поред четботова заснованих на прегледачу, појављује се као API кључеви чврсто кодирани у изворни код, модели отвореног кода увучени у пројекат без безбедносног скенирања и датотеке вештина агента или MCP серверске везе додате у спремиште без прегледа, управо онај слој који генерички shadow-IT алати не испитују.
