Сенка вештачке интелигенције више није само запослени који користе неодобреног четбота. Данас схадов АИ често укључује неодобрени AI агенти покреће се са стварним дозволама: приступ репозиторијуму, CI/CD токени, читање/писање датотека и API-ји за размену порука. Другим речима, вештачка интелигенција у сенци може се понашати као аутоматизација сенке, и зато повећава безбедносни ризик брже него што већина тимова очекује.
Ево безбедносне празнине: вештачка интелигенција у сенци проширује површину напада без промене контрола. На пример, један агент може да унесе непоуздан садржај, прати скривена упутства, а затим позове алате који додирују производне системе. Сходно томе, ризик није само цурење података; то је и недозвољене радње извршено брзином машине.
Ако желите практичну дефиницију, можете је интерно цитирати: Сенка вештачке интелигенције (AI) је било која AI способност која се користи без управљања и која може да приступи осетљивим подацима или да покрене стварне акције. Сходно томе, прави одговор није „забрана вештачке интелигенције“. Уместо тога, потребна вам је видљивост, најмање привилегија, управљање вештинама и ревизија позива алата како бисте контролисали вештачку интелигенцију у сенци без успоравања испоруке.
Шта је Схадов АИ?
Сенка вештачке интелигенције је употреба вештачке интелигенције алата, модела или токова рада агената без формалног одобрења, праћења или управљања од стране ИТ или безбедности. То укључује несанкционисане четботове, екстензије прегледача, IDE копилоте и локалне или хостоване агенте повезане са enterprise алати. Најважније је да вештачка интелигенција у сенци ствара слепе тачке у руковању подацима, контроли приступа и могућностима ревизије. Стога, рутинске активности програмера могу претворити у ризик по безбедност и усклађеност.
Shadow AI vs Shadow IT vs Agentic Shadow AI
Сенка вештачке интелигенције (AI) се преклапа са сенкама ИТ-а, али се понаша другачије. Пре свега, системи вештачке интелигенције могу учите из улазних података скала деcisјона, док агенти такође могу извршавати радње путем алата и токена. Као резултат тога, тимовима је потребан јаснији модел онога што бране.
| Димензија | Схадов ИТ | Схадов АИ | Агентска сенчена вештачка интелигенција |
|---|---|---|---|
| Шта је то | Неодобрени софтвер или услуге | Неодобрени алати вештачке интелигенције који се користе за рад | Неодобрени AI агенти који могу позивати алате и извршавати акције |
| Типичан пример | Несанкционисани SaaS, додаци, скрипте | Лични четбот или АИ едитор који се користи са подацима компаније | Агент повезан са репозиторијумима, CI/CD, имејл, тикети, cloud API-ји |
| Главни ризик | Изложеност података, празнине у усклађености, неуправљани приступ | Цурење података, заобилажење смерница, непраћено коришћење модела | Неовлашћене радње, злоупотреба привилегија, крађа података уз помоћ алата |
| Брзина ризика | Умерена | брзо | Веома брзо (аутоматизација + акредитиви) |
| Путеви напада | Злоупотреба акредитива, небезбедне конфигурације, злоупотреба OAuth-а | Убризгавање промпта, осетљиво евидентирање промпта, проблеми са задржавањем података | Убризгавање алата, ланац снабдевања вештинама, преузимање из прегледача у локалну мрежу, пребацивање токена |
| Изазов видљивости | Сенчене апликације и непознати добављачи | Непозната употреба вештачке интелигенције + нејасни токови података | Непозната употреба вештачке интелигенције + скривени позиви алата + нејасна атрибуција |
| Најбоља прва контрола | SaaS откривање + управљање приступом | Одобрен АИ каталог + правила редакције + евидентирање | Инвентар агента + најмање привилегије + евидентирање позива алата |
| Како изгледа „добро“ | Одобрени каталог, једнократно пријављивање, евидентирање, преглед добављача | Одобрени AI каталог, контроле задржавања, безбедно руковање подацима | Одобрено време извршавања агента, вештине на дозвољеној листи, ограничени токени, ревидиране радње |
Зашто су ризици OpenClaw агента важни за DevSecOps
Ризици OpenClaw агента су важни јер агенти мењају безбедносни модел са „унос података, слање текста“ на подаци улазе, акције излазе. ин а схадов АИ сценарио, што значи да један програмер може да покрене неуправљаног агента који се повезује са репозиторијумима, CI/CD, cloud API-је и алате за размену порука. Као резултат тога, вештачка интелигенција у сенци се претвара у аутоматизација сенке са акредитивима.
Та промена крши уобичајене претпоставке. На пример, тимови често третирају „локалне агенте“ као нискоризичне јер раде на лаптопу или се везују за локални хост. Међутим, недавни инциденти са OpenClaw-ом показују да прегледач може постати мост, токени могу бити изложени, а алатни капије могу бити преузете, чак и у подешавањима „само за локално коришћење“.
Укратко, када агент може да позове алате, ваш модел претње мора да укључује крађа токена, злоупотреба позивања алата, компромитовање ланца снабдевања вештинама и индиректно убризгавањеУ супротном, пропустићете најризичнији део вештачке интелигенције у сенци.
Најтежи инциденти са OpenClaw-ом (потврђено)
1) CVE-2026-25253 — Преузимање једним кликом / RCE путања преко злонамерног линка
Утицај: Максимално (велика вероватноћа + велики утицај)
Шта је то омогућило (висок ниво):
- OpenClaw би могао да добије
gatewayUrlиз низа упита и аутоматски отворити WebSocket везу без упита, слање вредности токена у процесу. - Та изложеност токенима може омогућити преузимање капије и злоупотребу низводно у зависности од дозвола и конфигурације.
Зашто је тако озбиљно:
Претвара „кликни на линк“ у „компромитовање ланца алата агента“, што је управо начин на који се вештачка интелигенција у сенци постаје аутоматизација сенке са акредитивима.
2) ClawJacked — вебсајт који се не уклапа са сервером → груба сила локалног хоста WebSocket → потпуно отимање агента
Утицај: Веома високо (тихо + скалабилни образац)
Шта је то омогућило (висок ниво):
Злонамерна веб локација може да отвори WebSocket везу са лоцалхост и циљају локалну услугу компаније OpenClaw.
Са слабом аутентификацијом заснованом на лозинки, нападачи би могли грубом силом да украду лозинку и добију поуздан приступ, омогућавајући потпуна контрола инстанце агента.
Зашто је тако озбиљно:
То крши претпоставку „локални хост је безбедан“. У пракси, прегледач постаје мост, тако да „само локално“ није права граница.
3) Злоупотреба екосистема вештина: ToxicSkills + злонамерне ClawHub вештине (ланац снабдевања вештинама агента)
Утицај: Од највишег до максималног (скала + перзистентност)
Шта је то омогућило (висок ниво):
Злонамерно или рањиво вештине могу се понашати као зависности: инсталиране са тржишта, ажуриране независно и често раде са дозволе на нивоу агента.
Независна истраживачка анализа 3,984 пронађене вештине агента КСНУМКС% (КСНУМКС) имао је барем један критичан проблем, укључујући дистрибуција злонамерног софтвера, брзо убризгавање и откривене тајне.
Примери из стварног света приказују нападачима који испоручују „вештине“ са крипто тематиком за ширење злонамерног софтвера или крађу осетљивих података путем социјалног инжењеринга и замаскираних команди.
Зашто је тако озбиљно:
Ово је ризик ланца снабдевања, али за агенте: „вештина“ може наследити способност агента да чита датотеке, приступа тајнама или извршава акције алата.
| Инцидент | Врста напада | Интеракција корисника | Примарна последица | Извори |
|---|---|---|---|---|
| ЦВЕ-КСНУМКС-КСНУМКС | Злонамерни линк → низ упита gatewayUrl → изложеност токена → преузимање капије / RCE путања | једним кликом (UI:R) | Компромитовање мрежног пролаза; могуће низводно извршавање у зависности од дозвола | НВД (НИСТ) INCIBE-CERT Хакерске вести |
| Канџасти | Пролазни сајт → локални хост ВебСокет → груба сила → отмица агента | Посетите сајт | Потпуно преузимање локалног агента; приступ логовима/конфигурацијама/подацима | Оазис Секјурити ТецхРадар Хакерске вести |
| ToxicSkills / злонамерне ClawHub вештине | Тржиште вештина као ланац снабдевања (злонамерни софтвер, убризгавање, откривање тајни) | Променљива (вештина инсталирања/коришћења) | Компромитовање на нивоу агента путем наслеђених дозвола и злонамерног понашања вештина | Томов хардвер Хакерске вести |
Случај употребе: смањење ризика од OpenClaw Shadow AI помоћу DevSecOps тока рада
OpenClaw је корисна студија случаја јер показује како схадов АИ постаје прави оперативни ризик: агент ради „локално“, повезује се са репозиторијумима и pipelineс, и изненада посета прегледачу, токен или вештина треће стране могу се претворити у преузимање. Циљ није забранити агенте. Уместо тога, циљ је осигурати да рад који воде агенти тече кроз исте контроле којима већ верујете за код и ланац снабдевања.
Корак 1: Третирајте „вештине“ агента као зависности, а не као безопасне додатке
Већина инцидената са вештачком интелигенцијом у сенци не почиње софистицираним експлоатацијом. Они почињу усвајањем: програмер инсталира агента, додаје неколико вештина и даје му приступ „како би радио“. Од тог тренутка, екосистем агента се понаша као екосистем пакета: вештине се ажурирају, појављују се помоћни скриптови, а непоуздан код може тихо да уђе.
Дакле, први корак је промена начина размишљања: све што агент може да инсталира или изврши је део вашег ланца снабдевања. ин а Xygeni ток рада, то значи да не чекате извештај о кршењу безбедности. Фокусирате се на раније сигнале да је компонента ризична или потпуно злонамерна, тако да усвајање престаје пре него што се прошири на репозиторијуме и машине програмера.
Шта се мења у пракси
- Тимови престају да копирају и лепе „конфигурације радних агента“ без прегледа
- Нове вештине и помоћни пакети се третирају као пријем зависности, а не као лични алати
Корак 2: Учините захтеве за промену контролном тачком, чак и када је агент написао промену
Агенти убрзавају промене. То је поента. Међутим, прича о OpenClaw-у показује колико брзо „мале промене“ постају безбедносни догађаји када су укључени токени и алатни капије. Стога, ослањање на „опрез програмера“ није довољно.
Уместо тога, усмерава излаз агента кроз pull requests и спровести скенирање у време захтева за претходни захтев (PR). На тај начин, чак и ако агент предложи повећање зависности, подешавање скрипте за изградњу или измену CI тока рада, захтев за претходни захтев (PR) постаје уско место где се примењује политика. Xygeni се овде природно уклапа јер је изграђен за CI/CD и PR токови рада, тако да се ризичне промене хватају пре него што се споје.
Типичне промене које покрећу агенти, а које желите да буду контролисане
- Надоградње зависности и пребацивање закључаних датотека
- Направите скрипте и инсталирајте hooks
- Измене CI тока рада (дозволе, коришћење тајни, мрежни позиви)
- Нови кораци аутоматизације који се извршавају са повећаним правима
Корак 3: Дајте приоритет ономе што ће нападачи користити, а не само ономе што скенери пронађу
Вештачка интелигенција у сенци повећава обим. Више аутоматизације значи веће померање зависности, већи проток конфигурација и више „малих промена“ недељно. Сходно томе, тимови се могу удавити у налазима, осим ако се приоритизација не усклади са стварном експлоатацијом.
Овде је контекст експлоатације важан. Ако је вероватно да ће један проблем бити искоришћен, а други не, ваш ток рада треба да одражава ту разлику. Xygeni-јев приступ одређивања приоритета је дизајниран за ову стварност: смањити буку фокусирањем санације на оно што је највероватније важно у пракси.
Једноставно правило које се скалира
- Блокирајте или убрзајте решавање проблема са највећим ризиком у стварном свету
- Одложите шум ниског сигнала како би инжењери безбедно наставили са испоруком
Корак 4: Престаните да претпостављате да је „localhost безбедан“
ClawJacked функционише као лекција јер напада претпоставку коју многи тимови и даље имају: „ако је локално, у реду је“. У стварности, локални gateway-и и локални кориснички интерфејси и даље захтевају размишљање на нивоу производње. Прегледач је део површине претње, а „само локално“ није граница на коју се можете ослонити.
Дакле, ојачавате локалне сервисе као што бисте то урадили са било којим осетљивим интерфејсом:
- Јака аутентификација (не само лозинка коју је човек изабрао)
- Ограничења брзине и закључавања
- Нема понашања аутоматског повезивања које верује непровереним улазима
- Ограничите ко може да се повеже и одакле
Иако Xygeni није локални заштитни зид (фајервол) (localhost firewall), помаже у смањењу практичног утицаја образаца „локалног заобилажења“ (local bypass) премештањем спровођења на pipeline и платформа. Када су контроле присутне CI/CD политике безбедносног стања, вештачка интелигенција у сенци је мање склона да их заобиђе „јер је била локална“.
Корак 5: Пазите на абнормално понашање које изгледа као злоупотреба ланца снабдевања
Инциденти у стилу OpenClaw-а често деле заједнички начин отказа: нешто се тихо промени, а затим токови рада почињу да се понашају другачије. Зато су сигнали усмерени на аномалије важни. Ако окружење изненада почне да повлачи необичне зависности, брзо објављује верзије или показује обрасце који су у складу са злоупотребом ланца снабдевања, желите да се то рано означи.
Ксигенијево откривање аномалија и рано упозоравање је у складу са тим циљем: рано откривање сумњивих образаца, пре него што постану понављајући инциденти у различитим тимовима.
Сигнали на које вреди обратити пажњу
- Изненадни скокови у променама зависности међу репозиторијумима
- Нови пакети/вештине са ниском репутацијом или чудним обрасцима ажурирања
- Неочекивани CI кораци који преузимају окружења за извршавање или извршавају скрипте
- Необични мрежни позиви из контекста изградње
За понети
Овај ток рада намерно није „специфичан за агента“. То је DevSecOps образац који функционише за сенковиту вештачку интелигенцију у великим размерама: третира вештине попут зависности, промене капија у време PR/CI, даје приоритет ономе што се може искористити, престаје да верује локалном хосту подразумевано и рано открива абнормално понашање ланца снабдевања. Тако смањујете схадов АИ ризик без успоравања испоруке.
Безбедност сенчене вештачке интелигенције: Шта ово значи за DevSecOps тимове
Вештачка интелигенција у сенци више није споредна тема. У 2026. години, она све више значи агенти са стварним дозволама, што претвара једноставне грешке у инциденте изазване алатима. OpenClaw је најјаснији подсетник: ризик није само оно што модел „каже“, већ оно што агент може do са токенима, капијама и вештинама.
Сходно томе, најефикаснији одговор је практичан, а не теоријски. Третирајте вештине агента као зависности, усмеравајте излаз агента кроз PR и CI/CD guardrailsи престаните да претпостављате да је „localhost безбедан“. Истовремено, дајте приоритет ономе што је заправо могуће искористити како би тимови могли да наставе са испоруком без да се удаве у буци.
На крају крајева, не морате забранити агенте да бисте контролисали безбедност вештачке интелигенције у сенциМорате се уверити да токови посла вођени агентима не могу заобићи исти ланац снабдевања и контроле испоруке које већ штите животни циклус вашег софтвера.
