Спытайце ў кіраўніка службы бяспекі, колькі інструментаў штучнага інтэлекту зараз датыкаюцца да дадзеных кампаніі, і вы атрымаеце дакладную лічбу. Яна будзе няправільнай, і не таму, што хтосьці штосьці хавае. Большасць ценявога штучнага інтэлекту не пакідаюць нічога, што можна знайсці: ні ўстаноўкі, ні ліцэнзіі, ні радка. Укладка браўзера і асабісты login дастаткова. Гэты разрыў паміж штучным інтэлектам, які ахоплівае ваша палітыка, і штучным інтэлектам, які фактычна выкарыстоўвае ваша арганізацыя, з'яўляецца прычынай рызыкі ценявога штучнага інтэлекту, і ён ператварыўся з зноскі ў адну з самых хуткарослых катэгорый у AppSec. У гэтым кіраўніцтве апісваецца, як выяўляць і ліквідаваць ценявы штучны інтэлект на практыцы, а таксама сігналы выяўлення і этапы кіравання, якія застаюцца актуальнымі пасля завяршэння аўдыту.
Рызыка ценявога штучнага інтэлекту ў адным абзацы
Ценявы штучны інтэлект (Shadow AI) — гэта любы інструмент, мадэль, агент або выклік API штучнага інтэлекту, які працуе ўнутры вашай арганізацыі без праверкі бяспекі або ІТ-аддзела. Гэта прамы пераемнік ценявога ІТ, але яго цяжэй злавіць: ценявое ІТ звычайна пакідала запіс аб закупках або сеткавы подпіс, з якім мог параўнаць CASB. Ценявы ШІ часта не пакідае ні таго, ні другога. Супрацоўнік устаўляе кантракт у чат-бот, які ўвайшоў у асабісты ўліковы запіс, або распрацоўшчык перадае ключ API ад пастаўшчыка мадэлі непасрэдна ў скрыпт, і нічога з гэтага не дакранаецца да інвентара пастаўшчыка. Дзве незалежна апублікаваныя лічбы паказваюць, колькі рызыкі ценявога ШІ ўжо назапасілася: 80% супрацоўнікаў выкарыстоўваюць інструменты ШІ, якія іх арганізацыя не ўхваліла, паводле справаздачы Unseen Security аб стане ценявога ШІ за 2026 год, і 86% арганізацый заяўляюць, што ім не хапае бачнасці таго, як дадзеныя насамрэч паступаюць да і ад інструментаў ШІ, якія ўжо выкарыстоўваюцца.
Чаму рызыка ценявога штучнага інтэлекту перарасла ценявое ІТ
Тры змены тлумачаць, чаму рызыка ценявога штучнага інтэлекту змянялася хутчэй, чым кіраванне, пабудаванае для барацьбы з ценявымі ІТ, і ніводная з іх не з'яўляецца незваротнай.
- Штучны інтэлект больш не патрабуе ўсталёўкі. Інструменты, якія вызначалі ценявыя ІТ (несанкцыянаваны SaaS, несанкцыянаваныя пашырэнні браўзера), пакінулі доказы ў інвентары актываў. Памочнік штучнага інтэлекту, адкрыты ў ўкладцы браўзера, або API мадэлі, выкліканы з асабістай карткі, не пакідаюць нічога, што магло б быць адзначана маніторынгам канчатковых кропак або закупкамі.
- Штучны інтэлект перамясціўся ўнутр інструментаў, якія вы ўжо ўхвалілі. Функцыі ў стылі Copilot цяпер убудаваныя ў платформы, якія ўжо знаходзяцца ў белым спісе. Платформа была разгледжана. Магчымасці штучнага інтэлекту ў ёй ціха ўключаліся, але звычайна гэтага не адбывалася.
- Аб'ём перайшоў ад кіравання чалавекам да машыннага маштабу. Каманда ThreatLabz з Zscaler прааналізавала 536.5 мільярда транзакцый штучнага інтэлекту і машыннага навучання па ўсёй сваёй воблацы і зафіксаваў павелічэнне на 3 464,6% у параўнанні з аналагічным перыядам мінулага года enterprise Трафік штучнага інтэлекту/машыннага навучання. Менавіта такія маштабы змяненняў тлумачаць, чаму ацэнка рызык, выкліканых штучным інтэлектам, зробленая год таму, ужо састарэла, і чаму аўдыты на пэўны момант часу працягваюць саступаць праблеме, якая пагаршаецца штомесяц.
Дзе насамрэч хаваецца ценявы штучны інтэлект
Каманды бяспекі, якія шукаюць рызыкі ценявога штучнага інтэлекту з дапамогай інструментаў ценявога ІТ, звычайна вяртаюцца з няпоўным спісам, бо месцы, дзе можна схавацца, адрозніваюцца:
- Інструменты на аснове браўзера без неабходнасці выкарыстання канцавых кропак. Штучны інтэлект цалкам працуе ва ўкладцы. Няма агента для выяўлення, няма чаго ўсталёўваць.
- Функцыі штучнага інтэлекту, убудаваныя ў санкцыянаваныя платформы. Платформу пераглядалі. Функцыя штучнага інтэлекту, якая ўбудоўвалася пазней, звычайна не пераглядалася.
- Выкарыстанне API за асабістыя выдаткі. Распрацоўшчык размяшчае API мадэлі на асабістай картцы і выклікае яго непасрэдна з кода. Ён ніколі не даходзіць да закупак, а значыць, і да інвентара.
- Неправераныя інструкцыі і файлы навыкаў агента. Інструменты агентнага кадавання ўсё часцей прытрымліваюцца інструкцый, запісаных непасрэдна ў рэпазітар (файлы навыкаў, правілы агентаў), і гэтыя файлы могуць падключыць агента да мадэлі, набору дадзеных або сервера MCP, на якім ніхто не выходзіў на сувязь.
Як выявіць і ліквідаваць ценявы штучны інтэлект
Веданне таго, як выяўляць і ліквідаваць ценявы штучны інтэлект, азначае разглядаць яго як дзве асобныя праблемы, якія павінны ісці разам: знайсці тое, што ўжо існуе, і пераканацца, што яно не вернецца некіраваным.
Выяўленне: тры сігналы, якія працуюць разам
Ніводнае аднаразовае сканаванне не выяўляе ўсю рызыку ценявога штучнага інтэлекту, бо кожнае схованка зверху пакідае розны след.
- Журналы сеткі і проксі-сервера. У журналах вашага брандмаўэра, проксі-сервера і DNS ужо запісаны выходныя выклікі да канчатковых кропак пастаўшчыка штучнага інтэлекту, незалежна ад таго, ці быў інструмент ухвалены. Варта разгледзець заканамернасці, якія варта ўлічваць, — гэта частая перадача выклікаў API з аднаго хоста, вялікія выходныя карысныя нагрузкі або аўтаматызаваны трафік да канчатковай кропкі мадэлі ў непрацоўны час.
- Сігналы ідэнтыфікацыі і доступу. Сеткавыя журналы паведамляюць, што інструмент выкарыстоўваецца; ваш пастаўшчык ідэнтыфікацыйных дадзеных паведамляе, хто за ім стаіць і колькі доступу ён перадаў. Сачыце за грантамі OAuth неправераным праграмам штучнага інтэлекту, уваходам у інструменты штучнага інтэлекту з асабістых, а не карпаратыўных уліковых запісаў, і актыўнасцю API службовых уліковых запісаў, якую ніхто не можа растлумачыць.
- Выяўленне актываў і на ўзроўні кода. Гэта пласт standard Інструменты ценявых ІТ не ўлічваюцца, і гэта тычыцца таго, як штучны інтэлект адлюстроўваецца ў праграмным забеспячэнні: мадэлі, наборы дадзеных, канчатковыя кропкі вываду, агенты, серверы MCP і інструменты кадавання штучнага інтэлекту, на якія спасылаюцца непасрэдна ў рэпазіторыях, pipelineі файлы навыкаў, а не толькі ў трафіку браўзера. Без гэтага пласта вы можаце бачыць Што быў выкліканы API мадэлі; вы не бачыце які агент патэлефанаваў яму з які pipeline, або да чаго гэта звязана, а менавіта куды Рызыка ценявога штучнага інтэлекту ператвараецца ў інцыдэнт у ланцужку паставак а не парушэнне палітыкі.
Пазбаўцеся ад гэтага: чатыры крокі, якія дапамогуць вам замацавацца
Выяўленне паказвае, што ўжо працуе. Ператварэнне гэтага ў нешта трывалае патрабуе чатырох крокаў, якія выконваюцца як цыкл, а не як аднаразовы аўдыт, бо рызыка ценявога штучнага інтэлекту змяняецца хутчэй, чым можа адсачыць любы штогадовы агляд.
- Стварыце адзін інвентар, а не тры. Традыцыйныя актывы (рэпо, pipeline(кантэйнеры) і рэсурсы штучнага інтэлекту (мадэлі, наборы даных, агенты, серверы MCP, інструменты кадавання) павінны знаходзіцца ў адным выглядзе з адлюстраванымі сувязямі паміж імі. Інструмент штучнага інтэлекту, які сам па сабе выглядае бяскрыўдна, можа стаць сапраўдным выкрыццём, калі вы ўбачыце, які набор даных яму перадае даныя і з якой канцавой кропкай ён мае зносіны.
- Класіфікуйце, перш чым пісаць палітыку. Правіла, якое забараняе «канфідэнцыйныя даныя ў інструментах штучнага інтэлекту», нічога не значыць, калі ніхто не можа сказаць, якія даныя маюць значэнне. Ведайце, дзе знаходзяцца рэгуляваныя і канфідэнцыйныя даныя, і хай гэтая класіфікацыя вырашае, якія выпадкі выкарыстання штучнага інтэлекту падыходзяць, а якія ніколі не пакідаюць будынка.
- Дайце камандам больш хуткі зацверджаны шлях, а не больш доўгі спіс забарон. Людзі карыстаюцца ценявымі штучнымі інтэлектамі, таму што зацверджаны варыянт павольнейшы за ўкладку, якая ўжо адкрыта перад імі. Рэгуляваны каталог зацверджаных мадэляў і агентаў, у якім уліковыя дадзеныя выдалены ад распрацоўшчыкаў, ліквідуе прычыну абыходзіць гэтую палітыку.
- Выконвайце там, дзе рэальна дзейнічае рызыка: пры ўсталёўцы і выкліку. Блакіроўка мадэлі ў дакуменце не перашкаджае агенту ўсталёўваць яе. Прымусовае выкананне павінна адбывацца ў момант усталёўкі пакета або выкліку API, каб заблакаванае дзеянне аўтаматычна не выконвалася, а не залежала ад таго, ці хтосьці памятае правіла.
Што азначае рызыка ценявога штучнага інтэлекту для AppSec, а не толькі для ІТ
Большасць рэкамендацый па ценявому штучнаму інтэлекту разглядаюць гэта выключна як праблему прадухілення страты дадзеных, і DLP з'яўляецца яе рэальнай часткай. Але ўсё большая доля рызыкі ценявога штучнага інтэлекту наогул не адлюстроўваецца ў браўзеры: яна адлюстроўваецца як выдуманы пакет, які спрабаваў усталяваць агент, сервер MCP, які ніхто не праверыў, або памочнік праграміста з пастаянным доступам да рэпазітара, да якога ён ніколі не меў права дакранацца. Гэта не ценявое ІТ з пазнакай штучнага інтэлекту. Гэта новая катэгорыя рызыкі ланцужка паставак праграмнага забеспячэння, і яна патрабуе той жа дысцыпліны, якую AppSec ужо ўжывае да любой іншай залежнасці: ведаць, што там ёсць, правяраць гэта і аўтаматызаваць праверку, замест таго, каб спадзявацца, што кожны распрацоўшчык не забудзе праверыць.
Спыніце кіраванне штучным інтэлектам з дапамогай электроннай табліцы
Праблема не ў намаганнях, а ў бачнасці: большасці каманд не хапае аднаго месца, дзе б захоўваліся рэсурсы штучнага інтэлекту, код і… pipelineз'яўляюцца разам, што роўна адлегласці паміж «у нас ёсць ценявая палітыка ў дачыненні да штучнага інтэлекту» і «мы можам рэальна яе выконваць».
У гэтым і праблема Ксігені Бяспека штучнага інтэлекту пабудавана вакол. Інвентарызацыя штучнага інтэлекту бесперапынна і аўтаматычна выяўляе кожны рэсурс штучнага інтэлекту ў вашых рэпазіторыях, pipelineі асяроддзі распрацоўшчыкаў: мадэлі, фрэймворкі, наборы дадзеных, канчатковыя кропкі вываду, агенты, серверы MCP і інструменты кадавання штучнага інтэлекту, такія як Copilot, Cursor або Claude Code, якія адлюстроўваюцца ў выглядзе графа суадносін з AI-BOM, які генеруецца пры кожным сканаванні. DevAI працуе як актыўная ахоўная агароджа ў тых жа асяроддзях, правяраючы файлы навыкаў і інструкцыі агента і блакуючы шкоднасныя ўстаноўкі да таго, як агент пачне дзейнічаць, без неабходнасці падказваць. А паколькі CoreAI прымяняе тую ж карэляцыю і кіраванне на аснове штучнага інтэлекту да вынікаў вашых існуючых сканераў, што і да ўласнага Xygeni, рызыка ценявога штучнага інтэлекту не знікае ў чарговым адлучаным інструменце: яна трапляе ў той жа рэжым прагляду рызык, што і ўсё астатняе ў вашым SDLC.
Пачніце бясплатна. Sign up with GitHub, GitLab або Google і атрымлівайце доступ да 25 рэпазіторыяў і 50 сканаванняў штучнага інтэлекту ў месяц бясплатна, без неабходнасці падпіскі крэдытнай карты.
Часта задаваныя пытанні
Што такое рызыка ценявога штучнага інтэлекту, кажучы простай мовай?
Рызыка ценявога штучнага інтэлекту — гэта рызыка, створаная інструментамі штучнага інтэлекту, мадэлямі, агентамі або выклікамі API, якія выконваюцца ўнутры арганізацыі без праверкі бяспекі. Паколькі большая частка гэтага не пакідае ніякіх запісаў аб усталёўцы і закупках, рызыка незаўважна нарастае, пакуль хтосьці не пачне шукаць яе наўмысна.
Як на практыцы выявіць і ліквідаваць ценявы штучны інтэлект?
Выяўленне працуе на аснове трох сігналаў, якія працуюць разам (журналы сеткі і проксі-сервера, сігналы ідэнтыфікацыі і доступу, а таксама код/pipelineвыяўленне актываў на ўзроўні), а ліквідацыя — гэта чатырохэтапны цыкл: стварэнне адзінага ўніфікаванага інвентара, класіфікацыя дадзеных перад напісаннем палітыкі, прадастаўленне камандам больш хуткага зацверджанага шляху і забеспячэнне выканання ў момант усталёўкі або выкліку API, а не ў дакуменце.
Ці з'яўляецца ценявы штучны інтэлект тым жа самым, што і ценявыя ІТ?
Падобныя, не ідэнтычныя. Shadow IT звычайна пакідаў след (усталёўку, ліцэнзію, сеткавы подпіс). Shadow AI часта не пакідае нічога з гэтага: укладку браўзера і асабістую login дастаткова, і функцыі штучнага інтэлекту цяпер убудаваныя ў ўжо зацверджаныя платформы.
Ці можа інструмент CASB або DLP самастойна выяўляць рызыку ценявога штучнага інтэлекту?
Толькі часткова. Гэтыя інструменты былі створаны для выяўлення несанкцыянаванага праграмнага забеспячэння з пэўным следам. Мадэль, выкліканая непасрэдна з кода, або функцыя штучнага інтэлекту, уключаная ўнутры зацверджанай платформы, не генеруе ніводнага з сігналаў, на якія павінен звяртаць увагу CASB. Кіраванне рызыкай ценявога штучнага інтэлекту цалкам патрабуе ідэнтыфікацыі, сеткі і кода/pipeline-роўная бачнасць разам.
Дзе менавіта ў распрацоўцы праграмнага забеспячэння найбольш часта з'яўляецца ценявы штучны інтэлект?
Акрамя чат-ботаў на базе браўзера, гэта праяўляецца ў выглядзе ключоў API, жорстка закадаваных у зыходны код, мадэляў з адкрытым зыходным кодам, якія ўкладваюцца ў праект без праверкі бяспекі, і файлаў навыкаў агентаў або падключэнняў да сервера MCP, дададзеных у рэпазітар без праверкі, менавіта ў тым узроўні, які не правяраюць агульныя інструменты ценявой ІТ.
