Датотека вештина. Датотека правила. Конфигурација MCP сервера. Три реда обичног текста, commitтед као документација, прегледан као документација, и ниједан од њих не личи на код. Па ипак, сваки од њих може тихо да препише оно што је вашем вештачкој интелигенцији помоћнику наложено да ради и шта му је дозвољено да досегне. То је непријатна истина која стоји иза безбедности вештачке интелигенције. у КСНУМКСИндустрија је провела две године бринући се о томе шта садржи код генерисан вештачком интелигенцијом. Тежи проблем се испоставио као сам ланац снабдевања вештачком интелигенцијом: модели, агенти, MCP сервери и конфигурационе датотеке које се сада налазе поред вашег изворног кода и зависности отвореног кода, углавном неинвентарисане и непрегледане. Управо зато је безбедност ланца снабдевања вештачком интелигенцијом постала засебна дисциплина и зато је избор праве компаније за безбедност вештачке интелигенције једнако важан као и избор правог скенера.
Површина за напад коју нико није предвидео у буџету
Софтвер је раније имао неколико места на која је нападач могао да доспе: код, зависности, pipelineВештачка интелигенција је додала још два, и оба се директно укључују у ланац снабдевања вештачком интелигенцијом.
Модел и агент. Тровање алата, брзо убризгавање, аутономија агента која иде даље него што је ико намеравао. Скривена инструкција у опису MCP сервера може тихо преусмерити оно што копилот ради, а програмер то никада не види.
Сопствено окружење програмера. IDE-ови, AI копилоти, MCP сервери, агентски CLI-јеви. Невидљиви за старе AppSec скенере, који не знају шта је модел, и невидљиви за EDR, који прати оперативни систем и нема појма шта је зависност или MCP позив.
Ништа од овога није теоретски. У последњих осамнаест месеци:
- Скривени „бекдор“ за датотеку са правилима, направљен у Уникоду, омогућава нападачима да убризгавају невидљиве инструкције у конфигурационе датотеке које Copilot и Cursor читају, тихо откривајући код који је асистент генерисао. GitHub је додао упозорење за то 2025. године.
- Грешка убризгавања команди у популарном MCP мосту (CVSS 9.6) достигла је преко 400,000 преузимања пре него што је исправљена, што је први документовани случај потпуног даљинског извршавања кода покренутог једноставним повезивањем са непоузданим MCP сервером.
- Саморазмножавајући npm црв претворио је саме програмере у механизам испоруке, а образац се поновио у великим размерама у наредним месецима у другим екосистемима, што је уџбенички пример неуспеха безбедности ланца снабдевања вештачком интелигенцијом.
- Истраживачи су открили да значајан део пакета које LLM-ови препоручују уопште не постоје, односно „немарна“ имена која нападач региструје пре него што прави програмер уопште затражи од модела да их увезе.
Гуглово сопствено истраживање о обезбеђивању ланца снабдевања софтвером за вештачку интелигенцију долази до сличног закључка из другог угла: модели пронађени у оптицају 2023. и 2024. године изгледали су легитимно док су носили код који је могао да изкраде податке или постави задња врата након преузимања, а решење није била толико нова категорија алата колико примена дисциплине ланца снабдевања, попут порекла и потписивања, на артефакте које нико раније није пратио. То је проблем безбедности ланца снабдевања вештачком интелигенцијом у једној реченици: артефакти су нови, али дисциплина која им је потребна није.
Зашто ваши постојећи алати престају да раде
SAST чита код. SCA чита манифест зависности. Ниједно од њих не зна шта је модел, шта MCP сервер открива или шта датотека вештина налаже агенту да уради. Та празнина је управо место где се спуштају напади ере вештачке интелигенције, у простору између „кода који скенирамо“ и „вештачке интелигенције коју смо тихо усвојили“.
Резултат је категорија сенке вештачке интелигенције не CISО тренутно може да одговори на питања: које моделе користимо, који агенти могу да дођу до чега и на који MCP сервер се неко повезао прошлог уторка, а да није никоме рекао. Добар одговор на то питање је посао безбедности ланца снабдевања помоћу вештачке интелигенције и то је разлог зашто генерички AppSec алати стално не успевају.
Шта заправо значи безбедност вештачке интелигенције
Ксигени је компанија за безбедност заснована на вештачкој интелигенцији која ово третира као три повезана покрета широм SDLC: открити, детектовати и спровести.
Откријте: сазнајте коју вештачку интелигенцију заправо поседујете
Континуирано, аутоматско откривање у вашим репозиторијумима приказује сваку вештачку интелигенцију: моделе, оквире, скупове података, крајње тачке закључивања, агенте, MCP сервере, вештине, упите, guardrails, и алате за вештачку интелигенцију које ваши програмери заправо користе. Нема анкета. Нема самосталног извештавања. Ако је оставило траг у спремишту, појављује се у инвентару, што је први и најосновнији захтев безбедности правог ланца снабдевања вештачком интелигенцијом.
График вештачке интелигенције затим мапира како се та средства повезују: који модел скуп података користи, који агент позива који алат, који MCP сервер се налази иза ког асистента. Инструмент сам по себи вам мало говори. График вам показује где се ризик концентрише.
Из истог открића, Xygeni генерише AI-BOM: инвентар свега што је везано за вештачку интелигенцију у вашем софтверу, спреман за ревизију и читљив за машину. Када регулатор, ревизор или купац пита коју вештачку интелигенцију користите, одговор постаје преузимање уместо тронедељне муке.
Детекција: ризика које конвенционални скенери не могу да виде
Наменски скенер вештачке интелигенције тражи начине отказа који су специфични за системе вештачке интелигенције: убризгавање промпта, убризгавање алата и непоуздано позивање алата, цурење података путем преузимања, заобилажење системског промпта, прекомерна агенција. Сваки налаз се мапира на OWASP Топ 10 за пријаве за мастер студије права (LLM) и указује на тачну датотеку и линију која ствара изложеност, а не на нејасно упозорење „прегледајте употребу вештачке интелигенције“.
Исти слој за детекцију третира датотеке вештина, датотеке правила и MCP конфигурације као безбедносне артефакте какви јесу, а не као безопасну документацију. Он означава злонамерне или заражене вештине, прегледа конфигурације MCP сервера у потрази за тровањем алата и приказује упите који заправо покрећу ваша AI оптерећења.
Дајте приоритет: левку који смањује буку, а не углове
Сваки налаз се прогресивно филтрира: до онога што је доступно у коду апликације, затим до онога што је заиста искористиво, а затим до онога што се налази у коду који ваш тим активно развија. Оно што доспева до реда програмера је кратка листа онога што заправо угрожава продукцију, са приложеном референцом фрејмворка, прозором изложености и смерницама за ублажавање.
Спровести: заустави га пре него што се покрене
Shield доноси спровођење смерница на крајњу тачку самог програмера: блокира неовлашћене и злонамерне инсталације, неодобрене моделе и несанкционисане MCP сервере пре него што се било шта изврши. Испод тога се налази Xygeni-јев... Рано упозоравање на злонамерни софтвер (MEW), који хвата злонамерне пакете пре него што постоји потпис, алати засновани на репутацији слоја и даље верују јер још нико није пријавио пакет. То је половина спровођења безбедности ланца снабдевања вештачком интелигенцијом: откривање и детекција вам говоре шта није у реду, Shield је оно што га заправо зауставља.
Ваша изложеност вештачкој интелигенцији није само у вашем вештачком коду
Комплетна слика безбедности ланца снабдевања вештачком интелигенцијом захтева више од модела инвентара, а ретко се ради само о упадљивим стварима:
- Акредитиви добављача вештачке интелигенције остављено у датотекама промпта, конфигурацијама агента или pipeline Логови су тајне као и све друге, а Xygeni-јево откривање тајни их хвата пре него што стигну до јавног регистра.
- Рањиве зависности од вештачке интелигенције и машинског учења носе обичне CVE-ове, откривене истом анализом састава софтвера која већ покрива остатак вашег стека. Истраживање треће стране о усвајању вештачке интелигенције указало је на то колики део модерног стека вештачке интелигенције чине екстерно набављени пакети и скривене компоненте, што је управо оно што је анализа састава површинског софтвера и направљена да покрије.
- Злонамерни пакети објављено брже од било ког саветодавног pipeline можете их каталогизовати, ухваћени су пре потписивања, иста MEW могућност штити остатак вашег ланца снабдевања.
Агентски слој: DevAI и CoreAI
Откривање и детекција покривају оно што се већ налази у вашим спремиштима. ДевАИ Ради тамо где се ризик ствара: унутар IDE-а, као континуирани, проактивни слој који скенира људски и вештачки генерисан код док се пише, без потребе за упитима. Објашњава комплетан пут експлоатације иза открића и предлаже MCP-валидане поправке које програмер може применити са сигурношћу, без оштећења верзије.
CoreAI налази се изнад појединачних скенера као слој интелигенције: он корелира код, зависност, pipeline, и податке о положају у један модел ризика, одговара на питања природним језиком и производи извештаје спремне за руководиоце који су лидеру безбедности потребни да покаже да се управљање заиста дешава, а не само тврди.
Проширите оно што имате у AI безбедности. Немојте ништа да кидате.
Најчешћи приговор на нову безбедносну категорију је „већ имамо довољно алата“. Као компанија за безбедност заснована на вештачкој интелигенцији, Xygeni вас не тражи да било шта замените: иста тријажа, објашњење и одређивање приоритета које се примењује на сопствене налазе подједнако се примењују и на налазе из ваших постојећих SAST, SCA, и скенере трећих страна. Ваш тренутни стек постаје улаз, а не жртва, а безбедносно стање вашег ланца снабдевања вештачком интелигенцијом се побољшава без пројекта „рипај и замени“ који је повезан са њим.
Зашто је ово важно сада, а не касније
Регулатори се слажу око истог очекивања из различитих праваца: Закон ЕУ о вештачкој интелигенцији, NIS2 и шпански ENS сви се залажу за инвентарисање и следљивост за вештачку интелигенцију система, исте доказе које вештачка инвентаризација (AI-BOM) треба да произведе. Правац кретања је јасан чак и тамо где се тачне механике усклађености још увек успостављају: не можете потврдити да вештачка интелигенција никада није била инвентарисана и не можете тврдити да је ланац снабдевања вештачком интелигенцијом безбедан ако вам је сам ланац снабдевања невидљив.
Избор компаније за безбедност засновану на вештачкој интелигенцији
Не свака компанија за безбедност засновану на вештачкој интелигенцији не поставља своје границе на истом месту. Неки се заустављају на скенирању вашег сопственог кода генерисаног од стране вештачке интелигенције. Други се заустављају на крајњој тачки. Безбедносно питање ланца снабдевања вештачком интелигенцијом је веће од било ког сегмента засебно: оно обухвата модел, агента, MCP сервер, датотеку вештина и уобичајену зависност која се налази испод свега тога. Тај преглед целог животног циклуса, од откривања до спровођења, у једној конзоли са остатком ваших AppSec налаза, је оно што треба тражити када процењујете компанију за безбедност засновану на вештачкој интелигенцији, а не јединствени алат.
Датотеке које нико не прегледа постале су улаз. Безбедност вештачке интелигенције је дисциплина њиховог прегледа, а безбедност ланца снабдевања вештачком интелигенцијом је оно што чини ту дисциплину опстанком од почетка до краја, на истој платформи где већ прегледате све остало.
Погледајте шта је вашој вештачкој интелигенцији заправо дозвољено да ради. Почните бесплатно or закажите демо.
ČPP
Да ли Xygeni-јев код икада напушта моју инфраструктуру?
Не. Скенирање се извршава унутар вашег окружења, а изворни код се никада не отпрема на Xygeni-јеве сервере. AI инвентар и AI-BOM се граде на основу онога што скенер види локално, а не на основу копије послате споља.
Која је разлика између AI Security, DevAI и CoreAI?
АИ безбедност открива и детектује: гради АИ инвентар, АИ-БОМ, и проналази ризике попут брзог убризгавања или заражених датотека вештина. DevAI ради унутар IDE-а док програмери пишу код, предлажући поправке у ходу. CoreAI се налази изнад оба, корелирајући налазе на целој платформи и одговарајући на питања о вашем безбедносном стању природним језиком.
Са којим оквирима за безбедност вештачке интелигенције се Xygeni усклађује?
Резултати се поклапају са OWASP топ 10 листом за пријаве за мастер студије права (LLM), OWASP топ 10 листом за MCP и OWASP топ 10 листом за агентске вештине, заједно са NIST SP 800-218A и CISСмернице А/Г7 о вештачкој интелигенцији (AI-BOM). То мапирање је оно што чини AI-BOM употребљивим као доказ о усаглашености, а не само као инвентар.
Да ли ће ово означити сваку библиотеку или модел вештачке интелигенције као ризик?
Не. Левак приоритетизације сужава налазе на оно што је доступно у коду апликације, заиста искористиво и у активном развоју, тако да је листа коју програмер види кратка, а не дамп сваког откривеног вештачког интелигенцијског средства.
