An Инвентар на вештачка интелигенција е континуирано ажуриран каталог на секој ресурс од вештачката интелигенција што работи низ вашата организација — модели, крајни точки управувани од вештачка интелигенција, бази на податоци, асистенти за кодирање со вештачка интелигенција, MCP сервери и зависности од вештачка интелигенција — заедно со односите, ризиците и сопствениците што ги поврзуваат. Во безбедносен контекст ова нема никаква врска со управувањето со магацини или залихи; овде, „Инвентар на вештачка интелигенција“ едноставно значи точно да знаете каква вештачка интелигенција користите, каде живее и до што може да достигне.
Бидејќи вештачката интелигенција се шири низ секоја фаза од развојот на софтвер, од генерирање код во IDE до автономни агенти кои дејствуваат внатре CI/CD pipelines, прашањето повеќе не е дали вештачката интелигенција е присутна во вашата околина. Станува збор за тоа дали можете да го видите тоа. Ова упатство објаснува што е инвентар на вештачка интелигенција, како се поврзува со АИ-БОМ и SBOM, зошто сенка АИ стана безбедносен проблем, и како практиката се мапира со Закон за вештачка интелигенција на ЕУ, НИСТ АИ РМФ ISO / IEC 42001.
Клучни преземања
- Инвентарот со вештачка интелигенција ги каталогизира сите модели, множества податоци, агенти, MCP сервери и алатки за кодирање со вештачка интелигенција низ целиот животен циклус на вашиот софтвер, а не само оние што се одобрени од ИТ.
- Сенка вештачка интелигенција, вештачката интелигенција усвоена без управување, сега е норма, а не исклучок: во едно истражување од 2026 година на лидери во безбедноста, само 19% од организациите пријавиле целосна увид во тоа каде и како се користи вештачката интелигенција.
- An AI-BOM (AI список на материјали) е излезен резултат подготвен за ревизија од инвентар на вештачка интелигенција: наследникот на ерата на вештачката интелигенција на SBOM.
- Регулативата пристигнува. Законот на ЕУ за вештачка интелигенција, NIST AI RMF и ISO/IEC 42001, сите тие ефикасно бараат од вас да знаете со каква вештачка интелигенција управувате.
- Инвентарот е само почетна точка; вредноста доаѓа од оценување на ризикот и дејствување врз основа на малиот број средства што навистина се важни.
Што е инвентар на вештачка интелигенција?
Инвентар на вештачка интелигенција е практика на откривање, каталогизирање и континуирано следење на секој ВИ ресурс што работи во текот на вашиот животен циклус на развој на софтвер, како и ризиците поврзани со секој од нив. Целосен инвентар одговара на три прашања за секој ресурс: што е тој, каде се извршува и до што може да пристапи?
Тој опсег е поширок отколку што очекуваат повеќето тимови. Еден значаен инвентар на вештачка интелигенција треба да опфати:
- Модели: секој голем јазичен модел и основен модел во употреба во развојот и производството, со доверба во верзијата, локацијата и детекцијата.
- База на податоци: податоци за обука, податоци за пребарување и векторски складишта, вклучувајќи изложеност на отровен контекст и истекување на податоци.
- Агентиавтономни системи кои преземаат дејства во вашата околина, како што е отворање pull requests, инсталирање зависности или допирање на инфраструктурата.
- MCP сервери: Модел Контекст Протокол сервери што ги поврзуваат асистентите за вештачка интелигенција со надворешни алатки, API-ја и извори на податоци.
- Алатки и асистенти за кодирање со вештачка интелигенција: копилоти и IDE интеграции што генерираат код, предлагаат зависности и комуницираат со репозиториуми.
- Рамки за вештачка интелигенцијаLangChain, LangGraph, агентски сервери и други оркестрациски слоеви што ги поврзуваат моделите со алатки и податоци.
- Односи меѓу средствата: врските помеѓу моделите, агентите, серверите, множествата податоци и тајните поврзани со нив. Графиконот на врски го прави ризикот видлив во контекст, а не како рамна листа.
Инвентар со вештачка интелигенција наспроти инвентар на средства со вештачка интелигенција наспроти AI-BOM, и како тие се разликуваат од SBOM
Овие термини се користат слободно, па затоа помага да се биде прецизенcise. „Инвентар на вештачка интелигенција“ и „инвентар на средства на вештачка интелигенција“ опишуваат иста работа.: живиот каталог на средствата на вештачката интелигенција и нивните ризици. AI-BOM е извозлив артефакт што го произведува инвентарот.: машински читлив список на материјали што можете да му го предадете на ревизор или на enterprise купувачот.
Најчистиот начин да се разбере AI-BOM е по аналогија со SBOM:
Како што вештачката интелигенција станува вградена низ целиот SDLC, AI-BOM станува исто толку основен како и SBOM, а лидерите за безбедност сè повеќе добиваат барања од ревизори и enterprise тимови за набавки токму за овој артефакт.
Зошто инвентарот со вештачка интелигенција е важен сега?
Три сили го претворија инвентарот со вештачка интелигенција од нешто што е убаво да се има во приоритет.
- Прво, вештачката интелигенција пишува небезбеден код во голем обем. Независните истражувања постојано откриваат дека голем дел од кодот генериран од вештачка интелигенција се испорачува со ранливости. Оригиналната студија на NYU/Copilot од Пирс и др. откри приближно 40% од генерираните програми содржеа безбедносни слабостии поновите тестирања на големо укажуваат на истиот начин: анализата на Veracode за 2025 година на повеќе од 100 модели пронајдена е само 55% од кодот генериран од вештачка интелигенција беше безбеденАко не знаете кои асистенти генерираат код во вашиот pipelineс, не можете да го контролирате тој ризик.
- Второ, синџирот на снабдување со софтвер стана површина за напад со вештачка интелигенција. Во септември 2025, Шаи Хулуд, првиот саморазмножувачки npm црв, ги претвори машините на програмерите во механизам за дистрибуција, ширејќи се низ стотици пакети. Во март 2026 година, напаѓачите го компромитираа аксиози, пакет со приближно 100 милиони неделни преземања, објавувајќи отровни верзии кои исфрлија тројанец со далечински пристап. Напади како овие се случуваат точно во слојот помеѓу традиционалниот AppSec и алатките за крајни точки: слојот за кој е изграден инвентарот со вештачка интелигенција.
- Трето, тајните и акредитивите протекуваат преку вештачката интелигенција. „State of Secrets Sprawl 2026“ на GitGuardian објави дека Протекувањето на тајни од вештачката интелигенција се зголеми за 81% на годишно ниво, и тоа со помош на вештачка интелигенција commits leak secrets со приближно двојно поголема брзина од основната. Секој недокументиран модел, агент или MCP сервер е потенцијален пат до акредитив.
Традиционалниот AppSec запира во складиштето и не разбира што е модел. Алатките на крајните точки го следат оперативниот систем, но не ги разбираат пакетите, MCP серверите или асистентите за вештачка интелигенција. Јазот меѓу нив е местото каде што се акумулира ризикот од вештачка интелигенција, а инвентарот е првиот чекор кон негово затворање.
Каде се крие вештачката интелигенција: Сенка на вештачката интелигенција низ целиот SDLC
Сенка вештачка интелигенција дали е усвоен било кој систем со вештачка интелигенција без формално одобрување или управување: копилотот што го овозможи развивачот минатата недела, MCP серверот што работи на лаптоп, моделот извлечен директно од јавен центар во спореден проект. Не е екстремен случај. Во анкета од 2026 година на повеќе од 400 лидери за безбедност, само 19% изјавиле дека имаат целосна увид во тоа каде и како се користи вештачката интелигенција низ целата нивна организација, додека огромното мнозинство веќе користеа или пилотираа асистенти за кодирање со вештачка интелигенција.
Најтешко е да се пронајде вештачката интелигенција во сенка што се наоѓа во животниот циклус на софтверот, бидејќи ретко се појавува во облак конзола:
- Модели и библиотеки со вештачка интелигенција повлечени во репозиториуми како зависности.
- Асистенти за кодирање со вештачка интелигенција конфигурирани по развивач, по IDE.
- MCP сервери и датотеки со правила што работат локално на крајните точки на развивачот.
- Агенциските работни процеси се отвораат тивко pull requests или инсталирање на пакети.
Затоа откривањето само во облак не е доволно. Вистински комплетен инвентар на вештачка интелигенција мора да навлезе во кодот и да изгради средини (лаптопот на развивачот, складиштето, pipeline), не само продукцискиот облак.
Што припаѓа во AI-BOM
AI-BOM подготвен за ревизија го претвора вашиот инвентар во нешто што можете да го докажете. Најмалку, треба да вклучува:
- Секој ресурс на вештачка интелигенција: модели, бази на податоци, агенти, MCP сервери, алатки за кодирање со вештачка интелигенција.
- Вид на средство, локација и доверба во откривањето за секое од нив.
- Потекло и зависности (од каде потекнува моделот или компонентата).
- Ниво на ризик по средство, врз основа на вектори на напад специфични за вештачката интелигенција.
- Регулаторно мапирање според Законот за вештачка интелигенција на ЕУ, NIST AI RMF и ISO/IEC 42001.
- Формат што може да се извезува и да се чита од машина за ревизори и клиенти.
Организациите кои можат да генерираат AI-BOM по барање ќе имаат вистинска предност во однос на усогласеноста и довербата како што ќе созреат обврските за ревизија на вештачката интелигенција.
Инвентар и усогласеност со вештачката интелигенција: Закон за вештачка интелигенција на ЕУ, NIST AI RMF и ISO/IEC 42001
Ниту една од главните рамки не го наведува „инвентарот на вештачката интелигенција“ како ставка во линија, но секоја од нив е ефикасно невозможно да се задоволи без неа. Не можете да документирате, класифицирате или управувате со системи на вештачка интелигенција што не можете да ги видите.
Забелешка за времето: спроведувањето на Законот за вештачка интелигенција на ЕУ беше ревидирано со договорот „Дигитален омнибус“ од мај 2026 година, кој ги одложи повеќето обврски со висок ризик за декември 2027 година, а воедно ги задржа неколку пресвртници од 2 август 2026 година (должности за транспарентност, овластувања за казни за GPAI). Третирајте ги точните датуми како подвижна цел и потврдете ги според примарните извори на ЕУ. Но, насоката на движење е јасна, а инвентарот е предуслов за сето тоа.
Како да се изгради и одржува инвентар со вештачка интелигенција
Создавањето инвентар е помалку за еднократна ревизија, а повеќе за воспоставување континуиран процес, бидејќи средствата од вештачката интелигенција постојано се менуваат: се усвојуваат нови модели, се распоредуваат нови агенти, се конфигурираат нови MCP сервери, честопати без одобрение.
Практичен пристап:
- Откривајте автоматски низ код, градба и облак. Рачните табели стануваат застарени за неколку дена. Discovery мора да работи континуирано и да се протега до SDLC, не само време на извршување.
- Класифицирајте и мапирајте врски. Вид на запис, локација, потекло и, клучно, како секој асет се поврзува со другите и со тајните.
- Ризик од бодување во контекст. Стапната листа од стотици наоди не помага на никого; дајте приоритет според она што е всушност достапно, искористливо и критично за бизнисот.
- Додели сопственост. Секој имот има потреба од одговорен сопственик.
- Одржувајте го активен и извозлив. Одржувајте го како континуиран инвентар што може да произведе AI-BOM по барање.
Што да барате во софтверот за инвентар со вештачка интелигенција
Ако оценувате алатки, ова се можностите што го одделуваат вистинскиот софтвер за инвентар на вештачка интелигенција од статичкиот список:
- Ги разбира типовите на средства специфични за вештачката интелигенција (модели, агенти, MCP сервери, бази на податоци), не само пакети и библиотеки.
- Се протега во SDLC, откривање на вештачка интелигенција во кодот и на крајните точки на програмерите, не само во облакот.
- Врски на мапи, не само индивидуални средства, па затоа ризикот е видлив во контекст.
- Го оценува ризикот на вектори на напад специфични за вештачка интелигенција (брза инјекција, несигурна MCP, прекумерна агенција), не само сериозноста на CVE.
- Работи континуирано, фаќање на нова вештачка интелигенција како што се појавува.
- Создава AI-BOM подготвен за ревизија што ги задоволува и ревизорите и enterprise набавка.
- Ги поврзува залихите со спроведувањето, за да можете да дејствувате врз основа на она што ќе го најдете.
Од залиха до акција: обезбедување на она што ќе го најдете
Откривањето е првиот чекор; вториот е разбирање кои средства носат реален ризик, бидејќи повеќето нема. Целта е да се премине од илјадници сурови наоди кон неколкуте што всушност можат да ги компромитираат системите, податоците или операциите: оние што се во активна употреба, прифаќаат недоверливи влезни податоци, се реално експлоатирачки, имаат чувствителен пристап и влијаат врз производството или регулираните средства.
Ова е местото каде што управувањето со безбедносното држење на телото со вештачка интелигенција (AI-SPM) презема: земање на инвентарот, бодување на ризикот по патеката на нападот со вештачка интелигенција, мапирање на истиот според регулативата и производство на AI-BOM. Исто така, тука инвентарот се среќава со спроведувањето: блокирање на злонамерни зависности пред да се инсталираат, отфрлање на неодобрени MCP сервери и модели и содржување на компромитирани крајни точки пред да се прошири инцидентот.
At Xygeni, ова е моделот што го градиме кон: континуиран инвентар со вештачка интелигенција и AI-BOM преку AI-SPM, откривање на малициозен софтвер што ги фаќа малициозните пакети пред да постои потпис (MEW, рано предупредување за малициозен софтвер), и спроведување на политиката на крајната точка на развивачот преку Xygeni Shield. Детекцијата е усогласена со OWASP Топ 10 за LLM апликации, OWASP Топ 10 за Agentic апликации и OWASP MCP Топ 10. Но, без разлика кој пристап ќе го изберете, принципот важи: Не можете да обезбедите она што не можете да го видите, а инвентарот со вештачка интелигенција е местото каде што започнува видливоста.
Најчесто поставувани прашања
По што се разликува AI-BOM од SBOM?
An SBOM каталогизира зависности од софтвер со отворен код и софтвер од трети страни, оценувани според сериозноста на CVE. AI-BOM ги каталогизира средствата специфични за AI (модели, агенти, MCP сервери, бази на податоци) со бодување на ризикот специфично за AI и мапирање на регулативи. Како што AI се шири низ SDLC, AI-BOM станува исто толку основен како и SBOM.
Што е вештачка интелигенција во сенка и како да ја откријам?
Сенка вештачка интелигенција е секоја вештачка интелигенција усвоена без формално одобрување или управување: овозможен копилот, локален MCP сервер, модел извлечен од јавен центар. Ја откривате со континуиран автоматизиран инвентар што допира до код, градба pipelineи крајните точки на развивачите, не само продукцискиот облак каде што поголемиот дел од вештачката интелигенција во сенка никогаш не се појавува.
Дали Законот на ЕУ за вештачка интелигенција бара инвентар на вештачка интелигенција?
Законот на ЕУ за вештачка интелигенција не го наведува експлицитно „инвентар на вештачка интелигенција“, но неговите должности за документација, класификација и регистрација на системи со висок ризик се невозможни да се исполнат без него. Истото важи и за NIST AI RMF (функција на мапа, Govern 1.6) и ISO/IEC 42001, кој бара одржување на инвентар на системи за вештачка интелигенција.
Што е AI-SPM?
Управувањето со безбедносното држење на телото со вештачка интелигенција (ВИ-СПМ) е практика на континуирано откривање на средствата од ВИ, оценување на нивниот ризик по патеката на нападот со ВИ, нивно мапирање според регулативата и производство на ВИ-БОМ. Го проширува размислувањето за управување со држењето на телото (познато од CSPM и DSPM) на средства специфични за ВИ и вектори на напад.
Колку често треба да се ажурира инвентарот на вештачка интелигенција?
Континуирано. Средствата на вештачката интелигенција се менуваат секојдневно бидејќи тимовите усвојуваат нови модели, распоредуваат нови агенти и конфигурираат нови MCP сервери, обично без формално одобрение. Скенирањето во одреден момент е застарено за неколку дена, па затоа ефикасниот софтвер за инвентар на вештачката интелигенција работи како континуиран процес, а не како еднократна ревизија.
Како да направам инвентар на вештачката интелигенција што се користи во изворниот код?
Инвентаризацијата на вештачката интелигенција во кодот значи откривање на модели и библиотеки на вештачка интелигенција внесени како зависности, асистенти за кодирање на вештачка интелигенција конфигурирани по развивач и MCP сервери или датотеки со правила што работат локално. Ова бара откривање што работи во рамките на SDLC (репозиториуми, градење pipelines и крајни точки на развивачите) наместо само во облак конзоли.
