An Инвентаризация с изкуствен интелект е непрекъснато актуализиран каталог на всички активи с изкуствен интелект, работещи във вашата организация — модели, крайни точки, задвижвани от изкуствен интелект, набори от данни, асистенти за кодиране с изкуствен интелект, MCP сървъри и зависимости с изкуствен интелект — заедно с взаимоотношенията, рисковете и собствениците, които ги свързват. В контекста на сигурността това няма нищо общо с управлението на склад или запаси; тук, „Инвентаризация на изкуствен интелект“ просто означава да знаете точно какъв изкуствен интелект използвате, къде се намира и какво може да достигне.
Тъй като изкуственият интелект се разпространява във всеки етап от разработката на софтуер, от генерирането на код в IDE до автономните агенти, действащи вътре CI/CD pipelineвъпросът вече не е дали изкуственият интелект присъства във вашата среда. Въпросът е дали можеш да го видиш. Това ръководство обяснява какво представлява инвентаризацията с изкуствен интелект, как е свързана с AI-BOM и SBOM, защо сянка на изкуствен интелект се е превърнало в проблем със сигурността и как практиката се отразява на Закон за ИИ на ЕС, NIST AI RMF намлява ISO / IEC 42001.
Ключови заведения
- Инвентаризацията с изкуствен интелект каталогизира всеки модел, набор от данни, агент, MCP сървър и инструмент за кодиране с изкуствен интелект през целия жизнен цикъл на вашия софтуер, а не само тези, одобрени от ИТ отдела.
- Shadow AI, изкуственият интелект, възприет без управление, вече е норма, а не изключение: в едно проучване на лидери по сигурността от 2026 г., само 19% от организациите съобщават за пълна прозрачност на това къде и как се използва изкуствен интелект.
- An AI-BOM (AI спецификация на материалите) е готовият за одит резултат от инвентаризация с изкуствен интелект: наследникът от ерата на изкуствения интелект на SBOM.
- Регулацията идва. Законът на ЕС за изкуствения интелект, NIST AI RMF и ISO/IEC 42001 на практика изискват да знаете с какъв изкуствен интелект работите.
- Инвентаризацията е само отправна точка; стойността идва от оценката на риска и действията върху малкия брой активи, които наистина имат значение.
Какво е инвентаризация с изкуствен интелект?
Инвентаризацията на ИИ е практиката за откриване, каталогизиране и непрекъснато наблюдение на всеки ИИ актив, работещ през целия жизнен цикъл на разработка на софтуер, както и на рисковете, свързани с всеки един от тях. Пълната инвентаризация отговаря на три въпроса за всеки актив: какво представлява той, къде работи и до какво има достъп?
Този обхват е по-широк, отколкото повечето екипи очакват. Един смислен инвентар на ИИ трябва да обхваща:
- Моделивсеки голям езиков модел и базов модел, използван в разработката и производството, с увереност във версията, местоположението и откриването.
- Наборите от данни: данни за обучение, набори от данни за извличане и хранилища на вектори, включително излагане на отровен контекст и изтичане на данни.
- Агентиавтономни системи, които предприемат действия във вашата среда, като например отваряне pull requests, инсталиране на зависимости или докосване на инфраструктура.
- MCP сървъри: Протокол за контекст на модела сървъри, които свързват AI асистенти с външни инструменти, API и източници на данни.
- Инструменти и асистенти за кодиране с изкуствен интелект: копилоти и IDE интеграции, които генерират код, да предлагат зависимости и да взаимодействат с хранилища.
- Рамки за изкуствен интелектLangChain, LangGraph, агентски сървъри и други оркестрационни слоеве, които свързват модели с инструменти и данни.
- Връзки между активите: връзките между модели, агенти, сървъри, набори от данни и тайните, свързани с тях. Графиката на взаимоотношенията прави риска видим в контекст, а не като плосък списък.
AI инвентаризация срещу AI инвентаризация на активи срещу AI-BOM и как се различават от SBOM
Тези термини се използват свободно, така че е полезно да се предварителнаcise. „Инвентаризация на ИИ“ и „инвентаризация на ИИ активи“ описват едно и също нещо.: живият каталог на активите на ИИ и техните рискове. AI-BOM е експортируемият артефакт, който произвежда инвентаризациятамашинночетима спецификация на материалите, която можете да предоставите на одитор или enterprise купувач.
Най-ясният начин да се разбере AI-BOM е чрез аналогия с SBOM:
Тъй като изкуственият интелект се вгражда навсякъде SDLC, AI-BOM става толкова основополагащ, колкото и SBOM...и ръководителите по сигурността все по-често получават заявки от одитори и enterprise екипи за снабдяване точно за този артефакт.
Защо инвентаризацията с изкуствен интелект е важна сега
Три сили превърнаха инвентара на изкуствения интелект от нещо приятно за притежаване в приоритет.
- Първо, изкуственият интелект пише несигурен код в голям мащаб. Независими изследвания постоянно установяват, че голяма част от генерирания от изкуствен интелект код е снабден с уязвимости. Оригиналното проучване на NYU/Copilot от Pearce et al. установи приблизително 40% от генерираните програми съдържаха слабости в сигурността, а по-скорошни мащабни тестове сочат същото: анализът на Veracode от 2025 г. върху над 100 модела откри само 55% от генерирания от изкуствен интелект код е бил защитенАко не знаете кои асистенти генерират код във вашия pipelines, не можете да управлявате този риск.
- Второ, веригата за доставки на софтуер се е превърнала в повърхност за атаки с изкуствен интелект. През септември 2025, Шай Хулуд, първият саморазпространяващ се npm червей, превърна машините на разработчиците в механизъм за разпространение, разпространявайки се в стотици пакети. През март 2026 г. атакуващите компрометираха Аксиос, пакет с приблизително 100 милиона седмични изтегляния, публикувайки отровени версии, които са пуснали троянски кон за отдалечен достъп. Атаки като тези попадат точно в слоя между традиционните инструменти за AppSec и крайни точки: слоя, който инвентаризацията с изкуствен интелект е създадена да освети.
- Трето, тайни и идентификационни данни изтичат чрез изкуствен интелект. В доклада на GitGuardian „Разрастването на тайните през 2026 г.“ се съобщава, че Изтичането на тайни за услуги с изкуствен интелект се е увеличило с 81% на годишна базаи че с помощта на изкуствен интелект commits leak secretс приблизително два пъти по-висока от базовата скорост. Всеки недокументиран модел, агент или MCP сървър е потенциален път към получаване на идентификационни данни.
Традиционната AppSec защита спира на ниво хранилище и не разбира какво е модел. Инструментите за крайни точки наблюдават операционната система, но не разбират пакетите, MCP сървърите или AI асистентите. Разликата между тях е мястото, където се натрупва AI риск, а инвентаризацията е първата стъпка към нейното затваряне.
Където се крие изкуственият интелект: Скриване на изкуствения интелект отвъд SDLC
Shadow AI Дали някоя система с изкуствен интелект е приета без официално одобрение или управление: вторият пилот, активиран от разработчик миналата седмица, MCP сървърът, работещ на лаптоп, моделът, изтеглен директно от публичен център в страничен проект. Това не е граничен случай. В проучване от 2026 г. сред над 400 лидери в областта на сигурността, само 19% съобщават за пълна видимост на това къде и как се използва изкуствен интелект в цялата си организация, докато по-голямата част вече използваха или пилотно тестваха асистенти за кодиране с изкуствен интелект.
Най-трудният за откриване скрит изкуствен интелект е този в рамките на жизнения цикъл на софтуера, защото той рядко се появява в облачна конзола:
- Модели и библиотеки с изкуствен интелект, изтеглени в хранилища като зависимости.
- Асистенти за кодиране с изкуствен интелект, конфигурирани за всеки разработчик, за всяка IDE.
- MCP сървъри и файлове с правила, работещи локално на крайни точки на разработчици.
- Тихо отваряне на работните процеси на агентите pull requests или инсталиране на пакети.
Ето защо откриването само в облака не е достатъчно. Наистина пълната инвентаризация на изкуствения интелект трябва да достигне до кода и средите за изграждане (лаптопа на разработчика, хранилището, pipeline), не само производствения облак.
Какво принадлежи на AI-BOM
Готов за одит AI-BOM превръща вашия инвентар в нещо, което можете да докажете. Като минимум, той трябва да включва:
- Всеки AI ресурс: модели, набори от данни, агенти, MCP сървъри, инструменти за AI кодиране.
- Вид актив, местоположение и надеждност на откриване за всеки от тях.
- Произход и зависимости (откъде е дошъл моделът или компонентът).
- Ниво на риск за всеки актив, базирано на специфични за изкуствения интелект вектори на атака.
- Регулаторно съпоставяне със Закона на ЕС за изкуствения интелект, NIST AI RMF и ISO/IEC 42001.
- Експортируем, машинночетим формат за одитори и клиенти.
Организациите, които могат да генерират AI-BOM при поискване, ще имат реално предимство в съответствието и доверието с настъпването на задълженията за одит на ИИ.
Инвентаризация и съответствие с ИИ: Закон на ЕС за ИИ, NIST AI RMF и ISO/IEC 42001
Нито една от основните рамки не посочва „инвентаризация на ИИ“ като елемент от списъка, но е невъзможно да се задоволи всяка от тях без него. Не можете да документирате, класифицирате или управлявате ИИ системи, които не можете да видите.
Забележка относно времето: въвеждането на Закона на ЕС за изкуствения интелект беше преразгледано от споразумението „Цифров омнибус“ от май 2026 г., което отложи повечето задължения с висок риск до декември 2027 г., като същевременно запази няколко важни етапа от 2 август 2026 г. (задължения за прозрачност, правомощия за налагане на санкции по GPAI). Точните дати трябва да се третират като движеща се цел и да се проверяват спрямо първични източници на ЕС. Но посоката на движение е ясна и инвентаризацията е предпоставка за всичко това.
Как да изградим и поддържаме инвентаризация с изкуствен интелект
Изграждането на инвентаризация е по-малко еднократен одит и повече установяване на непрекъснат процес, тъй като активите с изкуствен интелект се променят постоянно: приемат се нови модели, внедряват се нови агенти, конфигурират се нови MCP сървъри, често без одобрение.
Практически подход:
- Откривайте автоматично в код, изграждане и облак. Ръчно въведените електронни таблици остаряват за няколко дни. Discovery трябва да работи непрекъснато и да достига до SDLC, не само по време на изпълнение.
- Класифицирайте и картографирайте връзките. Запишете вида, местоположението, произхода и, най-вече, как всеки актив е свързан с други и с тайни.
- Риск от оценка в контекст. Един прост списък със стотици открития не помага на никого; приоритизирайте според това, което е действително достижимо, използваемо и критично за бизнеса.
- Присвояване на собственост. Всеки актив се нуждае от отговорен собственик.
- Поддържайте го активен и експортируем. Поддържайте го като непрекъснат инвентар, който може да генерира AI-BOM при поискване.
Какво да търсите в софтуера за инвентаризация с изкуствен интелект
Ако оценявате инструментариум, това са възможностите, които отличават истинския софтуер за инвентаризация с изкуствен интелект от статичния списък:
- Разбира специфичните за изкуствения интелект типове активи (модели, агенти, MCP сървъри, набори от данни), не само пакети и библиотеки.
- Достига до SDLC, откривайки изкуствен интелект в кода и на крайните точки за разработчици, не само в облака.
- Връзки в картите, а не само отделни активи, така че рискът е видим в контекст.
- Оценява риска от специфични за изкуствения интелект вектори на атака (бързо инжектиране, несигурен MCP, прекомерна свобода на действие), не само тежестта на CVE.
- Работи непрекъснато, улавяйки нов изкуствен интелект, както се появява.
- Създава готова за одит AI-BOM което удовлетворява както одиторите, така и enterprise снабдяване.
- Свързва инвентаризацията с правоприлагането, за да можете да действате въз основа на това, което откриете.
От инвентаризация до действие: осигуряване на находката
Откриването е първата стъпка; втората е разбирането кои активи носят реален риск, защото повечето не биха го направили. Целта е да се премине от хиляди сурови открития към шепата, които реално могат да компрометират системи, данни или операции: тези, които се използват активно, приемат ненадежден вход, са реално експлоатируеми, имат чувствителен достъп и засягат производството или регулираните активи.
Тук е мястото, където управлението на състоянието на сигурността с изкуствен интелект (AI-SPM) взема: извършване на инвентаризация, оценяване на риска по пътя на атаката с изкуствен интелект, съпоставянето му с регулациите и създаване на AI-BOM. Това е и мястото, където инвентаризацията среща правоприлагането: блокиране на злонамерени зависимости преди инсталирането им, отхвърляне на неодобрени MCP сървъри и модели и ограничаване на компрометираните крайни точки преди разпространението на инцидента.
At Ксигени, това е моделът, който изграждаме към: непрекъсната инвентаризация с изкуствен интелект и AI-BOM чрез AI-SPM, откриване на зловреден софтуер, което улавя злонамерени пакети, преди да съществува сигнатура (MEW, Ранно предупреждение за злонамерен софтуер) и прилагане на правилата в крайната точка на разработчика чрез Xygeni Shield. Откриването е съобразено с OWASP Top 10 за LLM приложения, OWASP Top 10 за Agentic приложения и OWASP MCP Top 10. Но който и подход да изберете, принципът е валиден: Не можеш да осигуриш това, което не можеш да видиш, а инвентаризацията с изкуствен интелект е мястото, където започва видимостта.
Въпроси и Отговори
По какво се различава AI-BOM от SBOM?
An SBOM каталогизира зависимости от софтуер с отворен код и софтуер на трети страни, оценени по тежест на CVE. AI-BOM каталогизира специфични за ИИ активи (модели, агенти, MCP сървъри, набори от данни) със специфична за ИИ оценка на риска и регулаторно картографиране. С разпространението на ИИ в SDLC, AI-BOM става толкова основополагащ, колкото и SBOM.
Какво е сенчест изкуствен интелект и как да го открия?
Сянка на изкуствения интелект е всеки изкуствен интелект, приет без официално одобрение или управление: активиран втори пилот, локален MCP сървър, модел, извлечен от публичен хъб. Откривате го с непрекъсната автоматизирана инвентаризация, която достига до кода, изграждането... pipelineи крайни точки за разработчици, не само производствения облак, където по-голямата част от скритата изкуствена интелект никога не се появява.
Изисква ли Законът на ЕС за ИИ инвентаризация на ИИ?
Законът на ЕС за изкуствения интелект не посочва изрично „инвентаризация на ИИ“, но задълженията за документиране, класификация и регистрация на високорискови системи са невъзможни за изпълнение без такава. Същото важи и за NIST AI RMF (функция Map, Govern 1.6) и ISO/IEC 42001, който изисква поддържане на инвентаризация на системите с ИИ.
Какво е AI-SPM?
Управлението на състоянието на сигурността на ИИ (AI-SPM) е практика за непрекъснато откриване на активи на ИИ, оценяване на риска от тях по пътя на атаката от ИИ, съпоставянето им с регулациите и създаването на AI-BOM. То разширява мисленето за управление на състоянието (познато от CSPM и DSPM) до специфични за ИИ активи и вектори на атака.
Колко често трябва да се актуализира инвентаризацията на ИИ?
Непрекъснато. Активите на ИИ се променят ежедневно, тъй като екипите въвеждат нови модели, внедряват нови агенти и конфигурират нови MCP сървъри, обикновено без официално одобрение. Сканирането в определен момент се застарява в рамките на няколко дни, така че ефективният софтуер за инвентаризация на ИИ работи като непрекъснат процес, а не като еднократен одит.
Как да направя инвентаризация на изкуствения интелект, използван в изходния код?
Инвентаризацията на ИИ в кода означава откриване на ИИ модели и библиотеки, изтеглени като зависимости, ИИ асистенти за кодиране, конфигурирани за всеки разработчик, и MCP сървъри или файлове с правила, работещи локално. Това изисква откриване, което работи вътре в SDLC (хранилища, изграждане pipelineи крайни точки за разработчици), а не само в облачните конзоли.
