An Інвентаризація ШІ — це постійно оновлюваний каталог усіх ресурсів штучного інтелекту, що працюють у вашій організації — моделі, кінцеві точки на базі штучного інтелекту, набори даних, помічники кодування зі штучним інтелектом, сервери MCP та залежності від штучного інтелекту — разом із взаємовідносинами, ризиками та власниками, які їх пов’язують. У контексті безпеки це не має нічого спільного з управлінням складом чи запасами; тут, "Інвентаризація ШІ" просто означає точно знати, який ШІ ви використовуєте, де він знаходиться та чого може досягти.
Оскільки штучний інтелект поширюється на кожному етапі розробки програмного забезпечення, від генерації коду в IDE до автономних агентів, що діють всередині... CI/CD pipelineпитання вже не в тому, чи присутній ШІ у вашому середовищі. Це питання, чи можете ви це побачити. У цьому посібнику пояснюється, що таке інвентаризація на основі штучного інтелекту, як вона пов'язана з ШІ-BOM і SBOM, чому тіньовий ШІ стала проблемою безпеки, і як ця практика відображається на EU AI Act , NIST AI RMF та ISO / IEC 42001.
Ключові вивезення
- Інвентаризація ШІ каталогізує кожну модель, набір даних, агента, MCP-сервер та інструмент ШІ-кодування протягом усього життєвого циклу вашого програмного забезпечення, а не лише ті, що схвалені ІТ-відділом.
- Shadow AIШтучний інтелект, впроваджений без належного управління, зараз є нормою, а не винятком: в одному опитуванні лідерів у сфері безпеки, проведеному у 2026 році, лише 19% організацій повідомили про повну прозорість того, де і як використовується штучний інтелект.
- An AI-BOM (ШІ Специфікація матеріалів) це готовий до аудиту результат інвентаризації на основі штучного інтелекту: наступник епохи штучного інтелекту SBOM.
- Регулювання вже на підході. Закон ЄС про штучний інтелект, стандарт NIST AI RMF та ISO/IEC 42001 фактично вимагають від вас знати, з яким штучним інтелектом ви працюєте.
- Інвентаризація – це лише відправна точка; цінність випливає з оцінки ризику та дій щодо невеликої кількості активів, які дійсно мають значення.
Що таке інвентаризація на основі штучного інтелекту?
Інвентаризація ШІ – це практика виявлення, каталогізації та постійного моніторингу кожного активу ШІ, що працює протягом життєвого циклу розробки програмного забезпечення, а також ризиків, пов’язаних з кожним із них. Повна інвентаризація відповідає на три питання для кожного активу: що це таке, де він працює та до чого він може отримати доступ?
Цей обсяг ширший, ніж очікує більшість команд. Змістовний перелік ШІ повинен охоплювати:
- моделікожна велика мовна модель та базова модель, що використовується в розробці та виробництві, з достовірністю версії, розташування та виявлення.
- Набори даних: навчальні дані, набори даних для пошуку та сховища векторів, включаючи вплив отруєного контексту та витік даних.
- Агентиавтономні системи, які виконують дії у вашому середовищі, такі як відкриття pull requests, встановлення залежностей або дотик до інфраструктури.
- MCP сервери: Модель контекстного протоколу сервери, які підключають помічників зі штучним інтелектом до зовнішніх інструментів, API та джерел даних.
- Інструменти та помічники для кодування на основі штучного інтелекту: інтеграції з Co-Pilots та IDE, що генерують код, пропонувати залежності та взаємодіяти з репозиторіями.
- Фреймворки ШІLangChain, LangGraph, сервери агентів та інші рівні оркестрації, які пов'язують моделі з інструментами та даними.
- Зв'язки між активами: зв'язки між моделями, агентами, серверами, наборами даних та пов'язаними з ними секретами. Граф зв'язків робить ризик видимим у контексті, а не як плоский список.
Інвентаризація ШІ проти інвентаризації активів ШІ проти AI-BOM, і чим вони відрізняються від SBOM
Ці терміни використовуються нечітко, тому корисно бути заздалегідьcise. «Інвентаризація ШІ» та «інвентаризація активів ШІ» описують одне й те саме.: живий каталог активів штучного інтелекту та їхніх ризиків. AI-BOM – це артефакт, який можна експортувати, що виробляється інвентаризацією.: машинозчитувана специфікація матеріалів, яку ви можете надати аудитору або enterprise покупець.
Найпростіший спосіб зрозуміти AI-BOM – це за аналогією з SBOM:
Оскільки штучний інтелект вбудовується повсюди SDLC, AI-BOM стає таким же фундаментальним, як і SBOM, а керівники служб безпеки все частіше отримують запити від аудиторів та enterprise команди закупівель саме для цього артефакту.
Чому інвентаризація зі штучним інтелектом має значення зараз
Три сили перетворили інвентаризацію штучного інтелекту з приємної речі на пріоритет.
- По-перше, ШІ пише небезпечний код у великих масштабах. Незалежні дослідження послідовно показують, що значна частина коду, створеного штучним інтелектом, містить вразливості. Оригінальне дослідження NYU/Copilot, проведене Пірсом та ін., показало приблизно 40% згенерованих програм містили вразливості безпеки, а новіші масштабні тестування вказують на те саме: аналіз Veracode за 2025 рік, проведений на понад 100 моделях, виявив лише 55% коду, згенерованого штучним інтелектом, був безпечнимЯкщо ви не знаєте, які помічники генерують код у вашому pipelines, ви не можете керувати цим ризиком.
- По-друге, ланцюжок поставок програмного забезпечення став поверхнею для атаки штучного інтелекту. У вересні 2025, Шай Хулуд, перший саморозповсюджувальний черв'як npm, перетворив машини розробників на механізм розповсюдження, поширюючись по сотнях пакетів. У березні 2026 року зловмисники скомпрометували аксіоси, пакет приблизно з 100 мільйонів завантажень щотижня, публікуючи заражені версії, що містять трояна для віддаленого доступу. Такі атаки потрапляють саме на рівень між традиційними інструментами AppSec та кінцевими точками: рівень, для висвітлення якого створена інвентаризація на основі штучного інтелекту.
- По-третє, через штучний інтелект витікають секрети та облікові дані. У звіті GitGuardian «State of Secrets Sprawl 2026» повідомляється, що Витоки секретів послуг штучного інтелекту зросли на 81% у річному обчисленні, і що за допомогою штучного інтелекту commits leak secretприблизно вдвічі вищими за базовий рівень. Кожна недокументована модель, агент або сервер MCP є потенційним шляхом до отримання облікових даних.
Традиційна AppSec зупиняється на репозиторії та не розуміє, що таке модель. Інструменти кінцевих точок спостерігають за операційною системою, але не розуміють пакети, MCP-сервери чи помічників штучного інтелекту. Розрив між ними – це місце, де накопичується ризик, пов'язаний зі штучним інтелектом, а інвентаризація – це перший крок до його закриття.
Де ховається ШІ: Тіньовий ШІ по всьому світу SDLC
Shadow AI чи будь-яка система штучного інтелекту, прийнята без офіційного схвалення чи управління: другий пілот, який розробник запустив минулого тижня, сервер MCP, що працює на ноутбуці, модель, витягнута безпосередньо з публічного центру в сторонній проект. Це не граничний випадок. В опитуванні 2026 року, проведеному серед понад 400 лідерів у сфері безпеки, лише 19% повідомили про повну прозорість того, де і як використовується штучний інтелект по всій організації, тоді як переважна більшість уже використовувала або пілотувала асистентів кодування зі штучним інтелектом.
Найважче знайти тіньовий ШІ всередині життєвого циклу програмного забезпечення, оскільки він рідко відображається в хмарній консолі:
- Моделі та бібліотеки штучного інтелекту, завантажені в репозиторії як залежності.
- Помічники кодування зі штучним інтелектом, налаштовані для кожного розробника та для кожного IDE.
- Сервери MCP та файли правил, що працюють локально на кінцевих точках розробника.
- Тихі процеси роботи агентів відкриваються pull requests або встановлення пакетів.
Ось чому виявлення лише в хмарі недостатньо. Дійсно повна інвентаризація ШІ повинна охоплювати код і середовища збірки (ноутбук розробника, репозиторій, pipeline), а не лише виробнича хмара.
Що належить до AI-BOM
Готова до аудиту AI-BOM перетворює ваш інвентар на щось, що ви можете довести. Як мінімум, вона повинна містити:
- Кожен ресурс ШІ: моделі, набори даних, агенти, MCP-сервери, інструменти кодування ШІ.
- Тип активу, місцезнаходження та впевненість у виявленні для кожного.
- Походження та залежності (звідки взялася модель або компонент).
- Рівень ризику для кожного активу, що базується на векторах атак, специфічних для штучного інтелекту.
- Зіставлення нормативних актів із Законом ЄС про штучний інтелект, стандартом NIST AI RMF та ISO/IEC 42001.
- Експортований, машинозчитуваний формат для аудиторів та клієнтів.
Організації, які можуть генерувати AI-BOM на вимогу, матимуть реальну перевагу у відповідності вимогам та довірі, оскільки зобов'язання щодо аудиту ШІ набуватимуть чинності.
Інвентаризація та відповідність штучному інтелекту: Закон ЄС про штучний інтелект, NIST AI RMF та ISO/IEC 42001
Жодна з основних фреймворків не називає «запаси ШІ» окремою позицією, але без неї практично неможливо задовольнити будь-яку з них. Ви не можете документувати, класифікувати чи керувати системами ШІ, які ви не бачите.
Примітка щодо термінів: впровадження Закону ЄС про штучний інтелект було переглянуто угодою «Цифровий омнібус» від травня 2026 року, яка відклала виконання більшості зобов’язань з високим рівнем ризику до грудня 2027 року, водночас залишивши в силі кілька етапних завдань від 2 серпня 2026 року (обов’язки щодо прозорості, повноваження щодо штрафів за GPAI). Розглядайте точні дати як рухому ціль та перевіряйте їх за первинними джерелами ЄС. Але напрямок руху зрозумілий, а інвентаризація є передумовою для всього цього.
Як створити та підтримувати інвентаризацію штучного інтелекту
Створення інвентаризації — це не стільки одноразовий аудит, скільки встановлення безперервного процесу, оскільки ресурси штучного інтелекту постійно змінюються: впроваджуються нові моделі, розгортаються нові агенти, налаштовуються нові сервери MCP, часто без схвалення.
Практичний підхід:
- Автоматичне виявлення в коді, збірці та хмарі. Ручні електронні таблиці застарівають за кілька днів. Discovery має працювати безперервно та охоплювати SDLC, а не лише під час виконання.
- Класифікуйте та відображайте зв'язки на карті. Запишіть тип, місцезнаходження, походження та, що найважливіше, як кожен актив пов'язаний з іншими та з секретами.
- Ризик оцінки в контексті. Простий список із сотень результатів нікому не допоможе; пріоритетність слід розставляти за тим, що насправді досяжно, придатне для використання та критично важливе для бізнесу.
- Призначити право власності. Кожен актив потребує відповідального власника.
- Залиште його активним та експортованим. Ведіть його як безперервний інвентар, який може створювати AI-BOM на вимогу.
На що звернути увагу при виборі програмного забезпечення для інвентаризації зі штучним інтелектом
Якщо ви оцінюєте інструменти, ось можливості, які відрізняють справжнє програмне забезпечення для інвентаризації на основі штучного інтелекту від статичного списку:
- Розуміє типи активів, специфічних для штучного інтелекту (моделі, агенти, MCP-сервери, набори даних), а не лише пакети та бібліотеки.
- Досягає в SDLC, відкриття ШІ в коді та на кінцевих точках розробників, а не лише в хмарі.
- Зв'язки на картах, а не лише окремі активи, тому ризик видно в контексті.
- Оцінює ризик за векторами атак, специфічними для штучного інтелекту (швидке введення, ненадійна MCP, надмірна свобода дій), а не лише тяжкість CVE.
- Працює безперервно, вловлюючи новий ШІ, як тільки він з'являється.
- Створює готову до аудиту AI-BOM що задовольняє як аудиторів, так і enterprise закупівлі.
- Пов’язує інвентаризацію з правоохоронними органами, щоб ви могли діяти на основі того, що знайдете.
Від інвентаризації до дії: забезпечення безпеки знайденого
Відкриття – це перший крок; другий – розуміння того, які активи несуть реальний ризик, оскільки більшість із них не несуть. Мета полягає в тому, щоб перейти від тисяч первинних знахідок до кількох, які насправді можуть поставити під загрозу системи, дані чи операції: тих, що активно використовуються, приймають ненадійні дані, реально придатні для використання, мають конфіденційний доступ і впливають на виробництво або регульовані активи.
Саме тут використовується управління безпекою зі штучним інтелектом (ШІ-SPM) підбирає: проведення інвентаризації, оцінювання ризиків уздовж шляху атаки ШІ, зіставлення його з нормативними актами та створення списку ризиків ШІ. Це також місце, де інвентаризація зустрічається з правозастосуванням: блокування шкідливих залежностей перед їх встановленням, відхилення несхвалених серверів і моделей MCP, а також локалізація скомпрометованих кінцевих точок до поширення інциденту.
At Ксігені, це модель, яку ми будуємо для: безперервна інвентаризація ШІ та AI-BOM через AI-SPM, виявлення шкідливих пакетів, яке виявляє їх до появи сигнатури (MEW, раннє попередження про шкідливе програмне забезпечення), а також забезпечення дотримання політик на кінцевій точці розробника через Xygeni Shield. Виявлення відповідає рейтингу OWASP Top 10 для LLM-додатків, OWASP Top 10 для агентних додатків та OWASP MCP Top 10. Але який би підхід ви не обрали, принцип залишається незмінним: Ви не можете захистити те, що не бачите, а інвентаризація на базі штучного інтелекту – це те, з чого починається видимість.
Поширені запитання
Чим AI-BOM відрізняється від SBOM?
An SBOM каталогізує залежності програмного забезпечення з відкритим кодом та сторонніх розробників, оцінені за рівнем серйозності CVE. AI-BOM каталогізує активи, специфічні для ШІ (моделі, агенти, сервери MCP, набори даних), з оцінкою ризиків, специфічних для ШІ, та нормативним відображенням. У міру поширення ШІ по SDLC, AI-BOM стає таким же фундаментальним, як і SBOM.
Що таке тіньовий штучний інтелект і як його виявити?
Тіньовий ШІ — це будь-який ШІ, прийнятий без офіційного схвалення чи управління: активований другий пілот, локальний сервер MCP, модель, отримана з публічного хабу. Ви виявляєте його за допомогою постійної автоматизованої інвентаризації, яка охоплює код, збирає... pipelineта кінцеві точки розробників, а не лише хмара виробництва, де більшість тіньового ШІ ніколи не з'являється.
Чи вимагає Закон ЄС про штучний інтелект інвентаризації ШІ?
У Законі ЄС про штучний інтелект прямо не згадується «інвентаризація ШІ», але обов’язки щодо документування, класифікації та реєстрації систем високого ризику неможливо виконати без неї. Те саме стосується і NIST AI RMF (функція Map, Govern 1.6) та ISO/IEC 42001, які вимагають ведення інвентаризації систем ШІ.
Що таке ШІ-SPM?
Управління безпекою ШІ (AI-SPM) – це практика постійного виявлення активів ШІ, оцінювання їх ризиків на шляху атаки ШІ, зіставлення їх з нормативними актами та створення AI-BOM. Це розширює мислення щодо управління безпекою (знайоме з CSPM та DSPM) на активи та вектори атак, специфічні для ШІ.
Як часто слід оновлювати інвентаризацію ШІ?
Постійно. Активи ШІ змінюються щодня, оскільки команди впроваджують нові моделі, розгортають нових агентів та налаштовують нові сервери MCP, зазвичай без офіційного схвалення. Сканування в певний момент часу застаріває протягом кількох днів, тому ефективне програмне забезпечення для інвентаризації ШІ працює як безперервний процес, а не як одноразовий аудит.
Як мені інвентаризувати штучний інтелект, що використовується у вихідному коді?
Інвентаризація ШІ в коді означає виявлення моделей ШІ та бібліотек, що завантажуються як залежності, помічників кодування ШІ, налаштованих для кожного розробника, а також серверів MCP або файлів правил, що працюють локально. Це вимагає виявлення, яке працює всередині SDLC (репозиторії, збірка pipelineта кінцеві точки розробника), а не лише в хмарних консолях.
