An Инвентаризация ИИ Это постоянно обновляемый каталог всех ресурсов искусственного интеллекта, используемых в вашей организации. модели, конечные устройства с поддержкой ИИ, наборы данных, помощники по программированию на основе ИИ, серверы MCP и зависимости ИИ — вместе с взаимосвязями, рисками и владельцами, которые их объединяют. В контексте безопасности это не имеет ничего общего с управлением складскими запасами или складским учетом; здесь же, «Инвентаризация с использованием ИИ» Это просто означает точное знание того, какой ИИ вы используете, где он находится и на что он способен.
Искусственный интеллект распространяется на все этапы разработки программного обеспечения, от генерации кода в интегрированной среде разработки до работы автономных агентов внутри неё. CI/CD pipelineТаким образом, вопрос уже не в том, присутствует ли ИИ в вашей среде. Вопрос в том, можете ли вы это увидеть. В этом руководстве объясняется, что такое инвентаризация с использованием ИИ и как она связана с... AI-BOM и SBOM, Почему теневой ИИ стало проблемой безопасности, и то, как эта практика соотносится с... EU AI Act , НИСТ ИИ РМФ и ISO / IEC 42001.
Основные выводы
- Инвентаризация ИИ каталогизирует каждую модель, набор данных, агента, сервер MCP и инструмент кодирования ИИ на протяжении всего жизненного цикла вашего программного обеспечения, а не только те, которые были одобрены ИТ-отделом.
- Теневой ИИВнедрение ИИ без государственного регулирования стало нормой, а не исключением: согласно опросу руководителей служб безопасности, проведенному в 2026 году, только 19% организаций сообщили о полной прозрачности в отношении того, где и как используется ИИ..
- An AI-BOM (Спецификация материалов AI) Это готовый к аудиту результат инвентаризации, проведенной с помощью ИИ: преемник ИИ в эпоху... SBOM.
- Регулирование уже на подходе. Закон ЕС об ИИ, стандарты NIST AI RMF и ISO/IEC 42001 фактически требуют от вас знания того, какой именно ИИ вы используете.
- Инвентаризация — это лишь отправная точка; ценность заключается в оценке рисков и принятии мер в отношении небольшого числа активов, которые действительно имеют значение.
Что такое инвентаризация с использованием искусственного интеллекта?
Инвентаризация ИИ — это практика обнаружения, каталогизации и непрерывного мониторинга всех ИИ-активов, работающих на протяжении всего жизненного цикла разработки программного обеспечения, а также рисков, связанных с каждым из них. Полная инвентаризация отвечает на три вопроса для каждого актива: что это, где он работает и к чему он имеет доступ?
Этот охват шире, чем ожидает большинство команд. Значимый перечень задач, связанных с ИИ, должен включать:
- Модели: все крупные языковые модели и базовые модели, используемые в разработке и производстве, с указанием версии, местоположения и степени достоверности обнаружения.
- Datasets: обучающие данные, наборы данных для поиска и векторные хранилища, включая воздействие искаженного контекста и утечку данных.
- Агент: автономные системы, которые выполняют действия в окружающей среде, например, открывают pull requestsустановка зависимостей или изменение инфраструктуры.
- MCP-серверы: Модель контекстного протокола серверы, которые соединяют ИИ-помощников с внешними инструментами, API и источниками данных.
- Инструменты и помощники для программирования с использованием ИИ: Вспомогательные программы и интеграция с IDE, генерирующие кодПредлагать зависимости и взаимодействовать с репозиториями.
- Фреймворки ИИ: LangChain, LangGraph, агентские серверы и другие уровни оркестровки, которые связывают модели с инструментами и данными.
- Взаимосвязь между активами: связи между моделями, агентами, серверами, наборами данных и связанными с ними секретами. Граф взаимосвязей делает риск видимым в контексте, а не в виде плоского списка.
Инвентаризация с помощью ИИ против инвентаризации активов с помощью ИИ против спецификации материалов с помощью ИИ, и чем они отличаются друг от друга. SBOM
Эти термины используются довольно свободно, поэтому полезно иметь предварительное представление о них.cise. Термины «инвентаризация ИИ» и «инвентаризация активов ИИ» описывают одно и то же.: постоянно обновляемый каталог активов в области искусственного интеллекта и связанных с ними рисков. AI-BOM — это экспортируемый артефакт, создаваемый в результате инвентаризации.: машиночитаемая спецификация материалов, которую можно передать аудитору или... enterprise покупатель.
Наиболее понятный способ понять AI-BOM — это использовать аналогию с SBOM:
По мере того, как искусственный интеллект внедряется во все сферы жизни SDLCИИ-BOM становится таким же фундаментальным инструментом, как и SBOMи руководители служб безопасности все чаще получают запросы от аудиторов и enterprise закупочные группы занимаются именно этим артефактом.
Почему инвентаризация с использованием ИИ важна сейчас
Три фактора превратили наличие искусственного интеллекта на складах из желательного дополнения в приоритет.
- Во-первых, ИИ массово пишет небезопасный код. Независимые исследования неизменно показывают, что значительная часть кода, сгенерированного ИИ, содержит уязвимости. Оригинальное исследование NYU/Copilot, проведенное Пирсом и др., показало примерно следующее: 40% сгенерированных программ содержали уязвимости в системе безопасности.Более поздние крупномасштабные испытания подтверждают это: анализ Veracode 2025 года, проведенный на более чем 100 моделях, выявил лишь... 55% кода, сгенерированного ИИ, были безопасны.Если вы не знаете, какие помощники генерируют код в вашем приложении, pipelineТаким образом, вы не можете управлять этим риском.
- Во-вторых, цепочка поставок программного обеспечения стала уязвимым местом для атак на искусственный интеллект. В сентябре 2025, Шай-ХулудПервый самораспространяющийся червь npm превратил машины разработчиков в механизм распространения, распространив сотни пакетов. В марте 2026 года злоумышленники скомпрометировали Вардар, упаковка примерно с 100 миллионов загрузок в неделюПубликуя зараженные версии, которые внедряли троян удаленного доступа. Подобные атаки попадают именно на тот уровень, который находится между традиционными средствами безопасности приложений и инструментами защиты конечных точек: на тот уровень, который призвана выявлять система инвентаризации на основе ИИ.
- Во-третьих, секреты и учетные данные утекают через искусственный интеллект. В отчете GitGuardian State of Secrets Sprawl 2026 сообщается, что Утечки секретов сервисов искусственного интеллекта выросли на 81% по сравнению с прошлым годом.и что с помощью ИИ commits leak secretПримерно вдвое выше базовой скорости. Каждая недокументированная модель, агент или сервер MCP представляет собой потенциальный путь к учетным данным.
Традиционный подход к безопасности приложений останавливается на репозитории и не понимает, что такое модель. Инструменты для защиты конечных точек отслеживают операционную систему, но не понимают, что такое пакеты, серверы MCP или ИИ-помощники. Именно в этом разрыве накапливается риск, связанный с ИИ, и инвентаризация является первым шагом к его устранению.
Где скрывается ИИ: Теневой ИИ повсюду SDLC
Теневой ИИ Это не исключительный случай. В опросе 2026 года, в котором приняли участие более 400 руководителей в сфере безопасности, было установлено, что это не система ИИ, внедренная без формального одобрения или контроля: второй пилот, запущенный разработчиком на прошлой неделе, сервер MCP, работающий на ноутбуке, или модель, напрямую взятая из общедоступного источника и используемая в побочном проекте. 19% опрошенных сообщили о полной прозрачности в отношении того, где и как используется ИИ. в масштабах всей их организации, при этом подавляющее большинство уже использовали или тестировали помощников по программированию на основе ИИ.
Наиболее сложно обнаружить теневой ИИ, встроенный в жизненный цикл программного обеспечения, поскольку он редко отображается в облачной консоли:
- Модели и библиотеки ИИ добавляются в репозитории в качестве зависимостей.
- Искусственный интеллект для помощи в программировании, настраиваемый для каждого разработчика и каждой IDE.
- Серверы MCP и файлы правил, работающие локально на конечных устройствах разработчика.
- Внедрение рабочих процессов Agentic происходит незаметно. pull requests или при установке пакетов.
Вот почему обнаружения только в облаке недостаточно. Для действительно полного инвентаризации ИИ необходимо проникнуть в среды разработки кода и сборки (ноутбук разработчика, репозиторий и т. д.). pipeline), а не только производственное облако.
Что должно входить в состав спецификации материалов для искусственного интеллекта (AI-BOM)?
Готовая к аудиту спецификация материалов на основе искусственного интеллекта (AI-BOM) превращает ваши запасы в документ, который можно подтвердить. Как минимум, она должна включать:
- Все ресурсы ИИ: модели, наборы данных, агенты, серверы MCP, инструменты для программирования ИИ.
- Тип актива, местоположение и степень достоверности обнаружения для каждого.
- Происхождение и зависимости (откуда взялась модель или компонент).
- Уровень риска для каждого актива, основанный на специфических для ИИ векторах атак.
- Сопоставление нормативных требований с Законом ЕС об искусственном интеллекте, моделью NIST AI RMF и стандартом ISO/IEC 42001.
- Экспортируемый машиночитаемый формат для аудиторов и клиентов.
По мере развития требований к аудиту с использованием ИИ, организации, способные генерировать спецификацию материалов на основе ИИ по запросу, получат реальное преимущество в плане соответствия нормативным требованиям и повышения доверия.
Инвентаризация и соответствие требованиям в области ИИ: Закон ЕС об ИИ, модель RMF NIST по ИИ и стандарт ISO/IEC 42001.
Ни в одной из основных методологий «инвентаризация ИИ» не указана в качестве отдельной статьи расходов, но без неё выполнение требований практически невозможно. Невозможно документировать, классифицировать или управлять системами ИИ, которые вы не видите.
Несколько слов о сроках: внедрение Закона ЕС об искусственном интеллекте было пересмотрено в рамках соглашения «Цифровой омнибус» от мая 2026 года, которое отложило большинство обязательств с высоким риском до декабря 2027 года, сохранив при этом несколько контрольных точек, запланированных на 2 августа 2026 года (обязательства по прозрачности, полномочия GPAI по наложению штрафов). Точные даты следует рассматривать как постоянно меняющуюся цель и подтверждать информацию по основным источникам ЕС. Но направление движения ясно, и для всего этого необходима инвентаризация.
Как создать и поддерживать инвентаризацию с использованием ИИ.
Создание инвентаризации — это не столько разовая проверка, сколько установление непрерывного процесса, поскольку ресурсы ИИ постоянно меняются: внедряются новые модели, развертываются новые агенты, настраиваются новые серверы MCP, часто без согласования.
Практический подход:
- Автоматическое обнаружение проблем в коде, сборке и облаке. Электронные таблицы, заполняемые вручную, устаревают за считанные дни. Процесс поиска информации должен проводиться непрерывно и охватывать широкий круг вопросов. SDLCне только во время выполнения.
- Классифицировать и отобразить взаимосвязи. Укажите тип, местоположение, происхождение и, что особенно важно, как каждый объект связан с другими и с секретами.
- Оценивайте риск в контексте. Простой список из сотен выявленных проблем никому не поможет; расставляйте приоритеты, исходя из того, что действительно достижимо, может быть использовано и имеет решающее значение для бизнеса.
- Назначить право собственности. Каждому активу нужен ответственный владелец.
- Сохраните его работоспособным и доступным для экспорта. Поддерживайте его в режиме непрерывного учета, чтобы он мог по запросу создавать спецификацию материалов на основе искусственного интеллекта.
На что обращать внимание при выборе программного обеспечения для учета запасов с использованием ИИ?
Если вы оцениваете инструменты, вот возможности, которые отличают настоящее программное обеспечение для учета запасов на основе ИИ от статического списка:
- Разбирается в типах активов, специфичных для ИИ. (модели, агенты, серверы MCP, наборы данных), а не только пакеты и библиотеки.
- Проникает в SDLC, обнаруживая ИИ в коде и на конечных устройствах разработчиков, а не только в облаке.
- Карты взаимосвязейРиск проявляется не только в отношении отдельных активов, поэтому он виден в контексте.
- Оценивает риски, связанные с векторами атак, специфичными для ИИ. (немедленная инъекция, ненадежная MCP, чрезмерная активность), а не только тяжесть CVE.
- Работает непрерывно, отслеживая появление новых образцов ИИ.
- Создает готовую к аудиту спецификацию материалов на основе искусственного интеллекта (AI-BOM). что удовлетворяет как аудиторов, так и enterprise закупка.
- Связывает инвентаризацию с правоприменением., чтобы вы могли действовать на основе того, что обнаружите.
От инвентаризации к действиям: обеспечение безопасности найденной информации
Первый шаг — это обнаружение; второй — понимание того, какие активы несут реальный риск, поскольку большинство из них таковыми не являются. Цель состоит в том, чтобы перейти от тысяч необработанных данных к тем немногим, которые действительно могут поставить под угрозу системы, данные или операции: тем, которые активно используются, принимают ненадежные входные данные, реально могут быть использованы злоумышленниками, имеют доступ к конфиденциальной информации и влияют на производство или регулируемые активы.
Здесь и применяется управление состоянием безопасности с помощью ИИ (ИИ-СПМЭта процедура включает в себя: инвентаризацию, оценку рисков на пути атаки с использованием ИИ, сопоставление с нормативными требованиями и создание спецификации материалов для ИИ (AI-BOM). Здесь же инвентаризация пересекается с контролем: блокировка вредоносных зависимостей до их установки, отклонение несанкционированных серверов и моделей MCP, а также локализация скомпрометированных конечных точек до распространения инцидента.
At КсигениВот модель, которую мы разрабатываем: непрерывный инвентарь с использованием ИИ и AI-BOM с помощью AI-SPM, обнаружение вредоносных программ, которое выявляет вредоносные пакеты до того, как появится сигнатура.MEW, система раннего предупреждения о вредоносном ПО.), и обеспечение соблюдения политик на конечной точке разработчика с помощью Xygeni Shield. Обнаружение соответствует OWASP Top 10 для приложений LLM, OWASP Top 10 для приложений Agentic и OWASP MCP Top 10. Но какой бы подход вы ни выбрали, принцип остается тем же: Невозможно обеспечить безопасность того, чего не видишь, и именно инвентаризация с использованием ИИ открывает доступ к информации.
Часто задаваемые вопросы (FAQ)
Чем отличается AI-BOM от SBOM?
An SBOM Содержит каталоги зависимостей от программного обеспечения с открытым исходным кодом и сторонних разработчиков, оцениваемые по степени серьезности уязвимостей CVE. AI-BOM каталогизирует специфические для ИИ ресурсы (модели, агенты, серверы MCP, наборы данных) с оценкой рисков, специфичных для ИИ, и соответствием нормативным требованиям. По мере распространения ИИ во всех сферах... SDLCИИ-BOM становится таким же фундаментальным инструментом, как и SBOM.
Что такое теневой ИИ и как его обнаружить?
Теневой ИИ — это любой ИИ, внедренный без формального одобрения или управления: активный помощник пилота, локальный сервер MCP, модель, полученная из общедоступного хаба. Вы обнаруживаете его с помощью непрерывной автоматизированной инвентаризации, которая охватывает код и сборку. pipelineи конечных точек разработчиков, а не только производственного облака, где большая часть теневого ИИ никогда не появляется.
Требует ли Закон ЕС об искусственном интеллекте проведения инвентаризации ИИ?
В Законе ЕС об ИИ прямо не упоминается «инвентаризация ИИ», однако без нее невозможно выполнить обязанности по документированию, классификации и регистрации систем высокого риска. То же самое относится к NIST AI RMF (функция Map, Govern 1.6) и ISO/IEC 42001, которые требуют ведения инвентаризации систем ИИ.
Что такое AI-SPM?
Управление состоянием безопасности ИИ (AI Security Posture Management, AI-SPM) — это практика непрерывного обнаружения активов ИИ, оценки их риска на пути атаки на ИИ, сопоставления их с нормативными требованиями и создания спецификации материалов для ИИ (AI-BOM). Она расширяет концепцию управления состоянием безопасности (известную по CSPM и DSPM) на специфические для ИИ активы и векторы атак.
Как часто следует обновлять инвентаризацию, управляемую ИИ?
Постоянно. Ресурсы ИИ меняются ежедневно, поскольку команды внедряют новые модели, развертывают новых агентов и настраивают новые серверы MCP, как правило, без официального согласования. Сканирование на определенный момент времени устаревает через несколько дней, поэтому эффективное программное обеспечение для инвентаризации ИИ работает как непрерывный процесс, а не как разовая проверка.
Как составить список ИИ, используемого в исходном коде?
Инвентаризация ИИ в коде означает обнаружение моделей и библиотек ИИ, используемых в качестве зависимостей, помощников по программированию ИИ, настроенных для каждого разработчика, а также серверов MCP или файлов правил, работающих локально. Это требует обнаружения, работающего внутри системы. SDLC (репозитории, сборка) pipeline(и конечные точки для разработчиков), а не только в облачных консолях.
