Безопасность ИИ (также называемый Кибербезопасность ИИЭто относится к практике обеспечения безопасности как инструментов искусственного интеллекта, используемых в разработке программного обеспечения, так и кода и инфраструктуры, которые они создают. Поскольку ИИ внедряется на каждом этапе разработки, SDLCОт генерации кода до развертывания это создает новый класс рисков: модели, агенты, серверы MCP и помощники по программированию на основе ИИ которые сами по себе могут быть использованы в злонамеренных целях, неправильно сконфигурированы или превращены в оружие.
Для обеспечения их безопасности необходимо видимость, оценка риска и принуждение На протяжении всего жизненного цикла разработки агентов, речь идет не только о коде, который пишет ваша команда, но и об ИИ, который его пишет, об инструментах, к которым он подключается, и о... pipelineпо мере того, как он проходит сквозь.
Конференция OWASP Global AppSec EU 2026 пройдет с 22 по 26 июня в Вене, Австрия, и для команд, занимающихся вопросами безопасности и переходящих к разработке приложений на основе ИИ, это самое важное мероприятие года. Компания Xygeni будет представлена на стенде G-08 всю неделю, где проведет демонстрации в режиме реального времени, пообщается со специалистами по продуктам и состоится первая публичная демонстрация Xygeni AI Inventory.
Почему безопасность ИИ — определяющая задача 2026 года
Искусственный интеллект перестал быть просто инструментом повышения производительности для команд разработчиков. Он стал частью поверхности атаки. Менее чем за год цепочка поставок программного обеспечения поглотила новый класс угроз. Самораспространяющийся червь npm превратил разработчиков в механизмы доставки. Государственные субъекты скрывали вредоносное ПО внутри пакета, загружаемого 100 миллионов раз в неделю. LLM был использован в качестве оружия для внедрения вредоносного ПО в автономный агент. Это не просто исключения; это новый базовый уровень.
Цифры отражают изменения: резко возросло количество краж учетных данных. 160% в 2025, при участии Recorded Future. В четвертом квартале 2025 года было украдено на 90% больше учетных данных, чем в первом квартале 2025 года. В одиночку, а ИИ ускоряет атаки и расширяет поверхность атаки. Уязвимость в одном мосте MCP (CVE-2025-6514Приложение было скачано 437 000 раз, прежде чем его обнаружили. Сегодня... 5.5% общедоступных MCP-серверов содержат уязвимости, приводящие к отравлению инструментов, а 43% содержат уязвимости, приводящие к внедрению команд.
Основная проблема заключается в архитектурном пробеле. Традиционный подход к безопасности приложений останавливается на репозитории и не понимает, что такое модель. EDR отслеживает операционную систему и не понимает, что такое пакеты, серверы MCP или ИИ-помощники.
Для преодоления этого разрыва необходима платформа иного типа.
Что делает Xygeni AI Security?
В основе системы безопасности Xygeni AI лежит один принцип: Не доверяйте ничему, проверяйте всё, включая искусственный интеллект.. Это обеспечивает безопасность как используемого вами ИИ, так и ИИ, который вы разрабатываете, на протяжении всей агентской сети. SDLCАрхитектура состоит из трех уровней: Обнаружение, Выявление и Применение.
Обнаружить - AI-SPM: Узнайте обо всех возможностях ИИ.
Нельзя обеспечить безопасность того, чего не видишь. Xygeni AI-SPM предоставляет командам актуальную информацию о каждой модели, наборе данных, агенте, сервере MCP и инструменте кодирования ИИ в их организации. Он отображает взаимосвязи между ними, выявляет связанные между ними риски и экспортирует готовый к аудиту AI-BOM — спецификацию материалов для ИИ, которая быстро становится преемником... SBOM.
Для пакетов CISИтак, это один из надежных источников достоверной информации для каждого аудита ИИ, соответствующий Закону ЕС об ИИ, рекомендациям NIST по управлению рисками в области ИИ и стандарту ISO/IEC 42001.
Обнаружить - Оценка рисков, связанных с ИИ: от тысяч выявленных нарушений до немногих действительно важных.
Xygeni AI Security сочетает детерминированный анализ с семантическим пониманием на основе LLM, чтобы выявлять проблемы, которые не всегда удается обнаружить традиционными методами. SAST и SCA Промах. Обнаруживает внедрение подсказок и утечку системных подсказок, небезопасные конфигурации MCP, раскрытие конфиденциальной информации в файлах ИИ, уязвимости векторов и встраивания, вредоносные инструкции в документах и файлах правил, некорректные зависимости ИИ, жестко закодированные учетные данные LLM и агентов, работающих за пределами заданных ограничений.
Важно отметить, что он отдает приоритет реальным путям атак ИИ, а не просто оценкам серьезности уязвимостей по OWASP. Большинство инструментов обеспечения безопасности ИИ предоставляют командам тысячи обнаруженных уязвимостей и называют это прозрачностью. Xygeni фильтрует все обнаруженные уязвимости по таким критериям, как доступность, возможность эксплуатации и влияние на бизнес, поэтому вместо списка нерешенных задач команды получают короткий и точный перечень того, что действительно нужно исправить сегодня.
Его искусственный интеллект также применяется к результатам, полученным с помощью существующих систем. SAST, SCAа также инструменты сканирования, позволяющие командам расширять, а не заменять существующий набор инструментов.
Принудить к исполнению – Shield: Нулевое доверие на конечной точке разработчика
Вредоносный пакет впервые запускается на компьютере разработчика в момент выполнения команды npm install, задолго до того, как что-либо достигнет стадии сборки. pipelineXygeni Shield переносит брандмауэр зависимостей на конечную точку.
Он проверяет каждый загруженный пакет и блокирует небезопасные или вредоносные установки до запуска скрипта после установки. Работает на основе MEW (Система раннего предупреждения о вредоносных программах)Shield обнаруживает вредоносные пакеты, используя алгоритмы обработки данных ИИ, которые срабатывают еще до появления сигнатуры. Он также обеспечивает соблюдение списков разрешенных MCP, блокирует ненадежные навыки ИИ и файлы правил, предотвращает запуск несанкционированных моделей и агентов ИИ и может автоматически изолировать скомпрометированную конечную точку при поступлении критического оповещения, локализуя инцидент до того, как он распространится по всей организации.
Что ожидать на стенде G-08 на этой неделе
- Венский дебют: демонстрация работы системы инвентаризации Xygeni AI. В режиме реального времени отслеживайте поверхность атаки вашего ИИ, отображая каждую модель, агента, сервер MCP и инструмент кодирования ИИ, используемые вашей организацией, с оценками рисков и графами взаимосвязей.
- Демонстрация работы брандмауэра зависимостей в реальном времени. Watch Shield оценивает и блокирует вредоносный пакет на конечной точке до его установки и до того, как будет обнаружена его сигнатура.
- Полное прохождение платформы. Узнайте, как Xygeni обнаруживает, определяет приоритеты и устраняет уязвимости, вредоносное ПО, секретную информацию и риски в цепочке поставок в средах, изначально созданных с помощью ИИ. SDLCот IDE до производственной среды.
- Поговорите с командой. Специалисты Xygeni по AppSec и DevSecOps будут присутствовать на стенде всю неделю, чтобы обсудить вопросы, связанные с разработкой на основе искусственного интеллекта. code security, CI/CD защита, управление MCP, риски в цепочке поставок программного обеспечения и современная архитектура безопасности приложений. Александр, Agustin, Marcos и Иисус Я буду там, чтобы встретить вас!
Кибербезопасность ИИ в эпоху агентных технологий: вопросы, которые стоит задать в Вене
OWASP Global AppSec EU 2026 знаменует собой переломный момент в сфере кибербезопасности ИИ. OWASP Top 10 for LLM Applications, OWASP Top 10 for Agentic Apps (2026) и OWASP MCP Top 10 уже являются действующими фреймворками, и большинство организаций еще не сопоставили свою уязвимость ни с одним из них.
Вопросы, которые должны задать себе руководители служб безопасности на этой неделе:
- Где в вашем устройстве находится искусственный интеллект? SDLC? Большинство организаций не могут ответить на этот вопрос с уверенностью. Теневые серверы MCP, неутвержденные модели и неотслеживаемые агенты ИИ — это новые теневые ИТ, и они уже работают в вашей системе. pipelines.
- Что происходит, когда сгенерированный ИИ код содержит уязвимость? 40% кода, сгенерированного ИИ, содержит уязвимости в системе безопасности. Без этого... SAST который понимает шаблоны, сгенерированные ИИ, и работает на уровне IDE. guardrailsБлагодаря этому, уязвимости попадают в производство быстрее, чем когда-либо.
- Ваш стек безопасности приложений поддерживает MCP? Серверы MCP стали основным вектором атак с использованием отравления инструментов и внедрения команд. Если ваши инструменты безопасности не имеют уровня инвентаризации и контроля MCP, у вас есть «слепое пятно», которое уже используют злоумышленники.
- Можно ли сегодня составить спецификацию материалов на основе искусственного интеллекта для аудитора? Регуляторы и enterprise Покупатели начинают задавать такие вопросы. Организации, которые смогут ответить утвердительно, получат значительное преимущество в плане соответствия нормативным требованиям и укрепления доверия.
Посетите стенд Xygeni на конференции OWASP Global AppSec EU 2026.
Стенд G-08 · 22–26 июня · Вена, Австрия
Загляните к нам, чтобы посмотреть демонстрацию вживую, пообщаться с командой, получить эксклюзивные сувениры или просто отдохнуть от сессий. Если вы хотите гарантированно получить консультацию специалиста, забронируйте демонстрационный сеанс на стенде заранее по адресу [ссылка на демонстрационный момент]. Ксигени.
Xygeni — это платформа, которая обнаруживает, определяет приоритеты и обеспечивает безопасность ИИ по всей цепочке поставок программного обеспечения, от инвентаризации ИИ и оценки рисков до применения политик на уровне конечного пользователя. Одна платформа. Одна модель рисков. Одна плоскость управления.
AI-SPM это видит. AI Security это оценивает. Shield это останавливает.
Часто задаваемые вопросы
Что такое безопасность ИИ в разработке программного обеспечения?
Безопасность ИИ в разработке программного обеспечения означает защиту как инструментов ИИ, используемых вашими командами (модели, агенты, серверы MCP, помощники по программированию на основе ИИ), так и кода, создаваемого этими инструментами. Она охватывает обнаружение ресурсов ИИ, оценку рисков в соответствии с фреймворками OWASP и обеспечение соблюдения политик на стороне разработчика.
Что такое AI-BOM?
Спецификация компонентов для ИИ (AI Bill of Materials, AI-BOM) — это машиночитаемый перечень всех компонентов ИИ, используемых в организации. SDLC (модели, наборы данных, агенты, серверы MCP и инструменты кодирования ИИ) с их взаимосвязями, оценками риска и соответствием нормативным требованиям. Это быстро становится эквивалентом эпохи ИИ. SBOM.
Что такое безопасность MCP?
MCP (Протокол контекста модели) Безопасность относится к практике обеспечения защиты соединений между ИИ-помощниками и внешними инструментами, API и источниками данных. Серверы MCP стали основным вектором атак в 2025–2026 годах, при этом на значительной части общедоступных серверов MCP были задокументированы уязвимости, связанные с отравлением инструментов и внедрением команд.
Что такое Xygeni AI Security?
Xygeni AI Security — это платформа, которая обнаруживает, оценивает и обеспечивает безопасность ИИ по всей цепочке поставок программного обеспечения. Она объединяет AI-SPM (управление состоянием безопасности ИИ) для инвентаризации и генерации спецификаций ИИ, оценку рисков ИИ, соответствующую фреймворкам OWASP LLM и MCP Top 10, и Shield для обеспечения политики нулевого доверия на конечной точке разработчика.
Что такое «слопсквоттинг»?
Слопсквоттинг — это нападение, при котором злоумышленники регистрировать названия пакетов, которые помощники по программированию на основе ИИ, скорее всего, будут выдумывать или предлагать, ориентируясь на разработчиков, которые устанавливают рекомендованные ИИ зависимости без проверки.
