TL, д-р
Практически каждая инженерная команда использует помощников по программированию на основе ИИ. Однако почти никто не может перечислить, какие именно системы ИИ они используют. Компания Gartner выделила управление состоянием безопасности ИИ в отдельную категорию в своем прогнозе на 2025 год по безопасности данных, поскольку проблема действительно существует: модели, агенты, серверы MCP и наборы данных являются активами ИИ на поверхности атаки, и большинство организаций не имеют структурированного способа отслеживать их.
Обнаружение без устранения проблемы — это всего лишь... dashboard. Примерно 40% кода, сгенерированного ИИ, содержит уязвимости безопасности. Искусственные интеллекты воспроизводят небезопасные шаблоны в таком объеме, для обработки которого не рассчитана ручная проверка. Знание о существующих ресурсах ИИ решает только половину проблемы — другая половина заключается в оценке их риска и исправлении кода до его выпуска, в том же рабочем процессе, в котором он был написан.
Поверхность атаки шире, чем сам код. Уже задокументированы атаки, направленные на ресурсы, окружающие код: скрытый Юникод в файлах правил, заставляющий помощников выдавать бэкдорированный вывод, отравление инструментов MCP и полное удаленное выполнение кода через широко используемый мост MCP (более 437 000 загрузок), а также слопсквоттинг — регистрация имен пакетов, которые, согласно статистике, модели ИИ могут «галлюцинировать». Традиционные SAST и SCA Ничего подобного я не вижу.
Решение заключается в одном цикле, а не в трехточечных инструментах: ИИ-СПМ формирует инвентарный список и спецификацию материалов на основе искусственного интеллекта; AI Безопасность оценивает риск по списку OWASP Top 10 для приложений LLM; DevAI Исправление уязвимого кода в среде разработки по мере его написания, охватывает как код, сгенерированный ИИ, так и код, написанный человеком, и перехватывает действия других агентов до того, как они их совершат. Это относится как к результатам, полученным с помощью собственных сканеров Xygeni, так и ко всей информации, уже полученной с помощью имеющихся инструментов. — Замена не требуется.
Практически каждая инженерная команда внедрила помощников по программированию на основе ИИ. Однако почти ни одна из них не может ответить на простой вопрос: какие модели ИИ, агенты и серверы MCP мы действительно используем и какие риски несет каждый из них? Теперь у этого пробела есть название. Gartner официально определила управление состоянием безопасности ИИ (AI Security Posture Management). (ИИ-СПМ) как категория в своем Цикл развития технологий защиты данных к 2025 году — та же самая родословная, которая породила CSPM и DSPM. Эта категория существует, потому что цифры конкретны: примерно 40% кода, сгенерированного ИИ, содержит уязвимости безопасности, ИИ теперь является частью поверхности атаки, а не просто инструментом, используемым разработчиками, и большинство организаций не имеют структурированного перечня используемых ими ресурсов ИИ.
Это также тема, которую мы будем обсуждать на месте. OWASP AppSec Days Portugal 202623-24 сентября в Порту, где Xygeni — золотой спонсор.Подробнее об этом в конце, но если вы хотите сразу перейти к следующему разделу, Приобрести билет можно здесь..
Проблема: сгенерированный ИИ код несёт в себе собственный профиль рисков.
Примерно 40% кода, сгенерированного ИИ, содержит уязвимости в системе безопасности. Независимые исследования помощников по программированию на основе ИИ выявили стабильно высокий процент ошибок при использовании таких помощников. OWASP Top 10При этом определенные категории уязвимостей, такие как межсайтовый скриптинг, обнаруживаются в подавляющем большинстве сгенерированных образцов. Искусственный интеллект не просто быстрее пишет код. Он также быстрее воспроизводит небезопасные шаблоны, небезопасные зависимости и небезопасные конфигурации, и делает это в таком объеме, для обработки которого не был разработан ни один процесс ручной проверки.
Поверхность атаки не ограничивается кодом, написанным ассистентом. Она распространяется на ресурсы ИИ, которые ваши команды уже используют и редко проверяют: модели, наборы данных, агенты и серверы MCP. Каждый из них уже стал причиной реальных, задокументированных атак:
- Бэкдор в файле правил: Злоумышленники скрывают инструкции, используя невидимые символы Unicode, внутри правил и конфигурационных файлов, считываемых такими инструментами, как GitHub Copilot и Cursor, в результате чего помощник генерирует код с бэкдором, даже не упоминая об этом. Занесено в каталог как Пример проекта, реализованного с помощью MITRE ATLAS.
- Отравление инструментов MCP и удаленное выполнение кода: Критическая уязвимость в широко используемом мосте MCP, загруженном более 437 000 раз, позволяла полностью удаленно выполнять код в момент подключения клиента к недоверенному серверу MCP.
- Приседание в позе на корточках: В ходе масштабного академического исследования было сгенерировано более двух миллионов примеров кода в шестнадцати программах магистратуры по праву, и было обнаружено, что почти каждый пятый из рекомендованных пакетов вообще не существует, а имена пакетов злоумышленники могут зарегистрировать и использовать в качестве оружия заранее.
Ничто из этого не проявляется в традиционном подходе. SAST or SCA сканирование. Эти инструменты понимают код. Они не понимают, что такое модель, что делает сервер MCP или был ли изменен конфигурационный файл агента.
Большинство команд решают лишь половину проблемы.
Инстинктивная реакция — добавить точечные инструменты: один для сканирования модели, другой для межсетевых экранов во время выполнения, третий для IDE-ассистентыЭто та же ошибка, которую допустили специалисты по безопасности приложений. SAST, SCAИ аналогичное сканирование секретов, проведенное пятнадцать лет назад, приводит к тому же результату: фрагментарная информация, тревожные сообщения и отсутствие единого источника ответа на вопрос: «Какой именно ИИ мы используем и безопасен ли он?»
Обнаружение без устранения проблемы лишь указывает на место возгорания. Устранение проблемы без обнаружения означает, что вы исправляете код, в то время как рядом с ним без контроля работают теневые MCP-серверы и несанкционированные агенты. Безопасность с использованием ИИ должна охватывать оба аспекта на одной платформе, иначе это не управление состоянием безопасности. Это... dashboard.
Лучший способ: управление состоянием безопасности с помощью ИИ, которое обнаруживает, выявляет и устраняет угрозы.
Ксигени AI Безопасность замыкает этот цикл на протяжении всей эры ИИ. SDLCот модели и сервера MCP к конечной точке разработчика.
- Обнаружить. AI-SPM создает актуальный реестр всех ресурсов ИИ в организации: моделей, наборов данных, агентов, серверов MCP. Он подтверждает этот реестр с помощью... AI-BOM, Аудиторы и регулирующие органы все чаще запрашивают доказательную базу, будь то техническая документация для систем высокого риска в соответствии с Законом ЕС об искусственном интеллекте или инвентаризация активов, требуемая такими нормативными актами, как испанская ENS.
- Обнаружить. Система безопасности на основе искусственного интеллекта оценивает каждый актив по реальным рискам: быстрое внедрение вредоносного ПО, небезопасные конфигурации MCP, утечка данных, в соответствии с требованиями безопасности. OWASP Top 10 для поступления на магистерскую программу.Результаты ранжируются, а не помещаются в очередь.
- Исправление производится в момент написания кода. Здесь используется искусственный интеллект для генерации контента. code security действительно решается. Xygeni DevAI Он работает как непрерывный слой внутри IDE, постепенно сканируя пространство по мере того, как разработчики работают как с кодом, написанным человеком, так и с кодом, сгенерированным ИИ. Он выполняет обнаружение уязвимостей с помощью агентного ИИ, составляет карты. пути атак, управляемые ИИ чтобы показать, как уязвимость может быть фактически использована, и предоставляет сгенерированные ИИ безопасные исправления, которые проверяются на возможность использования уязвимости и риск критических изменений до того, как разработчик их применит. Guardrails Чтобы изменения соответствовали политике безопасности и нормативным требованиям, их необходимо проверять на соответствие до того, как они попадут в CI, а выделенный агент DevAI перехватывает действия других агентов: проверяет файлы навыков и правил, проверяет каждый пакет, который агент пытается установить, на наличие вредоносного ПО и скрытых вредоносных схем, а также отслеживает поведение инструментов MCP на предмет отравления — и все это до выполнения.
- Принудительно. Shield Распространяет ту же политику на конечную точку разработчика, блокируя небезопасную активность ИИ до ее запуска.
И потому что ИИ-триажОбъяснения и исправления применяются не только к собственным выводам Xygeni, но и ко всему, что поступает из уже используемых инструментов; команды получают это, не демонтируя то, во что они уже вложили средства.
Познакомьтесь с Xygeni на OWASP AppSec Days Portugal 2026.
Мы переносим этот разговор в Порту. Ксигени является золотым спонсором в OWASP AppSec Days Portugal 2026, Бег Сентябрь 23-24 в Фонде Антонио Купертино де Миранды.
На мероприятии мы обсудим практическое применение управления состоянием безопасности ИИ: как команды обнаруживают ресурсы ИИ, о существовании которых они не подозревали, и как генерируемые ИИ данные... code security вписывается в существующую программу обеспечения безопасности приложений, а не располагается рядом с ней, и как на самом деле выглядит нынешняя волна угроз, связанных с MCP и агентными средствами, в реальных условиях.
Если вы собираетесь присутствовать, Приходите и познакомьтесь с командой Xygeni на стенде № 12. Если вопросы безопасности ИИ входят в ваши планы, и вы не можете приехать в Порту, мы с удовольствием обсудим их напрямую. В те же даты мы также будем присутствовать на... Немецкий день OWASP 2026 в Карлсруэобсуждаем вопросы безопасности ИИ и ShieldВ частности, уровень правоприменения.
Запишитесь на встречу с нами!
FAQ
- Что такое управление состоянием безопасности ИИ (AI-SPM)?
AI-SPM — это дисциплина, занимающаяся обнаружением, инвентаризацией и непрерывной оценкой рисков всех активов ИИ, используемых организацией — моделей, наборов данных, агентов и серверов MCP — аналогично тому, как CSPM делает это для облачных вычислений, а DSPM — для данных. Gartner определила это как категорию в своем цикле развития технологий в области безопасности данных на 2025 год. AI-SPM от Xygeni создает эту инвентаризацию и подкрепляет ее спецификацией компонентов ИИ (AI-BOM), предоставляя командам безопасности и соответствия требованиям доказательства, которые они могут передать аудитору.
- Что делает ИИ-генерацию оригинальной? code security отличается от традиционного SAST or SCA?
Традиционный статический анализ и сканирование зависимостей были созданы для понимания кода и пакетов, а не для выявления рисков, специфичных для ИИ. Они не обнаруживают внедрение запросов, вредоносные правила или файлы навыков, отравление инструментов MCP или некорректные имена пакетов, которые может установить ИИ-помощник. ИИ-генерируемые данные code security Он должен интегрироваться в тот же рабочий процесс, который уже используют разработчики, сканируя одновременно и написанный человеком, и сгенерированный ИИ код, что и делает Xygeni DevAI внутри IDE.
- Почему около 40% кода, сгенерированного искусственным интеллектом, содержит уязвимости?
Искусственный интеллект, управляющий кодом, учится на основе шаблонов в обучающих данных и воспроизводит их, включая небезопасные, и генерирует код гораздо быстрее, чем это возможно при ручной проверке. Независимые исследования неизменно выявляют высокий уровень уязвимостей из списка OWASP Top 10 в образцах, сгенерированных ИИ, при этом определенные категории уязвимостей, такие как межсайтовый скриптинг, встречаются в подавляющем большинстве тестов.
- Заменяет ли AI-SPM наши существующие инструменты обеспечения безопасности приложений?
Нет, и пытаться этого не следует. Функции Xygeni AI Triage, Explanation и Remediation применяются как к результатам собственных сканеров Xygeni, так и к результатам, полученным с помощью уже используемых сторонних инструментов, поэтому команды получают единую защиту от рисков, связанных с ИИ, без необходимости полной замены уже внедренных решений.
- Где я могу увидеть это в действии?
Компания Xygeni является золотым спонсором конференции OWASP AppSec Days Portugal 2026.23-24 сентября в Порту, и команда будет присутствовать на месте проведения мероприятия. Стенд 12 общение посредством AI-SPM, сгенерированного ИИ code securityа также нынешняя волна угроз со стороны MCP и агентов. Приобретите билет или свяжитесь напрямую, если не можете приехать в Порту.
На той же неделе мы также находимся в Немецкий день OWASP 2026 в Карлсруэ, специализируется на безопасности ИИ и ShieldУровень правоприменения.
