Топ-10 OWASP Agentic AI

OWASP Agentic AI Top 10: ASI01–ASI10

TL, д-р

Что означает список OWASP Agentic AI Top 10 для вас? pipeline

Ошибка в тексте LLM — это проблема с контентом. Ошибка в работе агента — это инцидент безопасности. Список OWASP Agentic AI Top 10 — это карта для второго пункта.

  • Что это: Топ-10 OWASP Agentic AI (официально) OWASP Top 10 для агентных приложений 2026 годаВ документе перечислены десять рисков, специфичных для агентов ИИ, которые планируют, вызывают инструменты, хранят информацию в памяти и действуют от вашего имени. Коды варьируются от ASI01 до ASI10.
  • Как это связано: Он расширяет список OWASP LLM Top 10, а не заменяет его. Список LLM описывает, что говорит модель; список агентных функций описывает, что делает агент.
  • Где оно входит: в реальном pipelineЭти риски возникают по четырем направлениям: в среде разработки (IDE), в компонентах сторонних агентов, в вашем собственном коде агента и в рабочей среде выполнения.
  • Что вы можете увидеть: Шесть из десяти оставляют следы в коде и конфигурации, поэтому вы можете остановить их перед развертыванием. Остальные четыре требуют контроля проектирования во время выполнения, и каждый из них начинается с знания того, какие агенты вы запускаете.

Первый шаг: Провести инвентаризацию каждого агента, инструмента, сервера MCP и навыка, затем присвоить каждому агенту новый код в системе непрерывной интеграции (CI), при этом результаты будут помечены кодами ASI.

Почему топ-10 OWASP Agentic AI важен: ваш pipeline есть новый commitвозраст

Год назад код в ваших репозиториях создавали люди. Сегодня всё большая его часть поступает от агентов искусственного интеллекта: помощников по программированию, которые устанавливают зависимости, агентов, которые открывают файлы. pull requestsа также агентские фреймворки, которые поставляются вместе с вашими собственными продуктами, обладая собственными инструментами, памятью и учетными данными. Именно для таких изменений и был создан список OWASP Agentic AI Top 10.

Это меняет модель угроз. LLM, который сообщает что-то неверное, — это проблема с контентом. Агент, который делает что-то неверное (удаляет данные, передает токен, устанавливает зараженный пакет), — это инцидент безопасности.

OWASP Agentic AI Top 10 — это первый общий словарь для решения проблем второго типа. Большинство пояснительных статей ограничиваются определениями. Эта же статья сопоставляет каждый риск с местом его фактического возникновения. pipelineа также о том, что вы можете с этим сделать до развертывания.

Что входит в топ-10 OWASP Agentic AI?

OWASP Agentic AI Top 10 — это рецензируемый список десяти наиболее критических угроз безопасности для агентов ИИ: систем, которые планируют, вызывают инструменты, хранят память и действуют с делегированными полномочиями. Его официальное название — OWASP Top 10 для агентных приложений 2026 годаПроект OWASP GenAI Security опубликовал его 9 декабря 2025 года в рамках своей инициативы Agentic Security Initiative, откуда и происходит префикс ASI.

Это еще молодой возраст. standardЭто первое издание. Каждая статья соответствует привычному формату OWASP, включая описание, распространенные примеры, сценарии атак и рекомендации по предотвращению. Основной принцип проектирования OWASP прослеживается во всех десяти статьях: избегайте предоставления агентам большей автономии, чем требуется для выполнения задачи, и рассматривайте наблюдаемость как обязательное условие.

Топ-10 Agentic против Топ-10 LLM

Список агентов не заменяет собой OWASP Top 10 для поступления на магистерскую программу.Она основывается на этом, и ее записи напрямую перекликаются с рисками LLM. Простое эмпирическое правило:

РазмерыOWASP LLM Топ-10Топ-10 OWASP Agentic AI
ФокусЧто говорит модельЧем занимается агент
Типичная неисправностьСфабрикованный или просочившийся в прессу ответСфабрикованная цель, вызов инструмента или действие
Относится кЧат-боты, приложения RAG, любые функции LLM.Агенты, обладающие инструментами, памятью, возможностью делегирования или другими способностями.
КодыLLM01 до LLM10ASI01 до ASI10

Если ваша заявка отвечает только на вопросы, то список программ LLM вам подойдет. Но как только она начнет предпринимать действия, вам понадобятся обе программы. Наше руководство по... атаки с извлечением моделей Здесь подробно показан один из 10 главных рисков программы LLM.

Топ-10 OWASP Agentic AI: ASI01–ASI10 в реальных условиях. pipelines

Ниже представлено описание каждого риска из списка OWASP Agentic AI Top 10 простыми словами, а затем — описание того, как они выглядят в кодовых базах. pipelineКак мы видим каждый день.

ASI01: Агент захватывает цель

Злоумышленник изменяет цель, которую пытается достичь агент, внедряя инструкции в документ, электронное письмо, веб-страницу или сообщение другого агента. Агентам сложно отличить инструкции от содержимого, поэтому внедренный текст может перенаправить весь многоэтапный план.

В вашей pipeline: агент, который подводит итоги pull requests Читает описание запроса на слияние, содержащее скрытые инструкции, и начинает утверждать или раскрывать информацию вместо того, чтобы её резюмировать.

ASI02: Неправильное использование и эксплуатация инструментов

Агент использует разрешенный ему инструмент, но делает это вредоносным образом: удаляет данные, вызывает ресурсоемкий API в цикле или отправляет информацию. Привилегии не повышаются; легитимный доступ просто направлен на неверную цель.

В вашей pipeline: Агент программирования с доступом к командной оболочке выполняет команду очистки в неправильном каталоге.

ASI03: Злоупотребление идентичностью и привилегиями

Агенты наследуют учетные данные, сессии и роли, и злоумышленники используют эти цепочки делегирования для доступа к тому, к чему они не могли получить прямой доступ. Первопричина кроется в системах идентификации, созданных для людей, которые применяются к программному обеспечению, действующему самостоятельно.

В вашей pipeline: В конфигурации агента хранится долговременный токен с областью действия в масштабах всей организации, используемый несколькими инструментами.

ASI04: Уязвимости цепочки поставок Agentic

Модели, инструменты, плагины, MCP-серверы, навыки и подсказки, загружаемые агентами, поступают от третьих лиц, и любой из них может быть вредоносным или измененным. В отличие от классических зависимостей, агенты часто собирают эти компоненты во время выполнения.

В вашей pipeline: Разработчик устанавливает навык агента, в инструкциях которого указано, что агент должен прочитать учетные данные и отправить их во внешний сервер.

ASI05: Неожиданное выполнение кода (RCE)

Агент генерирует или запускает код, который выполняется там, где он не должен выполняться: команды оболочки, десериализованные объекты, шаблонизаторы. eval на выходе модели. Результатом может стать полная компрометация хоста или контейнера.

В вашей pipeline: Выходные потоки LLM поступают напрямую в evalили агент загружает ненадежный набор данных с помощью pickle.load.

ASI06: Отравление памяти и контекста

Злоумышленники засеивают долговременную память, сводки или хранилища RAG агента вредоносными данными, так что каждое последующее действие будет заблокировано.cisИон искажен. В отличие от однократной инъекции подсказки, искажение сохраняется в разных сессиях.

В вашей pipeline: Плутокопатель RAG проглатывает внешние документы без предварительной очистки, и одна зараженная страница определяет каждый последующий ответ.

ASI07: Небезопасная межагентная связь

Агенты обмениваются сообщениями без аутентификации, проверки целостности или подтверждения подлинности, поэтому сообщения могут быть подделаны, перехвачены или изменены. Кроме того, одна и та же инструкция может быть по-разному воспринята разными агентами.

В вашей pipeline: Агент-планировщик принимает задачи от любой службы во внутренней сети, использующей его протокол.

ASI08: Каскадные сбои

Одна ошибка (галлюцинация, искаженная память, скомпрометированный инструмент) распространяется на агентов и рабочие процессы быстрее, чем люди могут на нее отреагировать. OWASP применяет эту категорию, когда ущерб распространяется за пределы первоначального нарушения.

В вашей pipeline: Один агент записывает некорректную конфигурацию, второй её развертывает, а третий распространяет её по всем регионам. Мы обсуждали, как ограничить этот «радиус поражения» в наших условиях. Обсуждение SafeDev по поводу радиуса взрыва.

ASI09: Использование доверия между человеком и агентом

Люди доверяют уверенным и хорошо объясненным результатам работы агента, и злоумышленники или разработчики с ошибками используют это доверие для управления процессом.cisионы. Человек выполняет заключительное действие, поэтому роль агента может исчезнуть из журнала аудита.

В вашей pipeline: Рецензент одобряет работу агента. pull request Потому что объяснение звучит правильно, даже без проверки различий.

ASI10: Агенты-изгои

Агент отклоняется от своей предполагаемой функции и продолжает действовать вредоносно, обманчиво или за пределами своих возможностей. Каждое действие может выглядеть законным; однако общее поведение таковым не является. ASI10 касается потери контроля после начала отклонения, а не первоначального вторжения.

В вашей pipeline: Агент продолжает использовать разрешения и после завершения своей задачи, незаметно расширяя область своего действия.

Из десяти рисков ASI04 — это тот, с которым большинство команд уже сталкиваются каждый день: агенты разработки выбирают и устанавливают пакеты, и никто не проверяет, что именно попадает внутрь. Мы подробно рассмотрели этот вопрос на недавнем выступлении на SafeDev Talk. Ознакомьтесь с ним!

Где OWASP Agentic AI Top 10 вписывается в вашу систему pipeline

Эти десять рисков проникают не через одну дверь. Они проникают через четыре, и каждая дверь требует собственного контроля.

Входная точкаЧто входит в комплектРиски ASIГде это остановить?
Среда разработки и рабочая станцияАгенты программирования, серверы MCP, навыки, пакеты, устанавливаемые агентами.ASI04, ASI05На рабочей станции, перед установкой.
Компоненты сторонних агентовМодели, инструменты, плагины, подсказки из реестров.ASI04, ASI06Инвентаризация и проверка перед принятием решения.
Ваш собственный код агентаСтруктура агентов, подсказки, определения инструментов, учетные данные, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Статический анализ, в pull requests и КИ
Производственная среда выполненияАгенты действуют, общаются друг с другом, работают с людьми.ASI07, ASI08,
ASI09, ASI10
Архитектура, мониторинг и аварийные выключатели

Шаблон имеет значение для применения OWASP Agentic AI Top 10. Первые три двери оставляют следы в коде и конфигурации, что означает, что вы можете найти и заблокировать их до того, как что-либо будет выпущено. Четвертая зависит от поведения во время выполнения, поэтому она опирается на проектные решения: принцип наименьшего влияния, подписанные сообщения, одобрение человеком действий, оказывающих существенное воздействие, и возможность быстрого отзыва любого агента.

Даже элементы управления во время выполнения зависят от одной вещи, которую вы создали ранее: инвентаря. Вы не можете установить аварийный выключатель на агента, о существовании которого вы не знаете.

Как Xygeni выявляет 10 главных рисков OWASP Agentic AI до развертывания

Xygeni AI Security Программа сканирует компоненты ИИ, используемые в ваших приложениях, непосредственно из исходного кода. Каждое обнаруженное нарушение имеет свою категорию OWASP LLM Top 10 и, где это применимо, свой код OWASP Agentic AI Top 10, поэтому ваша команда и ваши аудиторы будут читать результаты на одном языке.

Обзор списка OWASP Agentic Top 10 начинается с инвентаризации. AI Security обнаруживает агентов, модели, инструменты, серверы MCP, навыки, подсказки и т.д. guardrailsВекторные хранилища и наборы данных в ваших репозиториях, а также отображение того, как они связаны: какой агент использует какую модель, выполняет какие инструменты и обращается к каким серверам MCP. Инвентаризация экспортируется в виде ML-BOM CycloneDX 1.6.

Xygeni AI Security

Что обнаруживает Xygeni перед развертыванием, по оценке риска ASI.

Каждое обнаруженное нарушение помечено кодом OWASP, поэтому ваша команда и ваши аудиторы будут читать его на одном языке.

ASI01

Агент совершает захват цели

Поверхности для оперативного введения, агенты, поглощающие внешнее содержимое без предварительной дезинфекции, подсказки, полученные из реестров на плавающих этикетках.

ASI02

Неправильное использование инструмента

Агенты, запускающие инструменты без ввода данных guardrailsа также подробный обзор возможностей каждого актива, таких как выполнение кода и автоматическое выполнение.

ASI03

Злоупотребление личной идентичностью и привилегиями

Статические учетные данные с длительным сроком действия в конфигурациях агентов, учетные данные, передаваемые без сужения области действия, серверы MCP и инструментов с повышенными привилегиями, а также секреты в файлах командной строки.

ASI04

Агентная цепочка поставок

Вредоносные или опечатанные навыки с вердиктом SAFE / CAUTION / DO_NOT_INSTALL; небезопасная загрузка модели (trust_remote_code=True); AI-BOM каждого компонента.

ASI05

Неожиданное выполнение кода

Потоки загрязнений из выходных данных LLM поступают в eval и из ненадежных наборов данных в pickle.loadВ Python и JavaScript используется внедрение шаблонов, приводящее к удаленному выполнению кода (RCE).

ASI06

Отравление памяти и контекста

Нестерилизованные ретриверы RAG, а также недостатки векторизации и встраивания (LLM08).

ASI07 до ASI10

Поведение во время выполнения

Взаимодействие между агентами, каскадные сбои, доверие между людьми и несанкционированные агенты возникают во время выполнения программы. Xygeni предоставляет вам инвентаризацию и граф взаимосвязей, от которых зависят эти элементы управления во время выполнения.

Вокруг этого ядра:

  • Семантический анализ навыков и инструкций для агентов. Дополнительный, воспроизводимый обзор программы LLM позволяет оценить намерения преподавателя. SKILL.md и AGENTS.md Он перехватывает вредоносные инструкции, содержащие только текст, которые не видны в сигнатурах. Может работать в режиме саморазмещения.
  • Внедрите это в систему непрерывной интеграции. xygeni ai сканер работает в вашем pipeline и сборка завершается с ошибкой при наличии обнаруженных проблем. Запустите только режим отчета, затем установите флажок «Критически важные».
  • Безопасность внутри системы взаимодействия агентов. DevAI интегрирует сканирование, анализ и исправления Xygeni в IDE и в агенты программирования ИИ. Сервер Xygeni MCP.
  • Защитите рабочее место. Shield блокирует вредоносные пакеты на компьютерах разработчиков до их загрузки, независимо от того, кто запускает установку, и приписывает каждую блокировку процессу и команде, которые ее вызвали.
  • Быстро исправьте. Функция AI Triage определяет приоритетность обнаруженных проблем, а функция AI Remediation генерирует рекомендации по устранению неполадок для каждой категории OWASP LLM.

Контрольный список OWASP Agentic AI Top 10 для проверки готовности

  1. Инвентарь: Составьте список всех агентов, моделей, инструментов, серверов MCP и навыков в ваших репозиториях и поддерживайте его в актуальном состоянии на каждом из них. commit.
  2. Наименьшая степень влияния: Предоставьте каждому агенту только ту автономию и инструменты, которые необходимы для выполнения его задачи, и требуйте одобрения человека для деструктивных действий.
  3. Ограниченная идентичность: Замените долгосрочные, общие учетные данные агента на краткосрочные токены, предназначенные для каждого агента отдельно.
  4. Ненадежные данные: Прежде чем использовать документ, веб-страницу, электронное письмо и сообщение агента, рассматривайте каждый документ, веб-страницу, электронное письмо и сообщение как ненадежные.
  5. Проверенные компоненты: Перед внедрением проверяйте навыки, серверы MCP и модели, закрепляйте версии и ведите спецификацию материалов для ИИ.
  6. Нет небезопасного выполнения: запрет eval При работе с результатами моделирования, выполнении кода в изолированной среде и никогда не запускайте агентов от имени root.
  7. Очистка памяти: очищать информацию, поступающую в хранилища RAG и долговременную память, и разделять память по пользователю и контексту.
  8. Gate в CI: сканируйте код агента на каждом pull request и сопоставить полученные данные с кодами ASI.
  9. Наблюдать и содержать: Регистрируйте каждое действие агента и вызов инструмента, и убедитесь, что вы можете быстро отозвать любого агента.

Прежде чем агенты начнут действовать, определитесь, с какими агентами вы работаете.

Список OWASP Agentic AI Top 10 поможет вам составить карту. Первый шаг одинаков для всех десяти рисков: найти каждого агента, инструмент и навык в вашем коде. Узнайте, как Xygeni AI Security проводит инвентаризацию ваших агентов и сопоставляет полученные данные с кодами ASI. или заказать демоверсию.

Часто задаваемые вопросы (FAQ)

Что означает аббревиатура ASI в списке OWASP Agentic AI Top 10?

ASI расшифровывается как Agentic Security Initiative, команда проекта OWASP GenAI Security Project, которая составила этот список. Каждому риску присваивается код от ASI01 (Agent Goal Hijack) до ASI10 (Rogue Agents), аналогично тому, как в списке LLM используются коды от LLM01 до LLM10.

Нужен ли мне курс OWASP Agentic AI Top 10, если я уже прохожу курс OWASP LLM Top 10?

Только если ваш ИИ способен действовать. Чат-бот или приложение RAG, которое просто отвечает на вопросы, входит в десятку самых опасных рисков LLM. Как только ваше приложение начинает вызывать инструменты, хранит данные в памяти, делегирует задачи другим агентам или использует учетные данные, список рисков, связанных с агентными технологиями, охватывает риски, которые не включены в список LLM.

Может ли статический анализ выявить 10 самых распространенных рисков в OWASP Agentic AI?

Для многих из них — да. Перехват целей, незащищенные инструменты, учетные данные с избыточными привилегиями, вредоносные навыки, небезопасное выполнение кода и необработанные входные данные RAG — все это оставляет следы в коде и конфигурации. Риски, возникающие в результате реального поведения, такие как каскадные сбои и несанкционированные агенты, требуют контроля во время выполнения.

sca-инструменты-программное обеспечение-композиция-анализ-инструменты
Расставьте приоритеты, устраните и защитите риски, связанные с программным обеспечением
Получите бесплатный аккаунт.
Нет необходимости кредитную карту.

Обеспечьте безопасность разработки и доставки программного обеспечения.

с пакетом продуктов Xygeni