OWASP Agentic AI Топ 10

Обяснение на топ 10 на OWASP Agentic AI: ASI01–ASI10

TL; DR

Какво означава OWASP Agentic AI Top 10 за вас pipeline

Магистър по право (LLM), който твърди, че нещо не е наред, е проблем със съдържанието. Агент, който прави нещо нередно, е инцидент със сигурността. OWASP Agentic AI Top 10 е картата за втората.

  • Какво е: OWASP Agentic AI Топ 10 (официално OWASP Топ 10 за агентски приложения 2026) изброява десет риска, специфични за агенти с изкуствен интелект, които планират, извикват инструменти, съхраняват памет и действат от ваше име. Кодовете са от ASI01 до ASI10.
  • Как се свързва: Той разширява OWASP LLM Top 10, вместо да го замества. Списъкът LLM обхваща какво казва един модел; списъкът на агентите обхваща какво прави един агент.
  • Където влиза: в истински pipeline, тези рискове идват през четири врати: IDE, компоненти на агенти на трети страни, вашия собствен код на агент и производствена среда.
  • Какво можете да хванете: Шест от десетте оставят отпечатъци в кода и конфигурацията, така че можете да ги спрете преди внедряването. Останалите четири се нуждаят от контроли по време на изпълнение и всеки един от тях започва с това да знаете кои агенти изпълнявате.

Първата стъпка: инвентаризирайте всеки агент, инструмент, MCP сървър и умение, след което въведете новия код на агента в CI с констатации, маркирани с ASI кодове.

Защо е важен OWASP Agentic AI Top 10: вашият pipeline има ново commitването

Преди година кодът във вашите хранилища идваше от хора. Днес все по-голям дял идва от агенти с изкуствен интелект: асистенти за кодиране, които инсталират зависимости, агенти, които отварят... pull requestsи агентски рамки, които се доставят във вашите собствени продукти със собствени инструменти, памет и идентификационни данни. Това е промяната, за която е написан OWASP Agentic AI Top 10.

Това променя модела на заплахата. LLM, който казва, че нещо не е наред, е проблем със съдържанието. Агент, който прави нещо нередно (изтрива данни, изтича токен, инсталира заразен пакет), е инцидент със сигурността.

OWASP Agentic AI Top 10 е първият споделен речник за този втори вид проблем. Повечето обяснители се спират на дефиниции. Този съпоставя всеки риск с мястото, където той действително навлиза във вашия... pipelineи какво можете да направите по въпроса преди внедряването.

Какво представлява Топ 10 на OWASP Agentic AI?

OWASP Agentic AI Top 10 е рецензиран списък с десетте най-критични риска за сигурността на агентите с изкуствен интелект: системи, които планират, извикват инструменти, съхраняват памет и действат с делегирани правомощия. Официалното му име е OWASP Топ 10 за агентски приложения 2026Проектът за сигурност OWASP GenAI го публикува на 9 декември 2025 г. чрез своята инициатива за агентна сигурност, откъдето идва и префиксът ASI.

Все още е младо standard: това е първото му издание. Всяка статия следва познатия OWASP формат, с описание, често срещани примери, сценарии за атаки и насоки за предотвратяване. Основният съвет за дизайн на OWASP е обхванат от всичките десет: избягвайте да давате на агентите повече автономност, отколкото е необходима за задачата, и третирайте наблюдаемостта като задължителна.

Топ 10 на агентите срещу Топ 10 на магистърските програми по право

Списъкът с агенти не замества OWASP Топ 10 за кандидатстване за LLMТой се основава на него, а неговите записи препращат директно към рисковете, свързани с LLM. Едно просто правило:

ИзмерениеOWASP LLM Топ 10OWASP Agentic AI Топ 10
ФокусКакво казва моделътКакво прави агентът
Типична повредаМанипулиран или изтекъл отговорМанипулирана цел, извикване на инструмент или действие
Отнася се заЧатботове, RAG приложения, всяка функция на LLMАгенти с инструменти, памет, делегиране или други агенти
кодовеLLM01 до LLM10ASI01 до ASI10

Ако вашата кандидатура отговаря само на въпроси, списъкът с LLM ви покрива. В момента, в който може да предприеме действия, имате нужда и от двете. Нашето ръководство за атаки за извличане на шаблони показва подробно един от 10-те най-големи риска в LLM.

OWASP Agentic AI Топ 10, обяснено: ASI01 до ASI10 в реално време pipelines

Ето е представен всеки риск в OWASP Agentic AI Top 10 накратко, последван от това как изглежда в кодовите бази и pipelineкоито виждаме всеки ден.

ASI01: Отвличане на целта на агента

Атакуващ променя това, което агентът се опитва да постигне, чрез инжектиране на инструкции в документ, имейл, уеб страница или съобщение на друг агент. Агентите трудно различават инструкциите от съдържанието, така че вмъкнатият текст може да пренасочи цял многоетапен план.

Във вашата pipeline: агент, който обобщава pull requests прочита PR описание, съдържащо скрити инструкции, и започва да одобрява или изтича информация, вместо да обобщава.

ASI02: Злоупотреба и експлоатация на инструменти

Агентът използва инструмент, който му е позволено да използва, но по вреден начин: изтрива данни, извиква скъп API в цикъл или изпраща информация. Не се повишават привилегиите; легитимният достъп просто се насочва към грешната цел.

Във вашата pipeline: Агент за кодиране с достъп до обвивката изпълнява команда за почистване на грешната директория.

ASI03: Злоупотреба с идентичност и привилегии

Агентите наследяват идентификационни данни, сесии и роли, а нападателите използват тези вериги за делегиране, за да достигнат до това, до което не биха могли да достигнат директно. Основната причина са системите за идентичност, създадени за хора, приложени към софтуер, който действа самостоятелно.

Във вашата pipeline: Конфигурацията на агента съдържа дълготраен токен с обхват в цялата организация, споделен между няколко инструмента.

ASI04: Уязвимости на агентната верига за доставки

Моделите, инструментите, плъгините, MCP сървърите, уменията и подканите, които агентите зареждат, идват от трети страни и всеки от тях може да бъде злонамерен или подправен. За разлика от класическите зависимости, агентите често сглобяват тези компоненти по време на изпълнение.

Във вашата pipeline: Разработчик инсталира умение на агент с правописна грешка, чиито инструкции казват на агента да чете идентификационните данни и да ги публикува външно.

ASI05: Неочаквано изпълнение на код (RCE)

Агентът генерира или задейства код, който се изпълнява там, където не би трябвало: команди на shell, десериализирани обекти, механизми за шаблони, eval върху изхода на модела. Резултатът може да бъде пълно компрометиране на хоста или контейнера.

Във вашата pipeline: Изходът от LLM се подава директно в evalили агент зарежда ненадежден набор от данни с pickle.load.

ASI06: Отравяне на паметта и контекста

Атакуващите зареждат дългосрочната памет, обобщенията или RAG хранилищата на агента със злонамерени данни, така че всяко бъдещоcisйонът е изкривен. За разлика от еднократното инжектиране в бърз ред, корупцията се запазва в продължение на няколко сесии.

Във вашата pipeline: RAG ретривър поглъща външни документи без дезинфекция и една отровена страница оформя всеки следващ отговор.

ASI07: Несигурна комуникация между агенти

Агентите обменят съобщения без удостоверяване, проверки за целостта или валидиране, така че съобщенията могат да бъдат фалшифицирани, прихванати или променени. Една и съща инструкция може да бъде прочетена по различен начин от различните агенти.

Във вашата pipeline: Агентът за планиране приема задачи от всяка услуга във вътрешната мрежа, която говори неговия протокол.

ASI08: Каскадни грешки

Една повреда (халюцинация, отровен спомен, компрометиран инструмент) се разпространява сред агентите и работните процеси по-бързо, отколкото хората могат да реагират. OWASP прилага тази категория, когато щетите се разпространяват отвъд първоначалното нарушение.

Във вашата pipeline: Един агент пише лоша конфигурация, втори я внедрява, трети я разпространява във всеки регион. Обсъждахме как да ограничим този радиус на взрив в нашата Радиус на взрива SafeDev Talk.

ASI09: Експлоатация на доверието между човек и агент

Хората се доверяват на уверени, добре обяснени резултати от агентите, а нападателите или дефектните дизайни използват това доверие, за да насочват...cisйони. Човекът извършва последното действие, така че ролята на агента може да изчезне от одитната следа.

Във вашата pipeline: рецензент одобрява работата на агент pull request защото обяснението звучи правилно, без да се проверява разликата.

ASI10: Нелоялни агенти

Агентът се отклонява от предназначената си функция и продължава да действа вредно, подвеждащо или извън обхвата си. Всяко действие може да изглежда легитимно; цялостното поведение не е. ASI10 се отнася до загуба на контрол след началото на отклонението, а не до първоначалното нахлуване.

Във вашата pipeline: Агентът продължава да използва разрешения след приключване на задачата си, като тихо разширява това, до което се докосва.

От десетте риска, ASI04 е този, с който повечето екипи се сблъскват всеки ден: програмисти, които избират и инсталират пакети, без никой да преглежда какво влиза. Разгледахме точно това в скорошна беседа на SafeDev. Вижте!

Където OWASP Agentic AI Top 10 влиза във вашия pipeline

Десетте риска не идват през една врата. Те идват през четири и всяка врата се нуждае от собствен контрол.

Входна точкаКакво влизаРискове от ASIКъде да го спра
IDE за разработчици и работна станцияАгенти за кодиране, MCP сървъри, умения, пакети, които агентите инсталиратАСИ04, АСИ05На работната станция, преди инсталиране
Компоненти на агенти на трети страниМодели, инструменти, плъгини, подкани от регистриАСИ04, АСИ06Инвентаризация и преглед преди приемане
Вашият собствен агентски кодАгентски рамки, подкани, дефиниции на инструменти, идентификационни данни, RAG pipelinesАСИ01, АСИ02, АСИ03,
АСИ05, АСИ06
Статичен анализ, в pull requests и CI
Време за изпълнение на продукциятаАгенти, които действат, говорят помежду си, работят с хораАСИ07, АСИ08,
АСИ09, АСИ10
Архитектура, мониторинг и прекъсвачи

Моделът е от значение за начина, по който прилагате OWASP Agentic AI Top 10. Първите три врати оставят доказателства в кода и конфигурацията, което означава, че можете да ги намерите и блокирате, преди да се изпрати каквото и да било. Четвъртата зависи от поведението по време на изпълнение, така че разчита на дизайнерски решения: минимална агенция, подписани съобщения, човешко одобрение за действия с голямо въздействие и възможност за бързо отменяне на всеки агент.

Дори контролите по време на изпълнение зависят от едно нещо, което сте създали по-рано: инвентар. Не можете да поставите прекъсвач за аварийно спиране на агент, за който не знаете, че съществува.

Как Xygeni отчита 10-те най-големи риска на OWASP Agentic AI преди внедряването

Xygeni AI Security сканира AI компонентите, с които са изградени вашите приложения, директно от изходния код. Всяко откритие носи своята OWASP LLM Top 10 категория и, където е приложимо, своя OWASP Agentic AI Top 10 код, така че вашият екип и вашите одитори четат откритията на един и същ език.

Обхващането на OWASP Agentic AI Top 10 започва с инвентаризацията. AI Security открива агенти, модели, инструменти, MCP сървъри, умения, подкани, guardrails, векторни хранилища и набори от данни във вашите хранилища и картографира как те се свързват: кой агент използва кой модел, изпълнява кои инструменти и извиква кои MCP сървъри. Инвентаризацията се експортира като CycloneDX 1.6 ML-BOM.

Xygeni AI Security

Какво Xygeni открива преди внедряване, по ASI риск

Всяка констатация е маркирана със съответния OWASP код, така че вашият екип и вашите одитори я четат на един и същ език.

ASI01

Отвличане на цел от агент

Повърхности за бързо инжектиране, агенти, поглъщащи външно съдържание без дезинфекция, подкани, извлечени от регистри върху плаващи етикети.

ASI02

Злоупотреба с инструменти

Агенти, извикващи инструменти без въвеждане на данни guardrails, плюс изглед на възможности за всеки актив, като например изпълнение на код и автоматично изпълнение.

ASI03

Злоупотреба с идентичност и привилегии

Статични дълготрайни идентификационни данни в конфигурациите на агенти, идентификационни данни, споделени без стесняване на обхвата, MCP и сървъри на инструменти с повишени привилегии и тайни данни във файлове с подкани.

ASI04

Верига за доставки на агенти

Злонамерени или правописни умения с оценка SAFE / CAUTION / DO_NOT_INSTALL; опасно зареждане на модел (trust_remote_code=True); AI-BOM на всеки компонент.

ASI05

Неочаквано изпълнение на код

Замърсяването се влива от изхода на LLM в eval и от ненадеждни набори от данни в pickle.load, в Python и JavaScript; инжектиране на шаблони, водещо до RCE.

ASI06

Отравяне на паметта и контекста

Несанитизирани RAG ретривъри и слабости при вектора и вграждането (LLM08).

ASI07 до ASI10

Поведение по време на изпълнение

Междуагентната комуникация, каскадните откази, човешкото доверие и недобросъвестните агенти се появяват по време на изпълнение. Xygeni ви предоставя графика на инвентара и взаимоотношенията, от които зависят тези контроли по време на изпълнение.

Около това ядро:

  • Семантичен преглед на уменията и инструкциите на агента. Незадължителен, възпроизводим преглед на LLM оценява намерението на SKILL.md намлява AGENTS.md файлове, улавяйки злонамерени инструкции само в проза, които никой подпис не може да види. Може да работи на самостоятелно хостван модел.
  • Затворете го в CI. - xygeni ai скенерът работи във вашия pipeline и не успява да изгради, когато съществуват открития. Стартирайте в режим само на отчет, след което затворете на критично ниво.
  • Сигурност вътре в цикъла на агента. DevAI внася сканиранията, триажа и корекциите на Xygeni в IDE и в агентите за кодиране с изкуствен интелект чрез Xygeni MCP сървър.
  • Защитете работното място. Shield блокира злонамерени пакети на машините на разработчиците, преди да бъдат изтеглени, от всеки, който изпълнява инсталацията, и приписва всяко блокиране на процеса и командата, които са го задействали.
  • Поправете бързо. AI Triage приоритизира откритията, а AI Remediation генерира насоки за отстраняване на проблеми за всяка категория на OWASP LLM.

Контролен списък за готовност на OWASP Agentic AI Top 10

  1. Складова наличност: избройте всеки агент, модел, инструмент, MCP сървър и умение във вашите хранилища и поддържайте списъка актуален за всеки commit.
  2. Най-малко агенция: дават на всеки агент само автономията и инструментите, от които се нуждае неговата задача, и изискват човешко одобрение за разрушителни действия.
  3. Обхватна идентичност: заменете дълготрайните, споделени идентификационни данни на агенти с краткотрайни токени за всеки агент.
  4. Ненадежден вход: третирайте всеки документ, уеб страница, имейл и съобщение от агент като ненадеждни, преди те да могат да оформят цел или да извикат инструмент.
  5. Проверени компоненти: преглед на уменията, MCP сървърите и моделите преди внедряване, закрепване на версии и поддържане на AI-BOM.
  6. Няма опасно изпълнение: забрана eval върху изхода на модела, изпълнение на код в sandbox и никога не стартирайте агенти като root.
  7. Чиста памет: дезинфекцирайте това, което влиза в RAG хранилищата и дългосрочната памет, и разделяйте паметта по потребител и контекст.
  8. Портал в CI: сканирайте кода на агента на всеки pull request и съпоставете откритията с ASI кодове.
  9. Наблюдавайте и ограничавайте: регистрирайте всяко действие на агент и извикване на инструмент и се уверете, че можете бързо да отмените всеки агент.

Знайте кои агенти управлявате, преди да действат

OWASP Agentic AI Top 10 ви дава картата. Първият ход е един и същ за всичките десет риска: намерете всеки агент, инструмент и умение във вашия код. Вижте как Xygeni AI Security инвентаризира вашите агенти и съпоставя откритията с ASI кодове или резервирайте демонстрация.

Въпроси и Отговори

Какво означава ASI в Топ 10 на OWASP Agentic AI?

ASI е съкращение от Agentic Security Initiative, екипът на OWASP GenAI Security Project, който е съставил списъка. Всеки риск носи код от ASI01 (Agent Goal Hijack) до ASI10 (Rogue Agents), по същия начин, по който списъкът с LLM използва LLM01 до LLM10.

Имам ли нужда от OWASP Agentic AI Top 10, ако вече следя OWASP LLM Top 10?

Само ако вашият изкуствен интелект може да действа. Чатбот или RAG приложение, което само отговаря на въпроси, е обхванато от LLM Top 10. След като приложението ви извиква инструменти, съхранява памет, делегира на други агенти или използва идентификационни данни, списъкът с агенти покрива рискове, които LLM списъкът не покрива.

Може ли статичният анализ да открие 10-те най-големи рискове на OWASP Agentic AI?

За много от тях, да. Повърхности за отвличане на цели, неохранявани инструменти, свръхпривилегировани идентификационни данни, злонамерени умения, опасно изпълнение на код и несанитизирани RAG входни данни оставят доказателства в кода и конфигурацията. Рисковете, които възникват от поведението на живо, като каскадни откази и нелоялни агенти, се нуждаят от контрол по време на изпълнение отгоре.

инструменти за анализ на състава на софтуера SCA Tools
Приоритизирайте, отстранете и защитете софтуерните си рискове
Вземете своя безплатен акаунт.
Не е необходима кредитна карта.

Осигурете си разработването и доставката на софтуер

с продуктовия пакет Xygeni