TL, д-р
Що означає для вас рейтинг OWASP Agentic AI Top 10 pipeline
LLM, який вказує на наявність проблеми з контентом, є проблемою з контентом. Агент, який робить щось неправильно, є інцидентом безпеки. Топ-10 агентів ШІ від OWASP – це карта для другої.
- Що це: 10 найкращих агентів ШІ від OWASP (офіційно OWASP Топ-10 для агентських застосувань 2026 року) перелічує десять ризиків, характерних для агентів ШІ, які планують, викликають інструменти, зберігають пам'ять та діють від вашого імені. Коди починаються з ASI01 до ASI10.
- Як це пов'язано: він розширює топ-10 OWASP LLM, а не замінює його. Список LLM охоплює те, що говорить модель; агентний список охоплює те, що робить агент.
- Куди входить: у реальному pipeline, ці ризики виникають через чотири шляхи: IDE, компоненти сторонніх агентів, ваш власний код агента та середовище виконання.
- Що можна зловити: Шість із десяти залишають відбитки пальців у коді та конфігурації, тому ви можете зупинити їх перед розгортанням. Інші чотири потребують елементів керування під час виконання, і кожен із них починається зі знання того, які агенти ви запускаєте.
Перший крок: інвентаризувати кожного агента, інструмент, MCP-сервер та навичку, а потім ввести код нового агента в CI з позначками результатів відповідно до ASI-кодів.
Чому важливий рейтинг OWASP Agentic AI Top 10: ваш pipeline має нове committers
Рік тому код у ваших репозиторіях писали люди. Сьогодні дедалі більша його частка надходить від агентів штучного інтелекту: помічників кодування, які встановлюють залежності, агентів, які відкривають pull requests, та агентські фреймворки, що постачаються всередині ваших власних продуктів з власними інструментами, пам'яттю та обліковими даними. Саме для цього зрушення було написано OWASP Agentic AI Top 10.
Це змінює модель загрози. LLM, який повідомляє про щось не так, є проблемою контенту. Агент, який робить щось не так (видаляє дані, витікає токен, встановлює заражений пакет), є інцидентом безпеки.
«OWASP Agentic AI Top 10» – це перший спільний словник для другого типу проблем. Більшість пояснень зупиняються на визначеннях. У цьому випадку кожен ризик зіставляється з місцем, де він фактично входить до вашого pipeline, а також що можна зробити з цим перед розгортанням.
Що входить до топ-10 агентного ШІ за версією OWASP?
«Топ-10 агентів ШІ» від OWASP — це рецензований список десяти найкритичніших ризиків безпеки для агентів ШІ: систем, які планують, викликають інструменти, зберігають пам’ять та діють з делегованими повноваженнями. Його офіційна назва — OWASP Топ-10 для агентських застосувань 2026 рокуПроект безпеки OWASP GenAI опублікував його 9 грудня 2025 року через свою Ініціативу безпеки агентів, звідки й походить префікс ASI.
Воно ще молоде standard: це перше видання. Кожен запис відповідає знайомому формату OWASP, з описом, поширеними прикладами, сценаріями атак та рекомендаціями щодо запобігання. Центральна порада щодо дизайну OWASP проходить через усі десять пунктів: уникайте надання агентам більшої автономії, ніж потрібно для завдання, та ставтеся до спостережуваності як до обов'язкової вимоги.
Топ-10 агентів проти Топ-10 магістра права
Список агентів не замінює OWASP Топ-10 для заявок на ступінь магістра права (LLM)Він базується на ньому, а його записи безпосередньо посилаються на ризики LLM. Просте емпіричне правило:
| Розмір | OWASP LLM Топ-10 | Топ-10 агентів за штучним інтелектом OWASP |
|---|---|---|
| Focus | Що каже модель | Що робить агент |
| Типова невдача | Маніпульована або витік інформації у відповідь | Маніпульована мета, виклик інструменту або дія |
| Відноситься до | Чат-боти, RAG-додатки, будь-яка функція LLM | Агенти з інструментами, пам'яттю, делегуванням або інші агенти |
| Codes | LLM01 до LLM10 | ASI01 до ASI10 |
Якщо ваша заявка відповідає лише на запитання, список LLM вам підійде. Щойно вона зможе вжити заходів, вам знадобляться обидва варіанти. Наш посібник з атаки на вилучення шаблонів детально показано один із 10 найкращих ризиків LLM.
Топ-10 агентів ШІ від OWASP, пояснення: ASI01 - ASI10 у реальному житті pipelines
Ось простий опис кожного ризику в топ-10 OWASP Agentic AI, а також його вигляду в кодових базах. pipelineми бачимо щодня.
ASI01: Викрадення мети агента
Зловмисник змінює те, чого намагається досягти агент, вставляючи інструкції в документ, електронний лист, веб-сторінку або повідомлення іншого агента. Агентам важко відрізнити інструкції від контенту, тому вставлений текст може перенаправити весь багатоетапний план.
в вашому pipeline: агент, який підсумовує pull requests читає PR-опис, що містить приховані інструкції, і починає схвалювати або витікати інформацію замість того, щоб підсумовувати.
ASI02: Неправильне використання та експлуатація інструментів
Агент використовує інструмент, який йому дозволено використовувати, але шкідливим чином: видаляє дані, викликає дороговартісний API в циклі або надсилає інформацію. Привілеї не посилюються; легітимний доступ просто спрямовується на неправильну ціль.
в вашому pipeline: Агент кодування з доступом до оболонки виконує команду очищення для неправильного каталогу.
ASI03: Зловживання ідентифікацією та привілеями
Агенти успадковують облікові дані, сесії та ролі, а зловмисники використовують ці ланцюжки делегування, щоб досягти того, чого вони не могли досягти безпосередньо. Корінною причиною є системи ідентифікації, створені для людей, застосовані до програмного забезпечення, яке діє самостійно.
в вашому pipeline: Конфігурація агента містить довготривалий токен з областю дії на рівні всієї організації, який використовується кількома інструментами.
ASI04: Вразливості агентського ланцюга поставок
Моделі, інструменти, плагіни, MCP-сервери, навички та підказки, які завантажують агенти, надходять від третіх сторін, і будь-який з них може бути зловмисним або підробленим. На відміну від класичних залежностей, агенти часто збирають ці компоненти під час виконання.
в вашому pipeline: Розробник встановлює агентську навичку з помилкою, інструкції якої вказують агенту зчитувати облікові дані та надсилати їх зовні.
ASI05: Неочікуване виконання коду (RCE)
Агент генерує або запускає код, який виконується там, де не повинен: команди оболонки, десеріалізовані об'єкти, механізми шаблонів, eval на виводі моделі. Результатом може бути повна компрометація хоста або контейнера.
в вашому pipeline: Вихідні дані LLM надходять безпосередньо в eval, або агент завантажує ненадійний набір даних за допомогою pickle.load.
ASI06: Отруєння пам'яті та контексту
Зловмисники заповнюють довготривалу пам'ять агента, зведення або сховища RAG шкідливими даними, тому кожне майбутнєcisіон спотворений. На відміну від одноразової швидкої ін'єкції, пошкодження зберігається протягом усіх сеансів.
в вашому pipeline: Ретривер RAG поглинає зовнішні документи без санітарної обробки, і одна отруєна сторінка формує кожну наступну відповідь.
ASI07: Незахищений міжагентний зв'язок
Агенти обмінюються повідомленнями без автентифікації, перевірки цілісності чи валідації, тому повідомлення можуть бути підроблені, перехоплені або змінені. Одна й та сама інструкція також може бути прочитана по-різному різними агентами.
в вашому pipeline: Агент планувальника приймає завдання від будь-якої служби у внутрішній мережі, яка використовує його протокол.
ASI08: Каскадні збої
Одна помилка (галюцинація, отруєна пам'ять, скомпрометований інструмент) поширюється між агентами та робочими процесами швидше, ніж люди встигають зреагувати. OWASP застосовує цю категорію, коли пошкодження поширюються за межі початкового порушення.
в вашому pipeline: Один агент пише погану конфігурацію, другий її розгортає, третій — поширює її в кожному регіоні. Ми обговорювали, як стримати цей радіус вибуху в нашій Радіус вибуху. Обговорення SafeDev.
ASI09: Експлуатація довіри між людиною та агентом
Люди довіряють впевненим, добре поясненим результатам роботи агентів, а зловмисники або недосконалі розробки використовують цю довіру, щоб керувати процесами.cisіонів. Людина виконує останню дію, тому роль агента може зникнути з аудиторського журналу.
в вашому pipeline: рецензент схвалює агента pull request тому що пояснення звучить правильно, без перевірки різниці.
ASI10: Агенти-шахраї
Агент відхиляється від своєї передбачуваної функції та продовжує діяти шкідливо, оманливо або поза межами дозволеного. Кожна дія може виглядати законною; загальна поведінка такою не є. ASI10 стосується втрати контролю після початку відхилення, а не початкового вторгнення.
в вашому pipeline: Агент продовжує використовувати дозволи після завершення свого завдання, непомітно розширюючи те, до чого торкається.
З десяти ризиків ASI04 — це той, з яким більшість команд вже стикаються щодня: агенти кодування вибирають та встановлюють пакети, і ніхто не перевіряє, що саме входить. Ми розглянули саме це в нещодавній розмові про SafeDev. Погляньте!
Де OWASP Agentic AI Top 10 потрапляє у ваш pipeline
Десять ризиків не виникають через одні двері. Вони виникають через чотири, і кожні двері потребують власного контролю.
| Точка входу | Що входить | Ризики ASI | Де це зупинити. |
|---|---|---|---|
| IDE та робоча станція розробника | Агенти кодування, MCP-сервери, навички, пакети, які встановлюють агенти | АСИ04, АСИ05 | На робочій станції, перед встановленням |
| Компоненти сторонніх агентів | Моделі, інструменти, плагіни, підказки з реєстрів | АСИ04, АСИ06 | Інвентаризація та огляд перед прийняттям |
| Ваш власний код агента | Фреймворки агентів, підказки, визначення інструментів, облікові дані, RAG pipelines | АСІ01, АСІ02, АСІ03, АСИ05, АСИ06 | Статичний аналіз, в pull requests та ДІ |
| Виконання виробничого процесу | Агенти діють, спілкуються один з одним, працюють з людьми | АСІ07, АСІ08, АСИ09, АСИ10 | Архітектура, моніторинг та аварійне завершення роботи |
Цей шаблон має значення для того, як ви застосовуєте OWASP Agentic AI Top 10. Перші три двері залишають докази в коді та конфігурації, що означає, що ви можете знайти та заблокувати їх до того, як щось буде надіслано. Четверта дверцята залежить від поведінки під час виконання, тому вона спирається на вибір дизайну: мінімальна кількість агентів, підписані повідомлення, схвалення людиною дій з високим рівнем впливу та можливість швидкого відкликання будь-якого агента.
Навіть елементи керування під час виконання залежать від однієї речі, яку ви створили раніше: інвентаризації. Ви не можете налаштувати автоматичне завершення роботи агента, про існування якого ви не знаєте.
Як Xygeni виявляє 10 головних ризиків OWASP Agentic AI перед розгортанням
Безпека штучного інтелекту Xygeni сканує компоненти штучного інтелекту, з яких створені ваші програми, безпосередньо з вихідного коду. Кожен висновок має свою категорію OWASP LLM Top 10 та, де це можливо, свій код OWASP Agentic AI Top 10, тому ваша команда та ваші аудитори читають висновки однією мовою.
Огляд топ-10 агентів штучного інтелекту OWASP починається з інвентаризації. AI Security виявляє агентів, моделі, інструменти, MCP-сервери, навички, підказки, guardrails, векторні сховища та набори даних у ваших репозиторіях, а також відображає, як вони з'єднуються: який агент використовує яку модель, виконує які інструменти та викликає які MCP-сервери. Інвентаризація експортується як CycloneDX 1.6 ML-BOM.
Безпека штучного інтелекту Xygeni
Що Xygeni виявляє перед розгортанням, за ризиком ASI
Кожен висновок позначено відповідним кодом OWASP, тому ваша команда та ваші аудитори читають його однією мовою.
Викрадення мети агента
Поверхні для введення запитів, агенти, що поглинають зовнішній контент без санітарної обробки, запити, витягнуті з реєстрів на плаваючих мітках.
Неправильне використання інструментів
Агенти, що викликають інструменти без введення даних guardrails, а також перегляд можливостей для кожного ресурсу, таких як виконання коду та автоматичне виконання.
Зловживання особистими даними та привілеями
Статичні довготривалі облікові дані в конфігураціях агентів, облікові дані, що надаються без звуження області дії, сервери MCP та інструментів із підвищеними привілеями, а також секретні дані у файлах запитів.
Ланцюг поставок агента
Шкідливі або помилкові навички з вердиктом SAFE / CAUTION / DO_NOT_INSTALL; небезпечне завантаження моделі (trust_remote_code=True); AI-BOM кожного компонента.
Неочікуване виконання коду
Потік забруднень з виводу LLM у eval і з ненадійних наборів даних у pickle.load, у Python та JavaScript; ін'єкція шаблонів, що призводить до RCE.
Отруєння пам'яті та контексту
Неочищені ретривери RAG, а також слабкі місця у векторі та вбудовуванні (LLM08).
Поведінка під час виконання
Міжагентна комунікація, каскадні збої, людська довіра та агенти-зловмисники виникають під час виконання. Xygeni надає вам графік інвентаризації та зв'язків, від яких залежать ці елементи керування під час виконання.
Навколо цього ядра:
- Семантичний огляд навичок та інструкцій агента. Необов'язковий, відтворюваний огляд LLM оцінює намір
SKILL.mdтаAGENTS.mdфайли, перехоплюючи шкідливі інструкції, що містять лише прозу, які не може бачити жоден підпис. Він може працювати на власній моделі. - Заблокуйте його в CI. Команда
xygeni aiсканер працює у вашому pipeline і не вдається виконати збірку, якщо є результати. Запустіть у режимі лише звіту, а потім перейдіть на режим критичного стану. - Безпека всередині циклу агента. DevAI переносить сканування, сортування та виправлення Xygeni в IDE та в агенти кодування ШІ через Сервер Xygeni MCP.
- Захистіть робочу станцію. Shield блокує шкідливі пакети на комп'ютерах розробників перед їх завантаженням, тим, хто запускає встановлення, та пов'язує кожне блокування з процесом і командою, які його запустили.
- Швидко виправити. ШІ-соріювання визначає пріоритети виявлених проблем, а ШІ-виправлення генерують рекомендації щодо виправлення для кожної категорії LLM OWASP.
Контрольний список готовності до OWASP Agentic AI Top 10
- Інвентаризація: перелічіть кожного агента, модель, інструмент, MCP-сервер та навичку у ваших репозиторіях і підтримуйте цей список актуальним на кожному commit.
- Найменше агентство: надавати кожному агенту лише ту автономію та інструменти, які необхідні для його завдання, та вимагати схвалення людини для руйнівних дій.
- Ідентичність з обмеженою областю дії: замінити довготривалі спільні облікові дані агентів короткотривалими токенами для кожного агента.
- Ненадійний вхід: розглядати кожен документ, веб-сторінку, електронний лист та повідомлення агента як ненадійні, перш ніж вони зможуть сформувати ціль або викликати інструмент.
- Перевірені компоненти: переглядати навички, MCP-сервери та моделі перед впровадженням, закріплювати версії та вести AI-BOM.
- Немає небезпечного виконання: заборона
evalна виводі моделі, виконанні коду в ізольованому середовищі та ніколи не запускайте агенти від імені root. - Очистити пам'ять: очищувати те, що потрапляє до сховищ RAG та довготривалої пам'яті, а також розділяти пам'ять за користувачем та контекстом.
- Ворота в CI: скануйте код агента на кожному pull request та зіставити результати з кодами ASI.
- Спостерігати та втримувати: реєструйте кожну дію агента та виклик інструменту, а також переконайтеся, що ви можете швидко скасувати будь-якого агента.
Знайте, з якими агентами ви працюєте, перш ніж вони діятимуть
Топ-10 агентів ШІ від OWASP пропонує вам карту. Перший крок однаковий для всіх десяти ризиків: знайдіть кожного агента, інструмент та навичку у своєму коді. Дізнайтеся, як Xygeni AI Security інвентаризує ваших агентів та зіставляє результати з ASI-кодамиабо забронювати демонстрацію.
Поширені запитання
Що означає ASI у топ-10 агентного ШІ за версією OWASP?
ASI розшифровується як Agentic Security Initiative (Ініціатива безпеки агентів), команда проекту безпеки OWASP GenAI, яка склала цей список. Кожен ризик має код від ASI01 (Викрадання мети агента) до ASI10 (Несанкціоновані агенти), так само, як список LLM використовує LLM01 до LLM10.
Чи потрібен мені OWASP Agentic AI Top 10, якщо я вже слідкую за OWASP LLM Top 10?
Тільки якщо ваш ШІ може діяти. Чат-бот або RAG-додаток, який просто відповідає на запитання, охоплюється LLM Top 10. Щойно ваш додаток викликає інструменти, зберігає пам'ять, делегує іншим агентам або використовує облікові дані, список агентів охоплює ризики, яких список LLM не охоплює.
Чи може статичний аналіз виявити 10 головних ризиків OWASP Agentic AI?
Для багатьох із них – так. Поверхні для захоплення цілей, незахищені інструменти, надмірно привілейовані облікові дані, шкідливі навички, небезпечне виконання коду та неочищені вхідні дані RAG залишають сліди в коді та конфігурації. Ризики, що виникають внаслідок поведінки в реальному часі, такі як каскадні збої та несанкціоновані агенти, потребують додаткових елементів керування під час виконання.







