Безпека агентів ШІ більше не залежить від того, що говорить модель. Йдеться про те, що робить агент: інструменти, які він викликає, дані, які він зчитує, облікові дані, які він зберігає, та пакети, які він самостійно встановлює.
І більшість команд не можуть відповісти на перше питання: які агенти ми насправді використовуємо? Вони знаходяться в репозиторіях як графи LangChain, MCP-сервери, SKILL.md файли та інструменти штучного інтелекту, які окремі розробники налаштовували у п'ятницю вдень. Ніхто їх не перевіряв, а шкідлива навичка — це просто звичайний текст
TL, д-р
Безпека ШІ-агента у чотири кроки: побачити, оцінити, захистити цикл, захистити інсталяції
Ви не можете захистити агентів, яких не бачите. Безпека агентів ШІ починається з інвентаризації кожного агента, MCP-сервера, навички, моделі та інструменту кодування ШІ у вашому коді.
- Ризик у створенні агентів: підказки, що об'єднують введені користувачем дані, агенти виклику інструментів без guardrails, надмірно привілейовані облікові дані та навички з прихованими інструкціями. Більшість із них видно в коді, перед розгортанням, і відповідає OWASP Топ-10 для агентських програм.
- Безпека всередині циклу: Агентам кодування потрібна безпека всередині циклу, тому вони сканують та виправляють написане, перш ніж воно буде commitТед, а не тижнями пізніше у квитку.
- Захистіть інсталяції: Агенти також встановлюють залежності. Виявлення шкідливого програмного забезпечення, яке працює до появи сигнатури, охоплює шкідливі пакети, незалежно від того, хто їх встановлює – розробник чи агент.
- Один робочий процес: Результати досліджень ШІ проходять ту саму процедуру сортування, перевірки та звітності, що й решта ваших результатів роботи AppSec.
Перший крок: створіть інвентаризацію ШІ у ваших репозиторіях, експортуйте її як AI-BOM, а потім введіть код нового агента в CI.
Чому безпека агентів ШІ — це окрема проблема
Функція LLM повертає текст, а людина вирішує, що з ним робити. Агент самостійно замикає цей цикл: він планує, викликає інструменти, читає веб-сторінки, електронні листи та документи, записує файли та виконує команди. Кожну можливість, яку ви надаєте агенту, зловмисник може запозичити.
OWASP зробив таку ж різницю. OWASP Топ-10 для агентських застосувань 2026 року (ASI01 до ASI10) базується на OWASP Топ-10 для заявок на ступінь магістра права (LLM)Список LLM охоплює те, що говорить модель; агентний список охоплює те, що робить агент.
Більшість організацій зараз використовують два типи агентів:
- Агенти, яких ви вбудовуєте у свої програми: помічники підтримки, внутрішні копілоти та робочі процеси, побудовані за допомогою таких фреймворків, як LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel або LlamaIndex, часто підключених до інструментів через MCP сервери.
- Агенти ШІ-кодування, які використовують ваші розробники: Claude Code, Cursor, GitHub Copilot, Windsurf та інші, які пишуть код, редагують конфігурацію та додають залежності.
Безпека агентів штучного інтелекту повинна охоплювати обидва, оскільки обидва діють з вашими дозволами.
Крок 1: інвентаризація кожного агента, сервера MCP та навичок
Безпека агентів ШІ починається з дошки запитань, і тепер аудитори запитують: який ШІ ми використовуємо? Безпека штучного інтелекту Xygeni відповідає на нього з джерела: код, конфігурація, маніфести та залежності.
Він виявляє моделі, агентів та сервери агентів, фреймворки штучного інтелекту, сервери MCP та їхні інструменти, навички (SKILL.md, AGENTS.md), підказки, guardrails, векторні сховища, набори даних, кінцеві точки виведення та інструменти кодування штучного інтелекту, налаштовані у ваших репозиторіях. Він також відображає, як вони з'єднуються: який агент використовує яку модель, виконує які інструменти та викликає які MCP-сервери.
Результатом є активний інвентар штучного інтелекту, який можна експортувати як AI-BOM у форматі CycloneDX, із записом управління для кожного активу, що включає поле категорії ризику згідно із Законом ЄС про штучний інтелект.
Хочете побачити, який ШІ вже є у вашому коді? Забронюйте сеанс з інженером, і ми створимо інвентаризацію штучного інтелекту для одного з ваших репозиторіїв.
Крок 2: визначте ризики, пов'язані з тим, як створюються агенти
Більшість вразливостей агентів не є екзотичними. Це запит, створений шляхом конкатенації рядків, агент, що викликає інструменти, без захисту вхідних даних або облікові дані з набагато більшою сферою застосування, ніж потрібно агенту. Усі вони залишають відбитки в коді, тому ви можете виявити їх у неперервній інтеграції перед розгортанням.
Ризики ШІ-агентів, які можна виявити в коді
Кожен ризик відповідає OWASP Топ-10 для заявок на ступінь магістра права (LLM) або його агентів-компаньйонів, тож висновки говорять тією ж мовою, що й ваші аудитори.
| Risk | Як це виглядає в коді | Картування OWASP |
|---|---|---|
| Швидке введення | Системні підказки, що об'єднують користувацький контент без розділення ролей, роздільників чи guardrails | LLM01 |
| Непряме впорскування | Агенти виклику інструментів без введення даних guardrailsабо агенти, які завантажують веб-сторінки, електронні листи чи отримані документи без санітарної обробки | LLM01 |
| Небезпечна обробка виводу | Досягнення результату моделі eval або інші небезпечні стоки, що відстежуються через функції та файли | LLM05 |
| Надпривілейовані ідентифікаційні дані агентівЗловживання нелюдською ідентичністю | Статичні довготривалі облікові дані, спільні облікові дані без звуження області дії, сервери MCP або інструментів, що працюють із підвищеними привілеями | ASI03 |
| Зловмисні або помилкові навичкиЛанцюг постачання навичок агентів | Приховані шкідливі директиви в SKILL.md or AGENTS.md, назви навичок, що видають себе за відомі навички чи інтеграції | 10 найкращих навичок агента |
| Секрети в підказках | Облікові дані, що зберігаються у файлах запитів | LLM07 |
Кожне відкриття має свою категорію OWASP LLM Top 10, а також теги OWASP Agentic Applications та Agentic Skills, де вони застосовуються, та вектори атак червоної команди.
Навички заслуговують на особливу увагу, оскільки шкідлива інструкція у файлі навичок є прозою, а не кодом, і жоден підпис не може її побачити. Перевірка за допомогою штучного інтелекту, що здійснюється за згодою, оцінює намір позначених файлів навичок та інструкцій агента за допомогою версійної, детермінованої конфігурації, тому один і той самий файл завжди отримує однаковий вердикт. Він може працювати на вашій власній моделі, розміщеній на вашому хостингу, тому код і підказки не повинні залишати ваше середовище. Оцінка рівня навичок потім об'єднує ці сигнали в одну відповідь: безпечно, обережно або не встановлювати.
Іди глибше: перегляньте нашу сесію Радіус вибуху: Коли агент торкається того, про що ви не просили, про те, що відбувається, коли дозволи агента виходять за межі його завдання.
Крок 3: встановіть безпеку в циклі агента кодування
Агенти ШІ-кодування пишуть та commit код швидше, ніж будь-хто може його переглянути. Виправлення, яке надходить у заявці через два тижні, рідко виправляється. Виправлення має відбутися, поки агент ще працює.
Сервер Xygeni MCP працює локально та взаємодіє з будь-яким агентом кодування на основі штучного інтелекту, який підтримує MCP, незалежно від моделі, на якій він працює. Агент може сканувати щойно написаний код, перераховувати нові проблеми, отримувати вердикти ШІ Triage та запитувати виправлення для SAST та SCA результати. Він повторюється, доки зміна не стане чистою, перш ніж щось буде commitТед, з урахуванням схвалень, встановлених вашою командою.
Він використовує ті ж самі механізми, політики та правила вимкнення звуку, що й ваш pipeline, щоб агент і ваш CI ніколи не сперечалися. Для розробників, які працюють разом з агентом, Плагіни IDE внести ті самі висновки та виправлення в редактор.
Крок 4: Захистіть, що встановлюють агенти
Агент кодування на основі штучного інтелекту може самостійно додати залежність і не зупинятиметься, щоб перевірити, чи є новий пакет зі знайомою назвою легітимним. Зловмисники знають про це, і вони чекають у реєстрах програм з відкритим кодом.
Захист від шкідливого програмного забезпечення позначає шкідливі пакети ще до появи сигнатури, незалежно від того, хто їх встановлює – розробник чи агент. На машині розробника Shield забезпечує дотримання політик перед будь-яким запуском: мінімальний вік для нових пакетів, охоплення розширень та плагінів IDE, блокування шкідливих індикаторів та ризикованих географічних регіонів, а також ізоляцію кінцевих точок, коли потрібно стримувати роботу машини.
Хочете піти глибше?
Недолік в обробнику та відкрита кінцева точка, яка його досягає, — це одна проблема з одним власником. І якщо ви вже запускаєте інший інструмент DAST, Xygeni імпортує його результати в те саме подання ризиків, не просячи вас замінити його.
Хочете побачити, як обидва шари працюють разом? Дивіться нашу сесію Від коду до середовища виконання: чому SAST + DAST є важливими для сучасної безпеки додатків, де ми розглянемо, як результати пошуку коду та тести під час виконання підтверджують одне одного.
Один робочий процес, а не інша консоль
Безпека агента ШІ не спрацьовує, коли він стає окремим інструментом з власною чергою. У Xygeni результати ШІ проходять через ту саму воронку, ШІ-соріювання, заявки та звіти, а також решту ваших висновків. AI Remediation надає контекстно-залежні рекомендації щодо виправлення для всіх десяти категорій OWASP LLM, а також ASPM ставить ризик ШІ поруч із кодом, залежностями та pipeline ризик з одного боку.
Безпека та відповідність вимогам агентів ШІ
Регулятори, аудитори та клієнти все частіше запитують інвентаризацію штучного інтелекту, який ви використовуєте, та класифікацію його ризиків. EU AI Act та ISO / IEC 42001 обидва рухаються в цьому напрямку, і AI-BOM стає standard пункт у анкетах закупівель.
Інвентаризація ШІ з полем категорії ризику для кожного активу надає вашій команді управління доказову базу для цієї роботи. Вона підтримує готовність до Закону ЄС про ШІ; це не оцінка відповідності та не замінює вашу юридичну експертизу.
або команди середнього розміру – це просто:
- На кожному pull request: Безпека API в CI на зміненому коді, а також інкрементальні сканування DAST.
- Перш ніж commit: як pre-commit гейт на проміжних файлах.
- Щоночі або під час злиття: повне DAST-сканування.
- Перед кожним великим релізом: Тестування на проникнення ШІ проти проміжної обробки для перевірки беклогу та підтвердження того, що кожне виправлення закрило діру.
Сканер безпеки API працює будь-де, включаючи середовища з ізоляцією, та звітує до Xygeni SaaS або вашого on-premiseплатформа. Результати виходять у форматі JSON, SARIF 2.1.0, CSV та Markdown для pull request коментарів.
Тестування безпеки API та відповідність вимогам
Для команд у банківській справі, страхуванні чи державному секторі тестування безпеки API також є доказом. Кожен результат має теги відповідності для Стаття 32 GDPR, PCI DSS 4.0 (вимоги 3.4, 6.4.3, 7.1, 7.2 та 8) та NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), видимі на платформі та у виводі JSON та SARIF.
Якщо ваша організація підпадає під ДОРА or NIS2, тестування під час виконання надає вам безперервні докази між ручними тестами на проникнення, які все ще потрібні вашим регуляторам.
Як впровадити безпеку агентів штучного інтелекту за 7 кроків
Ось практичний контрольний список у порядку, який забезпечує найшвидшу роботу безпеки агентів ШІ в реальній команді розробників.
- Відкрийте для себе
Інвентаризуйте кожен актив штучного інтелекту у своїх репозиторіях
Перевірте всі репозиторії на наявність агентів, MCP-серверів, навичок, моделей, підказок та інструментів кодування ШІ, а потім експортуйте результат як AI-BOM. Це ваша базова лінія та список, з якого працюють усі наступні кроки.
- Класифікувати
Надайте кожному агенту власника та рівень ризику
Для кожного агента зафіксуйте, кому він належить, до яких даних та інструментів він має доступ, а також його категорію ризику згідно із Законом ЄС про штучний інтелект. Агент, яким ніхто не володіє, – це агент, якого ніхто не виправить.
- Виявлення
Скануйте код агента в CI кожного pull request
Запустіть виявлення ризиків за допомогою штучного інтелекту поруч з іншими скануваннями. Почніть у режимі без блокування, щоб побачити базовий рівень, а потім заблокуйте об'єднання критичних знахідок, коли команди виконають очищення.
- Розгляд
Перевірте навички, перш ніж хтось їх встановить
Сканування файлів з інструкціями для навичок та агентів, таких як
SKILL.mdтаAGENTS.md, увімкнути перевірку намірів за допомогою штучного інтелекту та розглядати вердикт «не встановлювати» як жорстку зупинку. - обмежувати
Дозволи агента скорочення
Замініть статичні довготривалі облікові дані на обмежені, припиніть обмін обліковими даними між агентами та ніколи не запускайте MCP або сервери інструментів із підвищеними привілеями, які їм не потрібні.
- Виправити в циклі
Встановіть безпеку всередині циклу кодуючого агента
Підключіть своїх агентів кодування зі штучним інтелектом до сервера MCP безпеки, щоб вони сканували та виправляли власний код, перш ніж його commitз тими ж правилами, що й ваші pipeline.
- Захист
Захищайте те, що потрапляє на машини розробників
Запровадьте мінімальний вік для нових пакетів, виявляйте шкідливі пакети до появи сигнатури та охоплюйте розширення та плагіни IDE, незалежно від того, хто їх встановлює – розробник чи агент.
Тоді: направляйте кожен висновок у той самий робочий процес сортування, оформлення заявок та звітності, що й решта вашої служби безпеки додатків (AppSec), щоб ризик, пов'язаний зі штучним інтелектом, не опинявся в окремій черзі.
Ви не можете забезпечити собі агента, якого ніколи не зустрічали
Безпека агентів ШІ — це не ще один сканер. Йдеться про знання того, які агенти ви запускаєте, виявлення ризиків у процесі їхньої побудови, забезпечення безпеки в циклі кодування агента та захист того, що встановлюють агенти. Почніть з інвентаризації: все інше залежить від неї.
Хочете бачити кожного агента, MCP-сервер та навичку у своєму коді? Забронюйте сеанс з інженером створити інвентаризацію ШІ ваших репозиторіїв та переглянути її результати. Або почати безкоштовно з ШІ SAST, SCA, виявлення секретів, плагіни IDE та виявлення шкідливого програмного забезпечення у пакетах з відкритим кодом. Кредитна картка не потрібна.
Найчастіші питання безпеки агентів ШІ
Чим відрізняється безпека агентів штучного інтелекту від безпеки LLM?
Безпека LLM стосується того, що показує модель: витік даних, маніпулювання відповідями, небезпечний вивід. Безпека агентів штучного інтелекту стосується того, що агент робить з інструментами, пам'яттю, обліковими даними та іншими агентами. Саме тому OWASP публікує окремий Топ-10 для агентних застосувань (ASI01–ASI10) поверх Топ-10 LLM.
Як знайти агентів штучного інтелекту та сервери MCP у моїй організації?
Почніть з коду. Xygeni AI Security виявляє агентів, MCP-сервери, навички, моделі, підказки та інструменти кодування ШІ у ваших репозиторіях, відображає, як вони з'єднуються, та експортує результат як AI-BOM у форматі CycloneDX. Він працює в CI поруч з вашими іншими скануваннями.
Чи може шкідливий навик або MCP-сервер скомпрометувати моїх розробників?
Так: інструкції для навичок є простим текстом, і агент виконуватиме їх з дозволу розробника. Xygeni позначає приховані шкідливі директиви та імітацію назв навичок, може оцінити намір навичок за допомогою перевірки штучним інтелектом та оцінює кожну навичку як безпечну, обережну або не встановлювати. Захист від шкідливого програмного забезпечення та Shield покривати пакети та агенти з розширення приносять.







