TL, DR
Co pro vás znamená OWASP Agentic AI Top 10 pipeline
LLM, které uvádí, že je něco špatně, je obsahový problém. Agent, který dělá něco špatně, je bezpečnostní incident. Žebříček OWASP Agentic AI Top 10 je mapou pro druhou možnost.
- Co to je: žebříček OWASP Agentic AI Top 10 (oficiálně OWASP Top 10 pro agentní aplikace 2026) uvádí deset rizik specifických pro agenty s umělou inteligencí, kteří plánují, volají nástroje, uchovávají paměť a jednají vaším jménem. Kódy sahají od ASI01 do ASI10.
- Jak to souvisí: Rozšiřuje seznam OWASP LLM Top 10, spíše než aby jej nahrazoval. Seznam LLM zahrnuje to, co model říká; seznam agentů zahrnuje to, co agent dělá.
- Kam vstupuje: ve skutečném pipelineTato rizika se objevují čtyřmi způsoby: vývojovým prostředím (IDE), komponentami agentů třetích stran, vaším vlastním kódem agenta a produkčním běhovým prostředím.
- Co můžete chytit: Šest z deseti zanechává otisky prstů v kódu a konfiguraci, takže je můžete před nasazením zastavit. Další čtyři vyžadují běhové ovládací prvky návrhu a každý z nich začíná znalostí, které agenty spouštíte.
První krok: inventarizovat každého agenta, nástroj, MCP server a dovednost a poté vložit nový kód agenta do CI s nálezy označenými kódy ASI.
Proč je OWASP Agentic AI Top 10 důležitý: váš pipeline má nové committers
Před rokem pocházel kód ve vašich repozitářích od lidí. Dnes rostoucí podíl pochází od agentů umělé inteligence: programátorských asistentů, kteří instalují závislosti, agentů, kteří otevírají pull requestsa agentské frameworky, které jsou součástí vašich vlastních produktů s vlastními nástroji, pamětí a přihlašovacími údaji. Právě pro tento posun byla napsána publikace OWASP Agentic AI Top 10.
To mění model hrozby. LLM, který hlásí něco špatně, je problém s obsahem. Agent, který udělá něco špatně (smaže data, unikne token, nainstaluje kontaminovaný balíček), je bezpečnostní incident.
OWASP Agentic AI Top 10 je první sdílenou slovní zásobou pro tento druhý typ problému. Většina vysvětlujících materiálů se zastaví u definic. Tento mapuje každé riziko na místo, kam skutečně vstupuje. pipelinea co s tím můžete udělat před nasazením.
Co je OWASP Agentic AI Top 10?
OWASP Agentic AI Top 10 je recenzovaný seznam deseti nejkritičtějších bezpečnostních rizik u agentů s umělou inteligencí: systémů, které plánují, volají nástroje, uchovávají paměť a jednají s delegovanou pravomocí. Jeho oficiální název je OWASP Top 10 pro agentní aplikace 2026Bezpečnostní projekt OWASP GenAI jej zveřejnil 9. prosince 2025 prostřednictvím své iniciativy Agentic Security Initiative, odkud pochází prefix ASI.
Je to stále mladé standardToto je první vydání. Každá položka se řídí známým formátem OWASP s popisem, běžnými příklady, scénáři útoků a pokyny pro prevenci. Hlavní doporučení pro návrh OWASP se prolínají všemi deseti: vyhněte se poskytování větší autonomie agentům, než kolik daný úkol potřebuje, a považujte pozorovatelnost za povinnou.
Agent Top 10 vs. LLM Top 10
Seznam agentů nenahrazuje OWASP Top 10 pro přihlášky LLMStaví na něm a jeho položky přímo odkazují na rizika LLM. Jednoduché pravidlo:
| Dimenze | OWASP LLM Top 10 | OWASP Agentic AI Top 10 |
|---|---|---|
| Soustředit | Co říká modelka | Co dělá agent |
| Typická porucha | Zmanipulovaná nebo uniklá odpověď | Manipulovaný cíl, volání nástroje nebo akce |
| Platí pro | Chatboti, RAG aplikace, jakákoli funkce LLM | Agenti s nástroji, pamětí, delegováním nebo jiní agenti |
| kódy | LLM01 až LLM10 | ASI01 až ASI10 |
Pokud vaše aplikace odpovídá pouze na otázky, seznam LLM vás pokrývá. V okamžiku, kdy může podniknout kroky, budete potřebovat obojí. Náš průvodce útoky na extrakci modelů podrobně ukazuje jedno z 10 nejrizikovějších zkoušek LLM.
OWASP Agentic AI Top 10, vysvětlení: ASI01 až ASI10 v reálném čase pipelines
Zde je srozumitelně popsáno každé riziko v žebříčku OWASP Agentic AI Top 10 a následně uvedeno, jak vypadá v kódových databázích a pipelinekteré vidíme každý den.
ASI01: Únos cíle agenta
Útočník změní to, čeho se agent snaží dosáhnout, vložením instrukcí do dokumentu, e-mailu, webové stránky nebo zprávy jiného agenta. Agenti mají problém rozlišit instrukce od obsahu, takže vložený text může přesměrovat celý vícekrokový plán.
Ve vašem pipeline: agent, který shrnuje pull requests přečte si popis PR obsahující skryté instrukce a místo shrnutí začne schvalovat nebo zveřejňovat informace.
ASI02: Zneužívání a zneužívání nástrojů
Agent používá nástroj, který smí používat, ale škodlivým způsobem: maže data, volá nákladné API ve smyčce nebo odesílá informace. Nedochází k eskalaci žádných oprávnění; legitimní přístup je jednoduše směrován na nesprávný cíl.
Ve vašem pipeline: Kódovací agent s přístupem k shellu spustí příkaz pro vyčištění nesprávného adresáře.
ASI03: Zneužívání identity a privilegií
Agenti dědí přihlašovací údaje, relace a role a útočníci zneužívají tyto delegační řetězce k dosažení toho, co by nemohli dosáhnout přímo. Hlavní příčinou jsou systémy identity vytvořené pro lidi, aplikované na software, který funguje samostatně.
Ve vašem pipeline: Konfigurace agenta obsahuje dlouhodobý token s rozsahem platným v celé organizaci, sdílený mezi několika nástroji.
ASI04: Zranitelnosti dodavatelského řetězce agentů
Modely, nástroje, pluginy, MCP servery, dovednosti a výzvy, které agenti načítají, pocházejí od třetích stran a kterýkoli z nich může být škodlivý nebo zmanipulovaný. Na rozdíl od klasických závislostí agenti tyto komponenty často sestavují za běhu.
Ve vašem pipeline: Vývojář nainstaluje agentskou dovednost s překlepem, jejíž instrukce agentovi sdělují, aby si přečetl přihlašovací údaje a odeslal je externě.
ASI05: Neočekávané spuštění kódu (RCE)
Agent generuje nebo spouští kód, který se spouští tam, kde by neměl: příkazy shellu, deserializované objekty, šablonovací enginy, eval na výstupu modelu. Výsledkem může být úplné narušení hostitele nebo kontejneru.
Ve vašem pipeline: Výstup LLM proudí přímo do eval, nebo agent načte nedůvěryhodnou datovou sadu s pickle.load.
ASI06: Otrava paměti a kontextu
Útočníci zasypávají dlouhodobou paměť agenta, jeho souhrny nebo úložiště RAG škodlivými daty, takže každé budoucí provedenícision je zkreslený. Na rozdíl od jednorázové promptní injekce poškození přetrvává napříč relacemi.
Ve vašem pipeline: Retríver RAG přijímá externí dokumenty bez sanitizace a jedna otrávená stránka formuje každou následující odpověď.
ASI07: Nezabezpečená komunikace mezi agenty
Agenti si vyměňují zprávy bez ověřování, kontrol integrity nebo validace, takže zprávy mohou být zfalšovány, zachyceny nebo pozměněny. Stejná instrukce může být také různými agenty čtena odlišně.
Ve vašem pipeline: Plánovací agent přijímá úlohy z jakékoli služby v interní síti, která používá jeho protokol.
ASI08: Kaskádování selhání
Jedna chyba (halucinace, otrávená vzpomínka, kompromitovaný nástroj) se šíří mezi agenty a pracovními postupy rychleji, než lidé stihnou reagovat. OWASP tuto kategorii uplatňuje, když se poškození rozšíří za hranice původního narušení.
Ve vašem pipeline: Jeden agent napíše špatnou konfiguraci, druhý ji nasadí a třetí ji rozšíří do všech regionů. Debatovali jsme o tom, jak v našem řešení omezit dosah výbuchu. Poloměr výbuchu SafeDev Talk.
ASI09: Zneužívání důvěry mezi člověkem a agentem
Lidé důvěřují sebevědomému a dobře vysvětlenému výstupu agentů a útočníci nebo chybné návrhy tuto důvěru zneužívají k řízení vývoje.cisionty. Člověk provádí poslední akci, takže role agenta může z auditní stopy zmizet.
Ve vašem pipeline: recenzent schválí agenta pull request protože vysvětlení zní správně, bez kontroly rozdílu.
ASI10: Zlomyslní agenti
Agent se odchyluje od své zamýšlené funkce a jedná škodlivě, klamně nebo mimo rámec svých možností. Každá akce se může jevit legitimní; celkové chování legitimní není. ASI10 se týká ztráty kontroly po zahájení odchylky, nikoli počátečního narušení.
Ve vašem pipeline: Agent po skončení své úlohy nadále používá oprávnění a tiše rozšiřuje to, čeho se dotkne.
Z deseti rizik je ASI04 tím, kterému většina týmů čelí každý den: programátoři si vybírají a instalují balíčky, aniž by si kdokoli prohlížel, co se do nich dostane. Přesně tomu jsme se věnovali v nedávné přednášce SafeDev Talk. Podívejte se!
Kam se OWASP Agentic AI Top 10 dostane pipeline
Deset rizik nepřichází jedněmi dveřmi. Přicházejí čtyřmi a každé dveře potřebují svou vlastní kontrolu.
| Vstupní bod | Co přichází | Rizika ASI | Kde to zastavit |
|---|---|---|---|
| Vývojářské IDE a pracovní stanice | Agenti kódování, MCP servery, dovednosti, balíčky, které agenti instalují | ASI04, ASI05 | Na pracovní stanici, před instalací |
| Komponenty agentů třetích stran | Modely, nástroje, pluginy, výzvy z registrů | ASI04, ASI06 | Inventarizace a kontrola před přijetím |
| Váš vlastní kód agenta | Rámce agentů, výzvy, definice nástrojů, přihlašovací údaje, RAG pipelines | ASI01, ASI02, ASI03, ASI05, ASI06 | Statická analýza, v pull requests a CI |
| Produkční běhová doba | Agenti jednající, mluvící spolu, pracující s lidmi | ASI07, ASI08, ASI09, ASI10 | Architektura, monitorování a kill switche |
Tento vzorec je důležitý pro to, jak aplikujete OWASP Agentic AI Top 10. První tři dveře zanechávají důkazy v kódu a konfiguraci, což znamená, že je můžete najít a zablokovat před odesláním čehokoli. Čtvrté dveře závisí na chování za běhu, takže se spoléhají na designové volby: minimální zapojení, podepsané zprávy, lidské schválení akcí s vysokým dopadem a možnost rychlého odvolání jakéhokoli agenta.
Dokonce i běhové ovládací prvky závisí na jedné věci, kterou si vytvoříte dříve: inventáři. Nemůžete agenta, o jehož existenci nevíte, deaktivovat.
Jak Xygeni odhaluje 10 největších rizik OWASP Agentic AI před nasazením
Zabezpečení umělé inteligence Xygeni skenuje komponenty umělé inteligence, s nimiž jsou vaše aplikace vytvořeny, přímo ze zdrojového kódu. Každé zjištění má svou kategorii OWASP LLM Top 10 a případně i kód OWASP Agentic AI Top 10, takže váš tým a vaši auditoři čtou zjištění ve stejném jazyce.
Pokrytí OWASP Agentic AI Top 10 začíná inventářem. AI Security objevuje agenty, modely, nástroje, MCP servery, dovednosti, výzvy, guardrails, vektorová úložiště a datové sady napříč vašimi repozitáři a mapuje, jak se propojují: který agent používá který model, spouští které nástroje a volá které MCP servery. Inventář se exportuje jako CycloneDX 1.6 ML-BOM.
Zabezpečení umělé inteligence Xygeni
Co Xygeni detekuje před nasazením, podle rizika ASI
Každé zjištění je označeno kódem OWASP, takže váš tým a vaši auditoři jej čtou ve stejném jazyce.
Únos cíle agenta
Povrchy pro vkládání výzev, agenti přijímající externí obsah bez sanitizace, výzvy stažené z registrů na plovoucích popiscích.
Zneužívání nástrojů
Agenti vyvolávající nástroje bez vstupu guardrails, plus zobrazení funkcí pro jednotlivé aktiva, jako je spouštění kódu a automatické spouštění.
Zneužívání identity a privilegií
Statické dlouhodobé přihlašovací údaje v konfiguracích agentů, přihlašovací údaje sdílené bez zúžení rozsahu, servery MCP a nástrojů se zvýšenými oprávněními a tajné klíče v souborech výzev.
Dodavatelský řetězec agentů
Škodlivé nebo překlepové dovednosti s verdiktem SAFE / CAUTION / DO_NOT_INSTALL; nebezpečné načítání modelu (trust_remote_code=True); kusovník (AI-BOM) každé komponenty.
Neočekávané spuštění kódu
Znečištění proudí z výstupu LLM do eval a z nedůvěryhodných datových sad do pickle.load, v Pythonu a JavaScriptu; vstřikování šablony vedoucí k RCE.
Otrava pamětí a kontextem
Nesanitizovaní retrívři RAG a slabiny vektorů a vnořování (LLM08).
Chování za běhu
Komunikace mezi agenty, kaskádové selhání, lidská důvěra a nepoctiví agenti se objevují za běhu. Xygeni vám poskytuje graf inventáře a vztahů, na kterých jsou tyto běhové ovládací prvky závislé.
Kolem toho jádra:
- Sémantická kontrola dovedností a instrukcí agentů. Volitelný, reprodukovatelný přezkum LLM posuzuje záměr
SKILL.mdaAGENTS.mdsoubory, zachycující škodlivé instrukce v textu, které žádný podpis nevidí. Může běžet na samoobslužném modelu. - Zablokujte to v CI. Jedno
xygeni aiskener běží ve vašem pipeline a sestavení selže, pokud existují nálezy. Spusťte v režimu pouze sestavy a poté přejděte na úroveň Kritické. - Zabezpečení uvnitř smyčky agentů. DevAI přináší skenování, třídění a opravy Xygeni do IDE a do kódovacích agentů AI prostřednictvím Server Xygeni MCP.
- Chraňte pracovní stanici. Shield blokuje škodlivé balíčky na počítačích vývojářů před jejich stažením, před spuštěním instalace od kohokoli a přiřazuje každý blok procesu a příkazu, který jej spustil.
- Rychlá oprava. AI Triage upřednostňuje zjištění a AI Remediation generuje pokyny k opravě pro každou kategorii OWASP LLM.
Kontrolní seznam 10 nejlepších připraveností pro OWASP Agentic AI
- Inventář: Uveďte ve svých repozitářích všechny agenty, modely, nástroje, MCP servery a dovednosti a udržujte tento seznam aktuální pro každou commit.
- Nejméně agentura: dát každému agentovi pouze autonomii a nástroje, které jeho úkol potřebuje, a vyžadovat lidský souhlas pro destruktivní akce.
- Vymezená identita: nahraďte dlouhodobé sdílené přihlašovací údaje agentů krátkodobými tokeny pro jednotlivé agenty.
- Nedůvěryhodný vstup: Každý dokument, webovou stránku, e-mail a zprávu agenta považovat za nedůvěryhodnou, než na základě ní bude možné stanovit cíl nebo zavolat nástroj.
- Ověřené komponenty: před přijetím zkontrolovat dovednosti, MCP servery a modely, zafixovat verze a vést AI-BOM.
- Žádné nebezpečné provedení: zákaz
evalna výstupu modelu, spuštění kódu v sandboxu a nikdy nespouštějte agenty jako root. - Vyčistěte paměť: sanitizovat to, co se dostane do úložišť RAG a dlouhodobé paměti, a oddělit paměť podle uživatele a kontextu.
- Brána v CI: skenovat kód agenta na každém pull request a mapovat zjištění na kódy ASI.
- Pozorujte a zadržujte: zaznamenávejte každou akci agenta a volání nástroje a ujistěte se, že můžete kteréhokoli agenta rychle odvolat.
Zjistěte, které agenty používáte, než začnou jednat
Žebříček OWASP Agentic AI Top 10 vám nabízí mapu. První krok je pro všech deset rizik stejný: najděte ve svém kódu každého agenta, nástroj a dovednost. Podívejte se, jak Xygeni AI Security inventarizuje vaše agenty a mapuje zjištění do kódů ASI.nebo rezervovat demo.
Nejčastější dotazy
Co znamená zkratka ASI v žebříčku OWASP Agentic AI Top 10?
ASI je zkratka pro Agentic Security Initiative, což je tým bezpečnostního projektu OWASP GenAI, který tento seznam sestavil. Každé riziko nese kód od ASI01 (Agent Goal Hijack) do ASI10 (Rogue Agents), stejně jako seznam LLM používá kódy LLM01 až LLM10.
Potřebuji OWASP Agentic AI Top 10, když již sleduji OWASP LLM Top 10?
Pouze pokud vaše umělá inteligence dokáže jednat. Chatbot nebo RAG aplikace, která pouze odpovídá na otázky, je zahrnuta v LLM Top 10. Jakmile vaše aplikace volá nástroje, uchovává paměť, deleguje na jiné agenty nebo používá přihlašovací údaje, seznam agentů pokrývá rizika, která seznam LLM nepokrývá.
Dokáže statická analýza odhalit 10 nejrizikovějších rizik OWASP Agentic AI?
Pro mnoho z nich ano. Únosy cílů, nechráněné nástroje, příliš privilegované přihlašovací údaje, škodlivé dovednosti, nebezpečné provádění kódu a neošetřené vstupy RAG, to vše zanechává důkazy v kódu a konfiguraci. Rizika, která vyplývají z chování v reálném čase, jako jsou kaskádové chyby a nepoctiví agenti, vyžadují navíc běhové kontroly.







