Els 10 millors de la IA agentica d'OWASP

Explicació dels 10 millors exemples d'IA agentica d'OWASP: ASI01–ASI10

TL; DR

Què significa el Top 10 d'AI d'OWASP Agentic per a tu pipeline

Un LLM que diu que alguna cosa està malament és un problema de contingut. Un agent que fa alguna cosa malament és un incident de seguretat. El mapa de l'OWASP Agentic AI Top 10 és el segon.

  • Què és: el Top 10 d'IA Agentic d'OWASP (oficialment el OWASP Top 10 per a aplicacions agentives 2026) enumera deu riscos específics dels agents d'IA que planifiquen, invoquen eines, mantenen la memòria i actuen en nom vostre. Els codis van de l'ASI01 a l'ASI10.
  • Com es relaciona: amplia el Top 10 de l'OWASP LLM en lloc de substituir-lo. La llista LLM cobreix el que diu un model; la llista agentiva cobreix el que fa un agent.
  • On entra: en un real pipeline, aquests riscos arriben per quatre portes: l'IDE, els components de l'agent de tercers, el vostre propi codi d'agent i el temps d'execució de producció.
  • Què pots atrapar: Sis dels deu deixen empremtes digitals al codi i a la configuració, de manera que podeu aturar-les abans del desplegament. Els altres quatre necessiten controls de disseny en temps d'execució, i cadascun d'ells comença per saber quins agents executeu.

El primer pas: inventariar tots els agents, eines, servidors MCP i habilitats, i després introduir el codi de l'agent nou a CI amb les troballes etiquetades a codis ASI.

Per què importa el Top 10 d'AI Agentic d'OWASP: el vostre pipeline té novetats commitmarxa enrere

Fa un any, el codi dels vostres repositoris provenia de persones. Avui dia, una part creixent prové d'agents d'IA: assistents de codificació que instal·len dependències, agents que obren pull requestsi marcs d'agents que s'inclouen dins dels vostres propis productes amb eines, memòria i credencials pròpies. Aquest és el canvi per al qual es va escriure l'OWASP Agentic AI Top 10.

Això canvia el model d'amenaces. Un LLM que diu que alguna cosa està malament és un problema de contingut. Un agent que fa alguna cosa malament (elimina dades, filtra un token, instal·la un paquet enverinat) és un incident de seguretat.

El Top 10 d'OWASP Agentic AI és el primer vocabulari compartit per a aquest segon tipus de problema. La majoria dels explicatius s'aturen a les definicions. Aquest assigna cada risc al lloc on realment entra al vostre abast. pipeline, i al que podeu fer al respecte abans del desplegament.

Quin és el Top 10 d'AI Agentic d'OWASP?

L'OWASP Agentic AI Top 10 és una llista revisada per experts dels deu riscos de seguretat més crítics en agents d'IA: sistemes que planifiquen, criden eines, mantenen memòria i actuen amb autoritat delegada. El seu nom oficial és OWASP Top 10 per a aplicacions agentives 2026El projecte de seguretat GenAI d'OWASP el va publicar el 9 de desembre de 2025, a través de la seva Iniciativa de Seguretat Agentic, que és d'on prové el prefix ASI.

Encara és jove standard: aquesta és la seva primera edició. Cada entrada segueix el format familiar d'OWASP, amb una descripció, exemples comuns, escenaris d'atac i orientació de prevenció. El consell de disseny central d'OWASP s'estén per tots deu: evitar donar als agents més autonomia de la que necessita la tasca i tractar l'observabilitat com a obligatòria.

Els 10 millors d'Agentic vs. Els 10 millors de LLM

La llista d'agents no substitueix la Els 10 millors de l'OWASP per a sol·licituds de LLMEs basa en això, i les seves entrades fan referència creuada als riscos de LLM directament. Una regla general senzilla:

dimensióEls 10 millors màsters en dret de l'OWASPEls 10 millors de la IA agentica d'OWASP
EnfocarQuè diu el modelQuè fa l'agent
Fallada típicaUna resposta manipulada o filtradaUn objectiu, una crida d'eina o una acció manipulats
S’aplica aChatbots, aplicacions RAG, qualsevol funció LLMAgents amb eines, memòria, delegació o altres agents
CodisLLM01 a LLM10ASI01 a ASI10

Si la teva sol·licitud només respon a preguntes, la llista de LLM et cobreix. En el moment que pugui dur a terme accions, necessites totes dues coses. La nostra guia per a atacs d'extracció de models mostra en profunditat un dels 10 principals riscos d'LLM.

El Top 10 d'IA Agentic d'OWASP, explicat: ASI01 a ASI10 en realitat pipelines

Aquí teniu cada risc del Top 10 d'AI d'OWASP en termes senzills, seguit de com es veu a les bases de codi i pipelineque veiem cada dia.

ASI01: Segrest d'objectius d'agent

Un atacant canvia el que l'agent intenta aconseguir mitjançant instruccions injectades en un document, un correu electrònic, una pàgina web o un missatge d'un altre agent. Els agents tenen dificultats per distingir les instruccions del contingut, de manera que el text plantat pot redirigir tot un pla de diversos passos.

A la vostra pipeline: un agent que resumeix pull requests llegeix una descripció de PR que conté instruccions ocultes i comença a aprovar o filtrar en lloc de resumir.

ASI02: Mal ús i explotació d'eines

L'agent utilitza una eina que té permís per utilitzar, però de manera perjudicial: eliminant dades, cridant una API costosa en un bucle o enviant informació. No s'escalen privilegis; l'accés legítim simplement es dirigeix ​​a l'objectiu equivocat.

A la vostra pipeline: Un agent de codificació amb accés a l'intèrpret d'ordres executa una ordre de neteja al directori incorrecte.

ASI03: Abús d'identitat i privilegis

Els agents hereten credencials, sessions i rols, i els atacants exploten aquestes cadenes de delegació per arribar al que no podien arribar directament. La causa principal són els sistemes d'identitat creats per a humans, aplicats a programari que actua pel seu compte.

A la vostra pipeline: Una configuració d'agent conté un token de llarga durada amb un abast a tota l'organització, compartit entre diverses eines.

ASI04: Vulnerabilitats de la cadena de subministrament d'agents

Els models, les eines, els complements, els servidors MCP, les habilitats i les indicacions que carreguen els agents provenen de tercers, i qualsevol d'ells pot ser maliciós o haver estat manipulat. A diferència de les dependències clàssiques, els agents sovint munten aquests components en temps d'execució.

A la vostra pipeline: Un desenvolupador instal·la una habilitat d'agent typosquatted, les instruccions de la qual indiquen a l'agent que llegeixi les credencials i les publiqui externament.

ASI05: Execució de codi inesperada (RCE)

L'agent genera o activa codi que s'executa on no hauria de fer-ho: ordres de shell, objectes deserialitzats, motors de plantilles, eval a la sortida del model. El resultat pot ser un compromís complet de l'amfitrió o del contenidor.

A la vostra pipeline: La sortida de LLM flueix directament cap a eval, o un agent carrega un conjunt de dades no fiable amb pickle.load.

ASI06: Enverinament de memòria i context

Els atacants omplen la memòria a llarg termini, els resums o els magatzems RAG de l'agent amb dades malicioses, de manera que cada de futurcisL'ió està esbiaixat. A diferència d'una injecció puntual, la corrupció persisteix entre sessions.

A la vostra pipeline: Un RAG Retriever ingereix documents externs sense desinfectar-los, i una pàgina enverinada dóna forma a totes les respostes que segueixen.

ASI07: Comunicació interagent insegura

Els agents intercanvien missatges sense autenticació, comprovació d'integritat ni validació, de manera que els missatges poden ser falsificats, interceptats o alterats. La mateixa instrucció també pot ser llegida de manera diferent per diferents agents.

A la vostra pipeline: Un agent planificador accepta tasques de qualsevol servei de la xarxa interna que parli el seu protocol.

ASI08: Errors en cascada

Una falla (una al·lucinació, un record enverinat, una eina compromesa) s'estén pels agents i els fluxos de treball més ràpidament del que els humans poden reaccionar. OWASP aplica aquesta categoria quan el dany s'estén més enllà de la bretxa original.

A la vostra pipeline: un agent escriu una configuració incorrecta, un segon la desplega i un tercer la distribueix a totes les regions. Vam debatre com contenir aquest radi d'explosió a la nostra Discussió de SafeDev sobre el radi de l'explosió.

ASI09: Explotació de la confiança entre humans i agents

La gent confia en la sortida segura i ben explicada dels agents, i els atacants o els dissenys defectuosos exploten aquesta confiança per dirigir-los.cisions. L'ésser humà realitza l'acció final, de manera que el rol de l'agent pot desaparèixer de la pista d'auditoria.

A la vostra pipeline: un revisor aprova un agent pull request perquè l'explicació sona correcta, sense comprovar la diferència.

ASI10: Agents deshonestos

Un agent es desvia de la seva funció prevista i continua actuant de manera perjudicial, enganyosa o fora de l'abast. Cada acció pot semblar legítima; el comportament general no ho és. L'ASI10 tracta sobre la pèrdua de control després que comenci la desviació, no sobre la intrusió inicial.

A la vostra pipeline: Un agent continua utilitzant permisos després que finalitzi la seva tasca, expandint silenciosament allò que toca.

Dels deu riscos, l'ASI04 és el que la majoria dels equips ja afronten cada dia: agents de codificació que trien i instal·len paquets sense que ningú revisi què hi entra. Vam aprofundir exactament en això en una xerrada recent de SafeDev. Doneu-hi una ullada!

On entra a la teva llista el Top 10 d'AI d'OWASP Agentic pipeline

Els deu riscos no arriben per una porta. Arriben per quatre, i cada porta necessita el seu propi control.

Punt d'entradaQuè entraRiscos d'ASIOn aturar-ho
IDE de desenvolupador i estació de treballAgents de codificació, servidors MCP, habilitats, paquets que instal·len els agentsASI04, ASI05A l'estació de treball, abans de la instal·lació
Components d'agents de tercersModels, eines, complements, indicacions dels registresASI04, ASI06Inventari i revisió, abans de l'adopció
El vostre propi codi d'agentMarcs d'agent, indicacions, definicions d'eines, credencials, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Anàlisi estàtica, en pull requests i CI
Temps d'execució de produccióAgents actuant, parlant entre ells, treballant amb personesASI07, ASI08,
ASI09, ASI10
Arquitectura, monitorització i interruptors de desactivació

El patró és important per a com apliqueu l'OWASP Agentic AI Top 10. Les tres primeres portes deixen evidència en el codi i la configuració, cosa que significa que podeu trobar-les i bloquejar-les abans que s'enviï res. La quarta depèn del comportament en temps d'execució, de manera que es basa en opcions de disseny: mínima agència, missatges signats, aprovació humana per a accions d'alt impacte i la capacitat de revocar qualsevol agent ràpidament.

Fins i tot els controls d'execució depenen d'una cosa que creeu prèviament: un inventari. No podeu posar un interruptor de desactivació en un agent que no sabeu que existeix.

Com Xygeni detecta els 10 principals riscos de la IA agentica d'OWASP abans del desplegament

Seguretat d'IA Xygeni escaneja els components d'IA amb què es creen les teves aplicacions, directament des del codi font. Cada troballa porta la seva categoria OWASP LLM Top 10 i, si escau, el seu codi OWASP Agentic AI Top 10, de manera que el teu equip i els teus auditors llegeixen les troballes en el mateix idioma.

Cobrir el Top 10 d'AI d'OWASP comença amb l'inventari. AI Security descobreix agents, models, eines, servidors MCP, habilitats, indicacions, guardrails, magatzems vectorials i conjunts de dades a través dels vostres repositoris i mapeja com es connecten: quin agent utilitza quin model, executa quines eines i crida quins servidors MCP. L'inventari s'exporta com a CycloneDX 1.6 ML-BOM.

Seguretat d'IA Xygeni

Què detecta Xygeni abans del desplegament, per risc ASI

Cada troballa està etiquetada amb el seu codi OWASP, de manera que el vostre equip i els vostres auditors la llegeixen en el mateix idioma.

ASI01

Segrest d'objectius d'agent

Superfícies d'injecció ràpida, agents que ingereixen contingut extern sense desinfecció, indicacions extretes de registres en etiquetes flotants.

ASI02

Mal ús de l'eina

Agents que invoquen eines sense intervenció guardrails, a més d'una vista per actiu de capacitats com ara l'execució de codi i l'execució automàtica.

ASI03

Abús d'identitat i privilegis

Credencials estàtiques de llarga durada en configuracions d'agent, credencials compartides sense reducció d'abast, servidors MCP i d'eines amb privilegis elevats i secrets en fitxers de sol·licitud.

ASI04

Cadena de subministrament d'agents

Habilitats malicioses o amb errors tipogràfics, amb un veredicte SAFE / CAUTION / DO_NOT_INSTALL; càrrega de models insegura (trust_remote_code=True); una llista de materials d'IA de cada component.

ASI05

Execució de codi inesperada

La contaminació flueix de la sortida de LLM cap a eval i de conjunts de dades no fiables a pickle.load, en Python i JavaScript; injecció de plantilles que condueix a RCE.

ASI06

Enverinament de memòria i context

Recuperadors RAG no sanejats i debilitats de vectors i incrustacions (LLM08).

ASI07 a ASI10

Comportament en temps d'execució

La comunicació entre agents, els errors en cascada, la confiança humana i els agents no autoritzats emergeixen en temps d'execució. Xygeni us proporciona l'inventari i el gràfic de relacions dels quals depenen aquests controls en temps d'execució.

Al voltant d'aquest nucli:

  • Revisió semàntica de les habilitats i les instruccions dels agents. Una revisió opcional i reproduïble del màster en dret (LLM) jutja la intenció de SKILL.md i AGENTS.md fitxers, detectant instruccions malicioses només en prosa que cap signatura pot veure. Pot executar-se en un model autoallotjat.
  • Enganxa-ho a CI. L' xygeni ai l'escàner s'executa al vostre pipeline i falla la compilació quan hi ha troballes. Inicia en mode només d'informe i després activa el mode Crític.
  • Seguretat dins del bucle d'agents. DevAI porta els escanejos, el triatge i les correccions de Xygeni a l'IDE i als agents de codificació d'IA a través de Servidor Xygeni MCP.
  • Protegir l'estació de treball. Shield bloqueja els paquets maliciosos a les màquines dels desenvolupadors abans que es descarreguin, qui sigui que executi la instal·lació i atribueix cada bloqueig al procés i a l'ordre que l'ha activat.
  • Arreglar ràpid. AI Triage prioritza les troballes i AI Remediation genera orientació per a la correcció de cada categoria de LLM d'OWASP.

Llista de comprovació de preparació per a la IA Agentic d'OWASP: els 10 millors

  1. Inventari: llistar tots els agents, models, eines, servidors MCP i habilitats dels vostres repositoris i mantenir la llista actualitzada en cada commit.
  2. Mínima agència: donar a cada agent només l'autonomia i les eines que necessita la seva tasca i requerir l'aprovació humana per a accions destructives.
  3. Identitat amb àmbit: substituir les credencials d'agent compartides de llarga durada per tokens per agent de curta durada.
  4. Entrada no fiable: tractar tots els documents, pàgines web, correus electrònics i missatges d'agent com a no fiables abans que puguin donar forma a un objectiu o a una eina.
  5. Components verificats: Revisar les habilitats, els servidors MCP i els models abans de l'adopció, fixar les versions i mantenir una AI-BOM.
  6. Cap execució insegura: prohibició eval a la sortida del model, l'execució de codi de sandbox i no executar mai agents com a root.
  7. Neteja la memòria: sanejar el que entra als magatzems RAG i a la memòria a llarg termini, i separar la memòria per usuari i context.
  8. Porta a CI: escaneja el codi de l'agent a cada pull request i mapejar les troballes als codis ASI.
  9. Observa i conté: registra cada acció de l'agent i cada crida a l'eina, i assegura't de poder revocar qualsevol agent ràpidament.

Coneix quins agents gestiones abans que actuïn

El Top 10 d'AI d'OWASP us proporciona el mapa. El primer pas és el mateix per als deu riscos: trobeu tots els agents, eines i habilitats del vostre codi. Vegeu com Xygeni AI Security inventaria els vostres agents i assigna les troballes als codis ASI, O reservar una demostració.

Preguntes freqüents

Què significa ASI al Top 10 d'OWASP Agentic AI?

ASI significa Agentic Security Initiative, l'equip del projecte de seguretat GenAI d'OWASP que va escriure la llista. Cada risc porta un codi des de l'ASI01 (Agent Goal Hijack) fins a l'ASI10 (Rogue Agents), de la mateixa manera que la llista LLM utilitza LLM01 a LLM10.

Necessito el Top 10 d'OWASP Agentic AI si ja segueixo el Top 10 d'OWASP LLM?

Només si la teva IA pot actuar. Un chatbot o una aplicació RAG que només respon preguntes està inclosa al Top 10 de LLM. Un cop l'aplicació crida eines, conserva memòria, delega a altres agents o utilitza credencials, la llista d'agents cobreix riscos que la llista LLM no cobreix.

Pot l'anàlisi estàtica detectar els 10 principals riscos d'OWASP Agentic AI?

Per a molts d'ells, sí. Les superfícies de segrest d'objectius, les eines sense protecció, les credencials amb privilegis excessius, les habilitats malicioses, l'execució de codi no segura i les entrades RAG no sanejades deixen evidència al codi i a la configuració. Els riscos que sorgeixen del comportament en directe, com ara errors en cascada i agents no autoritzats, necessiten controls en temps d'execució a la part superior.

sca-tools-software-composition-analyse-tools
Prioritzar, solucionar i protegir els riscos del programari
Obtén el teu compte gratuït.
No es requereix cap targeta de crèdit.

Assegura el desenvolupament i el lliurament del teu programari

amb el paquet de productes Xygeni