TL; DR #
La seguretat de la IA agentiva és la pràctica de protegir els sistemes d'IA que actuen en lloc de respondre: agents que planifiquen en múltiples passos, mantenen memòria, criden eines a través de protocols com MCP i operen amb credencials delegades dins del programari i del cicle de vida del desenvolupament. És un superconjunt de seguretat a nivell de prompt, perquè el mode d'error ja no és una mala resposta. És una acció no intencionada que es duu a terme sota la identitat de la vostra organització.
Qui en és el propietari: seguretat de les aplicacions, treballant amb identitat. No una funció d'IA separada.
Què ho fa diferent: Quatre propietats que no tenen un chatbot. Autonomia, accés a eines, memòria persistent i identitat delegada.
La taxonomia de referència: L'OWASP Top 10 per a aplicacions agentiques del 2026, ASI01 a ASI10, publicat el desembre de 2025.
On rau realment el risc: principalment identitat, cadena de subministrament i execució, no el model en si.
Què és la seguretat de la IA agentica? #
Un model que escriu alguna cosa malament és una vergonya. Un agent que escriu alguna cosa malament en una ordre de shell, un pull request o una base de dades de producció és un incident.
Aquest únic canvi, de generar text a actuar, és la raó principal per la qual existeix aquesta disciplina. Qualsevol persona que es pregunti què és la seguretat de la IA agentiva sol reaccionar a un moment específic: algú ha notat que un assistent de l'organització d'enginyeria ara té credencials, accés a eines, memòria persistent i l'autonomia per encadenar-les sense un humà entre cada pas.
La seguretat de la IA agentiva és el conjunt de pràctiques que manté aquesta capacitat dins dels límits que has triat. Inclou quines eines pot arribar un agent, sota quina identitat actua, què recorda entre sessions, en quins altres agents confia i què passa en el moment en què intenta executar alguna cosa irreversible. → Què és l'agent SDLC?
Significat de la seguretat de la IA agentiva: quatre propietats que creen el risc #
El significat de la seguretat de la IA agentiva es concreta quan observem què té un agent que no té un chatbot. Quatre propietats, cadascuna de les quals trenca un control en què la seguretat de les aplicacions ha confiat durant anys.
Els deu riscos: els 10 principals d'OWASP per a aplicacions agentives #
La taxonomia de referència és la OWASP Top 10 per a aplicacions agentives 2026, publicat el 9 de desembre de 2025 per Iniciativa de Seguretat Agentica de l'OWASP amb més de 100 col·laboradors. Amplia el Top 10 de LLM en lloc de substituir-lo, ja que la majoria dels agents també són sol·licituds de LLM i hereten aquests riscos.
Fixeu-vos en la forma de la llista. Només dues o tres entrades tracten sobre el model. La resta són problemes d'identitat, cadena de subministrament, execució i confiança, motiu pel qual la seguretat de la IA agentiva pertany a l'equip que ja posseeix seguretat de l'aplicació en lloc d'una funció d'IA separada.
Què és la seguretat de la IA agentiva a la pràctica? Sis controls #
Els marcs de treball descriuen el risc. Aquests són els controls que el redueixen, en l'ordre en què la majoria dels equips els poden adoptar.
- Inventari dels agents i servidors MCP que realment s'estan executant. No la llista aprovada, sinó la real. Les eines d'agent no aprovades són la norma i no l'excepció, i no es pot determinar l'abast del que no s'ha trobat.
- Abasteu la superfície de l'eina per agent. El mínim privilegi s'aplica a les eines, no només als usuaris. L'agència excessiva arriba majoritàriament per conveniència, no per atac.
- Revisa la configuració com si fos el codi. Els fitxers d'habilitats, els fitxers de regles i les definicions del servidor MCP són instruccions amb autoritat. MITRE ATLAS documenta les porta del darrere del fitxer de regles com un cas d'estudi real, no com un experiment mental.
- Identitat separada per agent. Si el registre d'auditoria no us pot indicar quin agent ha dut a terme una acció, la resposta a la incidència comença amb l'arqueologia.
- Aplicar en temps d'instal·lació i execució. El moment en què un paquet maliciós o un servidor MCP no aprovat s'executa en una màquina de desenvolupador és l'últim punt en què el bloqueig és barat. → Tallafocs de dependències al punt final
- Mantingueu un rastre que sobrevigui a l'incident. Procedència de quins vaixells, detecció d'anomalies a través pipelines i punts finals, lligats a la identitat que els va produir.
El codi que produeixen aquests agents necessita el mateix escrutini que els propis agents. 2025 GenAI Code Security L'informe, que cobreix més de 100 models en 80 tasques, va trobar que el 45% de les mostres generades per IA van introduir les 10 vulnerabilitats principals d'OWASP de fàbrica. La velocitat de generació no inclou la seguretat per defecte. → Com DevAI valida el codi generat a l'IDE
Què no és la seguretat de la IA agentiva? On es troben els límits #
Els termes se superposen i les converses sobre contractació pública se'n ressenten.
- Seguretat GenAI és la disciplina principal: tota la IA generativa dins i al voltant del vostre programari. La seguretat de la IA agentiva és el seu subconjunt més important, que cobreix els sistemes que actuen.
- Seguretat LLM cobreix el model i les seves indicacions. Necessari i insuficient en el moment en què el model obté eines.
- Seguretat MCP és encara més estret: la capa de protocol que connecta un agent a sistemes externs. El Els 10 millors de l'OMPI ho cobreix i continua sent un esborrany beta, així que tracteu-ho com a emergent en lloc de resolt.
- IA-SPM és la gestió de la postura sobre els actius d'IA, la contrapart de ASPMRespon al que existeix, no al que un agent té permís per fer.
- Gestió d'identitat i accés posseeix una part real d'això, però la IAM convencional assumeix un humà o un servei, no un actor no determinista que decideix el seu propi següent pas.
Marcs de treball als quals val la pena ancorar-se #
Jutgeu un marc de treball per l'estat de publicació, no per la seva actualitat.
Quant a la regulació, sigueu previsiblescise. El Llei d'IA de la UE imposa tasques de documentació i supervisió sobre certs sistemes, i un inventari d'agents produeix proves en aquest sentit. Actualment, cap regulació anomena la seguretat de la IA agentiva com a control obligatori, i afirmar el contrari convida a una correcció que no es vol en un cicle de contractació.
De la definició al programa #
El significat de seguretat de la IA agentiva només importa un cop es converteix en una llista d'agents, eines i identitats que realment es poden veure.
Aquest és l'ordre que segueix la feina. Descobreix els agents, els servidors MCP, els fitxers d'habilitats i els actius d'IA que ja són presents, inclosos els no declarats. Puntua'ls per rutes d'atac reals en lloc de per gravetat bruta. A continuació, aplica la política en el punt on s'executaria un paquet, model o eina no segur.
Xygeni cobreix aquests tres moviments a través del codi, pipeline i punt final, en un model de risc juntament amb les troballes de l'aplicació que ja gestioneu. Programa una demostració per veure el vostre propi inventari d'agents i d'IA.
FAQ #
Mantenir la IA que actua en nom teu dins dels límits que has triat: les eines que pot invocar, la identitat que utilitza, el que recorda i el que se li permet executar.
Aquesta configuració de l'agent es revisa com el codi, cada agent s'executa amb la seva pròpia identitat amb àmbit i les instal·lacions no segures o els servidors MCP no aprovats es bloquegen a la màquina en lloc de descobrir-se en una anàlisi posterior.
La injecció ràpida és un punt d'entrada, ASI01. La seguretat de la IA agentica cobreix què passa després: a quina eina arriba l'agent segrestat, amb les credencials de quines i si l'acció es pot desfer.
Gairebé segur que sí. Els assistents de codificació amb accés a eines i connexions MCP són agents. La majoria d'organitzacions els gestionen abans que algú decideixi formalment fer-ho.
Seguretat de les aplicacions, treballant amb identitat. Els actius resideixen en repositoris, pipelinei màquines de desenvolupador, i dividir la propietat tendeix a produir un segon retard en lloc de menys risc.
