Sicurezza di l'agente IA

Sicurezza di l'agente IA: cunnosce ogni agente, capisce u risicu, prutege ciò ch'ellu installa

A sicurità di l'agente IA ùn hè più ciò chì dice un mudellu. Si tratta di ciò chì face un agente: l'arnesi ch'ellu chjama, i dati ch'ellu legge, e credenziali ch'ellu tene è i pacchetti ch'ellu installa da per ellu.

È a maiò parte di e squadre ùn ponu micca risponde à a prima dumanda: quali agenti simu in esecuzione? Stanu in repositori cum'è grafichi LangChain, servitori MCP, SKILL.md i fugliali è l'arnesi di codificazione AI chì i sviluppatori individuali anu cunfiguratu un venneri dopu meziornu. Nimu ùn l'hà rivisti, è una cumpetenza maligna hè solu testu pianu

TL; DR

Sicurezza di l'agente IA in quattru passi: vedelu, puntuallu, assicurà u ciclu, prutege l'installazioni

Ùn pudete micca assicurà agenti chì ùn pudete micca vede. A sicurità di l'agenti IA principia cù un inventariu di ogni agente, servitore MCP, cumpetenza, mudellu è strumentu di codificazione IA in u vostru codice.

  • Risicu in u modu in cui l'agenti sò custruiti: prompts chì concatenanu l'input di l'utente, agenti chì chjamanu strumenti senza guardrails, credenziali è cumpetenze sovraprivilegiate cù struzzioni nascoste. A maiò parte hè visibile in u codice, prima di u spiegamentu, è si mappa à u OWASP Top 10 per l'applicazioni agentiche.
  • Sicurezza in u ciclu: L'agenti di codificazione anu bisognu di sicurità in u so ciclu, dunque scansionanu è curreggenu ciò chì scrivenu prima ch'ellu sia committed, micca settimane dopu in un bigliettu.
  • Prutegge l'installazioni: L'agenti installanu ancu dipendenze. A rilevazione di malware chì funziona prima chì una firma esista copre i pacchetti maliziosi, chiunque li installa, un sviluppatore o un agente.
  • Un flussu di travagliu: I risultati di l'IA passanu per u listessu triage, biglietti è rapporti cum'è u restu di i vostri risultati AppSec.

U primu passu: Custruite un inventariu di l'IA in i vostri repositori, esportatelu cum'è un AI-BOM, dopu importate u novu codice di l'agente in CI.

Perchè a sicurità di l'agenti IA hè un prublema diversu

Una funzione LLM restituisce testu, è un umanu decide ciò chì fà cun ellu. Un agente chjude quellu ciclu da per ellu: pianifica, chjama strumenti, legge pagine web, email è documenti, scrive fugliali è esegue cumandamenti. Ogni capacità chì date à un agente hè una capacità chì un attaccante pò piglià in prestitu.

L'OWASP hà fattu a listessa distinzione. U OWASP Top 10 per l'applicazioni agentiche 2026 (ASI01 à ASI10) si basa nantu à u OWASP Top 10 per l'applicazioni LLM: a lista LLM copre ciò chì dice un mudellu; a lista agentica copre ciò chì face un agente.

A maiò parte di l'urganisazioni gestiscenu avà dui tipi d'agenti:

  • Agenti chì integrate in e vostre applicazioni: assistenti di supportu, copiloti interni è flussi di travagliu custruiti cù frameworks cum'è LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel o LlamaIndex, spessu cunnessi à strumenti per mezu di Servitori MCP.
  • Agenti di codificazione AI chì i vostri sviluppatori utilizanu: Claude Code, Cursor, GitHub Copilot, Windsurf, è altri, chì scrivenu codice, mudificanu a cunfigurazione è aghjunghjenu dipendenze.

A sicurità di l'agente IA deve copre tramindui, perchè tramindui agiscenu cù i vostri permessi.

Passu 1: inventariu di ogni agente, servitore MCP è cumpetenza

A sicurità di l'agenti di IA principia cù un pannellu di dumande, è l'auditori si dumandanu avà: chì IA stemu eseguendu? Sicurezza di l'IA Xygeni risponde da a fonte: codice, cunfigurazione, manifesti è dipendenze.

Scopre mudelli, agenti è servitori d'agenti, frameworks d'IA, servitori MCP è i so strumenti, cumpetenze (SKILL.md, AGENTS.md), suggerimenti, guardrails, magazzini vettoriali, insemi di dati, endpoint di inferenza è l'arnesi di codificazione AI cunfigurati in i vostri repositori. Mappa ancu cumu si cunnettanu: quale agente usa quale mudellu, esegue quali strumenti è invoca quali servitori MCP.

U risultatu hè un inventariu di l'IA vivu, esportabile cum'è un AI-BOM in furmatu CycloneDX, cù un registru di guvernanza per attivu chì include un campu di categuria di risicu di l'EU AI Act.

Vulete vede ciò chì l'IA hè digià in u vostru codice? Prenota una sessione cù un ingegnere, è custruiremu l'inventariu IA di unu di i vostri repositori.

Passu 2: catturà i risichi in u modu in cui l'agenti sò custruiti

A maiò parte di e vulnerabilità di l'agenti ùn sò micca esotiche. Sò un prompt custruitu da a concatenazione di stringhe, un agente chì chjama strumenti senza guardrail d'input o una credenziale cù assai più scopu di ciò chì l'agente hà bisognu. Tutti lascianu impronte digitali in u codice, cusì pudete chjappà li in CI, prima di u spiegamentu.

I risichi di l'agente IA chì pudete catturà in u codice

Ogni risicu hè currispundente à u OWASP Top 10 per l'applicazioni LLM o i so cumpagni agenti, dunque i risultati parlanu a listessa lingua chè i vostri auditori.

risicuCiò chì pare in u codiceCartografia OWASP
Iniezione prontaI prompt di u sistema chì concatenanu u cuntenutu di l'utente senza separazione di roli, delimitatori o guardrailsLLM 01
Iniezione indirettaAgenti chì chjamanu strumenti senza input guardrails, o agenti chì ingeriscenu pagine web, email o documenti recuperati senza sanificazioneLLM 01
Gestione di l'output periculosaRighjunghjendu a pruduzzione di u mudellu eval o altri dissipatori periculosi, tracciati in funzioni è fuglialiLLM 05
Identità di l'agenti sovraprivilegiatiAbusu d'identità non umanaCredenziali statiche à longa durata, credenziali spartute senza restrizione di l'ambitu, servitori MCP o di strumenti in esecuzione cù privilegi elevatiASI 03
Cumpetenze maliziose o typosquattedCatena di furnimentu di cumpetenze di l'agentiDirettive maliziose nascoste in SKILL.md or AGENTS.md, nomi di cumpetenze chì impersonanu cumpetenze o integrazioni cunnisciuteTop 10 di e cumpetenze agentiche
Secreti in promptCredenziali almacenati in i fugliali di promptLLM 07

Ogni scuperta porta a so categuria OWASP LLM Top 10, più i tag OWASP Agentic Applications è Agentic Skills induve si applicanu, è i vettori d'attaccu di a squadra rossa implicati.

E cumpetenze meritanu una attenzione particulare perchè una struzzione maligna in un schedariu di cumpetenze hè prosa, micca codice, è nisuna firma ùn pò vede la. Una rivista di l'IA opt-in ghjudicheghja l'intenzione di i schedarii d'istruzzioni di cumpetenze è d'agenti segnalati cù una cunfigurazione deterministica è versionata, cusì u listessu schedariu riceve sempre u listessu verdictu. Pò esse eseguitu nantu à u vostru propiu mudellu autoospitatu, cusì u codice è i prompt ùn devenu micca lascià u vostru ambiente. Un puntuatu di livellu di cumpetenza fusiona tandu questi signali in una sola risposta: sicuru, attenti o ùn installà micca.

Scorri più sidu: fighjate a nostra sessione Ragiu di l'esplosione: Quandu l'agente tocca ciò chì ùn avete micca dumandatu, nantu à ciò chì accade quandu i permessi di un agente vanu più luntanu chè u so compitu.

Passu 3: mette a sicurità in u ciclu di l'agente di codificazione

L'agenti di codificazione di l'IA scrivenu è commit codice più veloce di ciò chì qualchissia pò rivederlu. Una scuperta chì ghjunghje in un bigliettu duie settimane dopu hè raramente riparata. A riparazione deve accade mentre l'agente hè sempre à u travagliu.

U servitore Xygeni MCP funziona lucalmente è funziona cù qualsiasi agente di codificazione AI chì supporta MCP, qualunque sia u mudellu nantu à u quale funziona. L'agente pò scansà u codice chì hà appena scrittu, elencà i novi prublemi, ottene verdetti di triage AI è dumandà correzioni per SAST e SCA risultati. Si ripete finu à chì u cambiamentu sia pulitu, prima chì qualcosa sia committed, cù l'approvazioni chì a vostra squadra stabilisce.

Utilizza i stessi motori, pulitiche è regule di silenziu cum'è u vostru pipeline, cusì l'agente è u vostru CI ùn sò mai in disaccordu. Per i sviluppatori chì travaglianu accantu à l'agente, u Plugin IDE purtà i stessi risultati è correzioni in l'editore.

Passu 4: prutegge ciò chì l'agenti installanu

Un agente di codificazione IA pò aghjunghje una dipendenza da per ellu, è ùn si fermerà micca per verificà se un pacchettu novu di zecca cù un nome familiare hè legittimu. L'attaccanti u sanu, è i registri open-source sò induve aspettanu.

Difesa da Malware segnala i pacchetti maliziosi prima chì una firma esista, quellu chì l'installa, un sviluppatore o un agente. Nantu à a macchina di u sviluppatore, Shield applica a pulitica prima di l'esecuzione di qualcosa: un'età minima per i novi pacchetti, copertura per l'estensioni è i plugin IDE, bloccu di indicatori maliziosi è geografie risicate, è isolamentu di l'endpoint quandu una macchina hà bisognu di esse cuntenuta.

Vulete andà più in fondu?

Un difettu in u gestore è u puntu finale espostu chì u ghjunghje sò un prublema, cù un solu pruprietariu. È s'è vo aduprate digià un altru strumentu DAST, Xygeni importa i so risultati in a listessa vista di risicu, senza dumandà vi di rimpiazzallu.

Vulete vede i dui strati chì travaglianu inseme? Fighjate a nostra sessione Da u codice à l'esecuzione: Perchè SAST + DAST sò tramindui essenziali per AppSec mudernu, induve spieghemu cumu i risultati di u codice è i testi di runtime si cunfermanu l'unu l'altru.

Un flussu di travagliu, micca un'altra cunsola

A sicurità di l'agente IA fiasca quandu diventa un strumentu separatu cù a so propria coda. In Xygeni, i risultati di l'IA passanu per u listessu funnel, Triage di l'IA, biglietti è rapporti cum'è u restu di e vostre scuperte. A riparazione AI dà una guida di correzione sensibile à u cuntestu per tutte e dece categurie OWASP LLM, è ASPM mette u risicu di l'IA accantu à u codice, a dipendenza è pipeline risicu in una vista.

Sicurezza è cunfurmità di l'agenti di l'IA

I regulatori, l'auditori è i clienti dumandanu sempre di più un inventariu di l'IA chì aduprate è cumu u so risicu hè classificatu. U Act EU AI e ISO / IEC 42001 tramindui spinghjenu in quella direzzione, è un AI-BOM hè diventatu un standard elementu in i quistionarii d'approvvigionamentu.

Un inventariu di l'IA cù un campu di categuria di risicu per asset dà à a vostra squadra di guvernanza a basa di prove per quellu travagliu. Supporta a preparazione à a Legge di l'UE nantu à l'IA; ùn hè micca una valutazione di cunfurmità, è ùn rimpiazza micca a vostra revisione legale.

o squadre di medie dimensioni hè simplice:

  1. In ogni pull request: Sicurezza API in CI nantu à u codice mudificatu, più scansioni DAST incrementali.
  2. nanzu commit: cum'è a pre-commit porta nantu à i fugliali messi in scena.
  3. Ogni notte o à a fusione: una scansione DAST cumpleta.
  4. Prima di ogni publicazione maiò: IA Pentesting contr'à a messa in scena per validà l'arretratu è cunfirmà chì ogni currezzione hà chjusu u foru.

U scanner di sicurezza API funziona in ogni locu, cumpresi l'ambienti cù spazii d'aria, è face rapporti à Xygeni SaaS o à u vostru on-premisepiattaforma s. I risultati escenu cum'è JSON, SARIF 2.1.0, CSV, è Markdown per pull request cumenti.

Test di sicurezza è cunfurmità di l'API

Per e squadre in u settore bancariu, assicurativu, o publicu, i testi di sicurezza API sò ancu una prova. Ogni scuperta porta etichette di cunfurmità per Articulu 32 di u GDPR, PCI DSS 4.0 (requisiti 3.4, 6.4.3, 7.1, 7.2 è 8) è NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), visibile in a piattaforma è in l'output JSON è SARIF.

Sè a vostra urganizazione cade sottu à Dora or NIS 2, i testi in tempu reale vi danu evidenza cuntinua trà i testi manuali di penetrazione chì i vostri regulatori necessitanu sempre. 

Cumu implementà a sicurezza di l'agente IA in 7 passi

Eccu a lista di cuntrollu pratica, in l'ordine chì face chì a sicurezza di l'agente IA funziona u più velocemente in una vera squadra di sviluppu.

  1. Discover

    Inventariu di ogni asset di IA in i vostri repositori

    Scannate tutti i repositori per agenti, servitori MCP, cumpetenze, mudelli, prompt è strumenti di codificazione AI, è esportate u risultatu cum'è un AI-BOM. Questa hè a vostra basa, è a lista da a quale ogni altru passu parte.

  2. Classificate

    Date à ogni agente un pruprietariu è un livellu di risicu

    Per ogni agente, registrate quale ne hè u pruprietariu, quali dati è strumenti pò ghjunghje, è a so categuria di risicu di a Legge Europea nantu à l'IA. Un agente chì nimu ùn pussede hè un agente chì nimu ùn riparerà.

  3. Detect

    Scansione di u codice di l'agente in CI in ogni pull request

    Eseguite a rilevazione di risichi AI accantu à e vostre altre scansioni. Cuminciate in modalità senza bloccu per vede a linea di basa, poi bluccate e fusioni nantu à i risultati critichi una volta chì e squadre anu pulitu.

  4. recensione

    Revisione di e cumpetenze prima chì qualchissia l'installi

    Scansione di i fugliali d'istruzzioni di cumpetenze è d'agenti cum'è SKILL.md e AGENTS.md, attivate a revisione di l'intenzione di l'IA, è trattate un verdettu "ùn installà micca" cum'è un stop definitivu.

  5. Restringe

    Permessi di l'agente Shrink

    Rimpiazzate e credenziali statiche di longa durata cù quelle cù ambitu, smette di sparte credenziali trà agenti è ùn eseguite mai servitori MCP o di strumenti cù privilegi elevati chì ùn anu micca bisognu.

  6. Riparà in u ciclu

    Mette a sicurità in u ciclu di l'agente di codificazione

    Cunnette i vostri agenti di codificazione AI à un servitore MCP di sicurezza per ch'elli scansioninu è curreghjinu u so codice prima ch'ellu sia committed, cù e listesse pulitiche cum'è u vostru pipeline.

  7. pruteghje

    Prutegge ciò chì sbarca nantu à e macchine di sviluppatore

    Impone un'età minima per i novi pacchetti, rileva i pacchetti maliziosi prima chì una firma esista, è copre l'estensioni è i plugin IDE, quellu chì l'installa, un sviluppatore o un agente.

allura: Dirige ogni scuperta in u listessu flussu di travagliu di triage, ticketing è reporting cum'è u restu di a vostra AppSec, affinchì u risicu di l'IA ùn finisca micca in una coda à parte.

Ùn pudete micca assicurà un agente chì ùn avete mai scontru

A sicurità di l'agenti IA ùn hè micca un altru scanner. Si tratta di sapè quali agenti eseguite, di capisce u risicu in u modu in cui sò custruiti, di mette a sicurità in u ciclu di l'agente di codificazione è di prutege ciò chì l'agenti installanu. Cuminciate cù l'inventariu: tuttu u restu dipende da questu.

Vulete vede ogni agente, servitore MCP è cumpetenza in u vostru codice? Prenota una sessione cù un ingegnere per custruisce l'inventariu IA di i vostri archivi è rivedere i so risultati. O cumincià gratuitamente cun AI SAST, SCA, rilevazione di secreti, i plugins IDE è rilevazione di malware nantu à i pacchetti open-source. Nisuna carta di creditu.

FAQ nantu à a sicurità di l'agenti di IA

Cumu hè diversa a sicurità di l'agente IA da a sicurità LLM?

A sicurità LLM riguarda ciò chì dice un mudellu: dati filtrati, risposte manipulate, output periculosi. A sicurità di l'agente IA riguarda ciò chì face un agente cù strumenti, memoria, credenziali è altri agenti. Hè per quessa chì OWASP publica un Top 10 separatu per l'Applicazioni Agentiche (ASI01 à ASI10) in cima à u Top 10 LLM.

Cumu possu truvà l'agenti IA è i servitori MCP in a mo urganizazione?

Principiate da u codice. Xygeni AI Security scopre l'agenti, i servitori MCP, e cumpetenze, i mudelli, i prompt è l'arnesi di codificazione AI in i vostri repositori, mappa cumu si cunnettanu è esporta u risultatu cum'è un AI-BOM in furmatu CycloneDX. Funziona in CI accantu à e vostre altre scansioni.

Una cumpetenza maliziosa o un servitore MCP pò compromette i mo sviluppatori?

Iè: l'istruzzioni di una cumpetenza sò testu chjaru, è un agente li seguirà cù i permessi di u sviluppatore. Xygeni segnala direttive maliziose nascoste è nomi di cumpetenze chì si facenu passà per l'identità, pò ghjudicà l'intenzione di una cumpetenza cù una rivista di l'IA opt-in, è valuta ogni cumpetenza cum'è sicura, prudenza o micca installà. Difesa da i malware è Shield copre i pacchetti è l'agenti di estensioni chì portanu.

sca-tools-software-strumenti-d'analisi-di-cumpusizione
Priorizà, rimedià è assicurà i vostri risichi di software
Uttene u vostru contu gratuitu.
Nisuna carta di creditu necessaria.

Assicurà u sviluppu è a consegna di u vostru software

cù a Suite di Prodotti Xygeni