TL; DR
Quasi tutti i team di ingegneri utilizzano assistenti di programmazione basati sull'intelligenza artificiale. Quasi nessuno, però, è in grado di inventariare quali sistemi di intelligenza artificiale utilizzano effettivamente. Gartner ha definito la gestione della postura di sicurezza dell'IA come categoria nel suo Hype Cycle 2025 per la sicurezza dei dati perché il divario è reale: modelli, agenti, server MCP e set di dati sono risorse di IA sulla superficie di attacco e la maggior parte delle organizzazioni non ha un modo strutturato per visualizzarli.
La scoperta senza rimedio è solo una dashboard. Circa il 40% del codice generato dall'IA contiene vulnerabilità di sicurezza. Gli assistenti IA riproducono schemi non sicuri a un volume tale che nessun sistema di revisione manuale è stato progettato per gestire. Sapere quali risorse IA esistono risolve solo metà del problema: l'altra metà consiste nel valutarne il rischio e correggere il codice prima del rilascio, nello stesso flusso di lavoro in cui è stato scritto.
La superficie di attacco è più ampia del codice stesso. Gli attacchi documentati prendono già di mira le risorse che circondano il codice: Unicode nascosto nei file delle regole che inducono gli assistenti a emettere output con backdoor, avvelenamento dello strumento MCP ed esecuzione completa di codice remoto tramite un bridge MCP ampiamente utilizzato (oltre 437,000 download) e slopsquatting, ovvero la registrazione dei nomi dei pacchetti che i modelli di IA hanno statisticamente probabilità di indurre in errore. Tradizionale SAST and SCA Non vedo niente di tutto questo.
La soluzione è un solo anello, non strumenti a tre punte: AI-SPM crea l'inventario e la distinta base basata sull'IA; Sicurezza AI valuta il rischio rispetto alla OWASP Top 10 per le domande di LLM; DeviAI Corregge il codice vulnerabile all'interno dell'IDE durante la fase di scrittura, copre sia il codice generato dall'IA che quello scritto da esseri umani e intercetta le azioni che altri agenti stanno per compiere prima che vengano eseguite. Si applica ai risultati degli scanner di Xygeni e a tutto ciò che è già stato acquisito dagli strumenti installati. — non è necessario rimuovere e sostituire nulla.
Quasi tutti i team di ingegneri hanno adottato assistenti di programmazione basati sull'IA. Quasi nessuno di loro, però, è in grado di rispondere a una semplice domanda: quali modelli, agenti e server MCP di IA utilizziamo effettivamente e quale rischio comporta ciascuno di essi? Questa lacuna ora ha un nome. Gartner ha formalmente definito la gestione della postura di sicurezza dell'IA. (AI-SPM) come categoria nella sua Ciclo di Hype 2025 per la sicurezza dei dati — la stessa tradizione che ha dato origine a CSPM e DSPM. La categoria esiste perché i numeri sono concreti: circa il 40% del codice generato dall'IA contiene vulnerabilità di sicurezza, l'IA è ormai parte integrante della superficie di attacco anziché essere semplicemente uno strumento utilizzato dagli sviluppatori, e la maggior parte delle organizzazioni non dispone di un inventario strutturato delle risorse di IA che gestisce.
È anche l'argomento che discuteremo sul campo a OWASP AppSec Days Portogallo 2026, 23-24 settembre a Porto, dove Xygeni è uno sponsor GoldMaggiori dettagli alla fine, ma se vuoi saltare direttamente a questo punto, acquista qui il tuo biglietto.
Il problema: il codice generato dall'IA presenta un proprio profilo di rischio.
Circa il 40% del codice generato dall'IA contiene vulnerabilità di sicurezza. La ricerca indipendente sugli assistenti di programmazione basati sull'IA ha rilevato tassi di fallimento costantemente elevati rispetto a OWASP Top 10, con determinate categorie di vulnerabilità come il cross-site scripting che compaiono nella stragrande maggioranza dei campioni generati. Gli assistenti IA non si limitano a scrivere codice più velocemente. Riproducono anche modelli non sicuri, dipendenze non sicure e configurazioni non sicure più velocemente, e lo fanno a un volume che nessun processo di revisione manuale è stato progettato per gestire.
La superficie di attacco non si limita al codice scritto da un assistente. Si estende alle risorse di intelligenza artificiale che i vostri team già utilizzano e raramente inventariano: modelli, set di dati, agenti e server MCP. Ognuno di questi elementi ha già generato attacchi reali e documentati:
- Backdoor del file delle regole: Gli aggressori nascondono le istruzioni utilizzando caratteri Unicode invisibili all'interno di regole e file di configurazione letti da strumenti come GitHub Copilot e Cursor, causando l'emissione da parte dell'assistente di codice backdoor senza mai menzionarlo. Catalogato come un Caso di studio MITRE ATLAS.
- Avvelenamento dello strumento MCP ed esecuzione di codice in remoto: Una vulnerabilità critica in un bridge MCP ampiamente utilizzato, scaricato più di 437,000 volte, consentiva l'esecuzione completa di codice in remoto nel momento in cui un client si connetteva a un server MCP non attendibile.
- Slopsquatting: Una vasta ricerca accademica ha generato oltre due milioni di campioni di codice attraverso sedici LLM e ha scoperto che quasi un pacchetto raccomandato su cinque non esisteva affatto, nomi che gli aggressori possono registrare e utilizzare in anticipo.
Niente di tutto ciò si manifesta in un tradizionale SAST or SCA Scansione. Questi strumenti capiscono il codice. Non capiscono cos'è un modello, cosa sta facendo un server MCP o se il file di configurazione di un agente è stato manomesso.
La maggior parte dei team sta risolvendo solo metà del problema
La risposta istintiva è quella di aggiungere strumenti specifici: uno per la scansione del modello, un altro per i firewall di richiesta in fase di esecuzione, un terzo per Assistenti IDE. È lo stesso errore che AppSec ha commesso con SAST, SCAe la scansione dei segreti quindici anni fa, e produce lo stesso risultato: visibilità frammentata, rumore di fondo negli allarmi e nessun unico punto di riferimento per rispondere alla domanda "quale IA utilizziamo effettivamente e la utilizziamo in modo sicuro?".
La scoperta senza correzione ti dice solo dove si trova l'incendio. Correggere senza scoperta significa che stai correggendo il codice mentre server MCP ombra e agenti non approvati vengono eseguiti senza monitoraggio accanto ad esso. La sicurezza dell'IA deve coprire entrambi, sulla stessa piattaforma, altrimenti non è gestione della postura. È un dashboard.
Il modo migliore: la gestione della postura di sicurezza basata sull'IA che scopre, rileva e corregge
Xygeni Sicurezza AI chiude questo ciclo attraverso l'intera era dell'IA SDLC, dal modello e dal server MCP all'endpoint dello sviluppatore.
- Scoprire. AI-SPM crea un inventario in tempo reale di ogni risorsa AI nell'organizzazione: modelli, set di dati, agenti, server MCP. Dimostra che l'inventario con un AI-BOM, le prove che revisori e autorità di regolamentazione richiedono sempre più spesso, che si tratti di documentazione tecnica per sistemi ad alto rischio ai sensi della legge europea sull'IA o degli inventari delle risorse richiesti da normative come l'ENS spagnolo.
- Rileva. AI Security valuta ogni risorsa rispetto al rischio reale: iniezione immediata, configurazioni MCP non sicure, esposizione dei dati, allineato a OWASP Top 10 per le domande di LLMI risultati vengono classificati, non semplicemente inseriti in una coda.
- Correggere nel momento in cui viene scritto il codice. È qui che si trova l'intelligenza artificiale generata code security in realtà viene risolto. Xygeni DeviAI Funziona come un livello continuo all'interno dell'IDE, eseguendo la scansione incrementale mentre gli sviluppatori lavorano sia con codice scritto da esseri umani che con codice generato dall'IA. Esegue il rilevamento delle vulnerabilità dell'IA agentiva, mappando Percorsi di attacco basati sull'intelligenza artificiale per mostrare come una falla potrebbe effettivamente essere sfruttata e fornisce correzioni sicure generate dall'IA, validate per la sfruttabilità e il rischio di modifiche incompatibili prima che uno sviluppatore le applichi. Guardrails Le modifiche vengono validate rispetto alle policy di sicurezza e conformità prima di raggiungere la CI, e un agente DevAI dedicato intercetta le azioni che altri agenti stanno per compiere: convalida i file di competenze e regole, analizza ogni pacchetto che un agente tenta di installare alla ricerca di malware e pattern di slopsquatting e monitora il comportamento degli strumenti MCP per individuare eventuali manomissioni, il tutto prima dell'esecuzione.
- Applicare. Shield estende la stessa politica all'endpoint dello sviluppatore, bloccando le attività di intelligenza artificiale non sicure prima che vengano eseguite.
E perché Triage dell'intelligenza artificialeLe funzionalità di spiegazione e correzione si applicano non solo ai risultati di Xygeni, ma a tutto ciò che viene acquisito dagli strumenti già in uso; i team possono ottenere questo servizio senza dover smantellare ciò in cui hanno già investito.
Incontra Xygeni agli OWASP AppSec Days Portogallo 2026
Porteremo questa discussione a Porto. Xygeni è uno sponsor Gold presso OWASP AppSec Days Portogallo 2026, L'esecuzione di Settembre 23-24 presso la Fundação António Cupertino de Miranda.
Saremo presenti all'evento per parlare della gestione della postura di sicurezza dell'IA nella pratica: come i team stanno scoprendo risorse IA che non sapevano di avere, come generate dall'IA code security come si integra in un programma di sicurezza delle applicazioni esistente anziché affiancarlo, e come si presenta concretamente sul campo l'attuale ondata di minacce MCP e agenti.
Se parteciperai, Venite a trovare il team di Xygeni allo stand 12. Se la sicurezza dell'IA è nella tua roadmap e non puoi venire a Porto, saremo lieti di illustrartela direttamente. Nelle stesse date, saremo anche a Giornata OWASP tedesca 2026 a Karlsruhe, parlando di sicurezza dell'IA e Shieldin particolare il livello di applicazione.
Prenota un incontro con noi!
FAQ
- Che cos'è la gestione della postura di sicurezza basata sull'intelligenza artificiale (AI-SPM)?
AI-SPM è la disciplina che si occupa di scoprire, inventariare e valutare continuamente il rischio di ogni risorsa di intelligenza artificiale utilizzata da un'organizzazione (modelli, set di dati, agenti e server MCP), allo stesso modo in cui CSPM fa per il cloud e DSPM per i dati. Gartner l'ha definita come una categoria nel suo Hype Cycle 2025 per la sicurezza dei dati. AI-SPM di Xygeni crea questo inventario e lo supporta con una distinta base di intelligenza artificiale (AI-BOM), fornendo ai team di sicurezza e conformità prove da presentare a un revisore.
- Cosa rende generati dall’IA code security diverso dal tradizionale SAST or SCA?
L'analisi statica tradizionale e la scansione delle dipendenze sono state create per comprendere il codice e i pacchetti, non i rischi specifici dell'IA. Non rilevano l'iniezione di prompt, le regole dannose o i file di skill, l'avvelenamento degli strumenti MCP o i nomi di pacchetti slopsquatted che un assistente IA potrebbe installare. Generato dall'IA code security Deve integrarsi nello stesso flusso di lavoro che gli sviluppatori già utilizzano, analizzando contemporaneamente il codice scritto da esseri umani e quello generato dall'IA, proprio come fa Xygeni DevAI all'interno dell'IDE.
- Perché circa il 40% del codice generato dall'IA presenta vulnerabilità?
Gli assistenti di programmazione basati sull'IA apprendono e riproducono i modelli presenti nei dati di addestramento, inclusi quelli non sicuri, e generano codice molto più velocemente di quanto la revisione manuale possa tenere il passo. Ricerche indipendenti hanno costantemente riscontrato un'elevata frequenza di vulnerabilità OWASP Top 10 nei campioni generati dall'IA, con alcune categorie di falle, come il cross-site scripting, che compaiono nella stragrande maggioranza dei test.
- AI-SPM sostituirà i nostri attuali strumenti di sicurezza delle applicazioni?
No, e non dovrebbe nemmeno provarci. Le funzionalità di analisi, spiegazione e correzione dell'IA di Xygeni si applicano sia ai risultati degli scanner di Xygeni sia a quelli acquisiti da strumenti di terze parti già in uso, in modo che i team ottengano una copertura unificata dei rischi legati all'IA senza dover sostituire completamente le soluzioni già implementate.
- Dove posso vederlo in azione?
Xygeni è sponsor Gold di OWASP AppSec Days Portugal 2026., 23-24 settembre a Porto, e la squadra sarà presente in loco Cabina 12 parlando attraverso AI-SPM, generato dall'IA code securitye l'attuale ondata di minacce da parte di MCP e agenti. Acquista il tuo biglietto, oppure contattaci direttamente se non puoi venire a Porto.
Nella stessa settimana, siamo anche a Giornata OWASP tedesca 2026 a Karlsruhe, focalizzato sulla sicurezza dell'IA e Shieldlivello di applicazione.
