TL;DR: ingegneria di imbracatura di l'agenti è a so superficia d'attaccu nascosta
L'ingegneria di l'imbracatura di l'agenti hè a pratica di custruisce tuttu intornu à un mudellu di IA (istruzzioni, strumenti, permessi, memoria è cicli di feedback) chì u trasforma in un agente funzionale. Quellu imbracatura, micca u mudellu, hè induve si trova avà a maiò parte di u veru risicu di sicurezza.
- U cambiamentu: E squadre anu cessatu di mette à puntu i prompt è anu cuminciatu à ingegnerizà i cablaggi. Agente = mudellu + cablaggio.
- U prublema: U cablaggio si trova in fugliali di testu chjaru (regule, cumpetenze, cunfigurazioni MCP) chì sò rivisti cum'è documentazione, s'ellu ci hè mai statu.
- L'evidenza: U Backdoor di u schedariu di e regule è i veri CVE MCP mostranu chì l'attaccanti u miranu digià.
- A soluzione: trattate u cablaggio cum'è codice. Fate l'inventariu, verificatelu è scansionatelu prima di spediscelu.
Ogni cunversazione di sicurezza riguardu à l'IA finisce per ghjunghje à u mudellu. Pò esse jailbroken ? Averà allucinazioni ? U fornitore si forma nantu à i nostri dati ?
Dumande ghjuste. Ma sò sempre di più quelle sbagliate. Quandu un agente IA cancella una tavula di pruduzzione, spinge una backdoor o manda per email una lista di clienti à un stranieru, u mudellu hè raramente ciò chì hà fiascatu. U mudellu hà fattu esattamente ciò chì u so imbracatura li permetteva di fà.
Agente = mudellu + imbracatura
Durante l'ultimu annu, l'industria hà cambiatu tranquillamente ciò chì significa custruisce cù l'IA. L'ingegneria rapida hà lasciatu u locu à l'ingegneria di u cuntestu, è l'ingegneria di u cuntestu hà lasciatu u locu à qualcosa di più grande: ingegneria di imbracatura di l'agenti.
L'idea hè simplice. Un mudellu per sè stessu hè un mutore di ragiunamentu senza mani. L'imbracatura hè tuttu ciò chì li dà mani è un travagliu: l'istruzzioni chì seguita, l'arnesi chì pò chjamà, i permessi chì tene, a memoria chì conserva è i cuntrolli chì catturanu i so sbagli. U situ di Martin Fowler descrive l'ingegneria di imbracatura cum'è u travagliu chì l'utilizatori di l'agenti di codificazione facenu avà per rende l'agenti affidabili, è un quadru accademicu publicatu quest'annu divide u cablaggio in undici responsabilità, da l'accessu à l'arnesi è a memoria di u prugettu à i permessi è a verificazione.
I risultati sò veri. E squadre chì praticanu l'ingegneria di l'imbracatura di l'agenti dicenu chì cambià solu l'imbracatura, cù u listessu mudellu sottu, pò cambià dramaticamente i risultati di un agente. Questu suscita un puntu scomodu per chiunque in a sicurezza: se l'imbracatura decide cumu si cumporta l'agente, l'imbracatura decide cumu si pò abusà di ella.
Pigliate qualcosa di cusì ordinariu cum'è l'installazione di una dipendenza. Un sviluppatore si ferma per verificà u nome di u pacchettu. Un agente cù u strumentu ghjustu in u so arnese esegue solu u cumandamentu, è se u pacchettu hè maliziosu, nunda in u mudellu u fermerà. Hè esattamente ciò chì spieghemu in questu episodiu di SafeDev Talks: ciò chì cambia quandu l'agenti di l'IA installanu dipendenze da soli, è perchè l'ingegneria di imbracatura di l'agenti hè diventata tranquillamente un prublema di a catena di furnimentu.
À chì s'assumiglia l'ingegneria di imbracatura di l'agenti in un repositoriu
Apri un repositoriu induve i sviluppatori utilizanu agenti IA è u cablaggio hè ghjustu quì, in i fugliali chì probabilmente ùn avete mai scansionatu:
- Regole è schedari d'istruzzioni (
AGENTS.md,.cursorrules, Istruzzioni di u copilota) chì dicenu à l'agente cumu si deve cumportà. - File di cumpetenze quellu pacchettu di capacità riutilizzabili chì l'agente carica à dumanda.
- Cunfigurazioni di u servitore MCP chì cunnettanu l'agente à strumenti, basi di dati è API.
- Prompt di sistema è mudelli di prompt integratu in u codice di l'applicazione.
- Cablaggio di l'agente: quali strumenti pò ghjunghje un agente, quali dati pò recuperà, è s'ellu ci hè una barriera di sicurezza trà di elli.
Tuttu hè testu chjaru. Tuttu hè committed accantu à u codice. È tuttu hè rivisu cum'è a ducumentazione hè rivista: un sguardu rapidu, una appruvazione, una fusione. Eppuru ognunu di sti fugliali pò riscrive in silenziu ciò chì un agente hè urdinatu di fà è ciò chì hè permessu di tuccà.
Questa hè a vera cunsequenza di l'ingegneria di l'imbracatura di l'agenti: a cunfigurazione più putente in u vostru software hè avà a menu rivista.
L'attaccanti sò digià stati nutati
Questa ùn hè micca una preoccupazione teorica. L'imbracatura hà una storia d'incidenti corta ma significativa.
- U schedariu Backdoor di e Regole. In marzu 2025, i circadori anu divulgatu un attaccu induve i caratteri Unicode nascosti in un schedariu di regule anu urdinatu à l'assistenti di codificazione AI d'inserisce codice backdoored, senza menziunallu in a so risposta visibile. Un revisore chì leghjia u schedariu ùn hà vistu nunda di stranu. Avà hè catalogatu cum'è Studiu di casu MITRE ATLAS AML.CS0041.
- Strumenti MCP avvelenati. Finu à u 2025, i circadori anu dimustratu ripetutamente chì l'agenti si fidanu implicitamente di e descrizzioni di i strumenti, dunque un servitore MCP maliziosu pò guidà un agente semplicemente descrivendusi in u modu ghjustu. U listessu annu, CVE-2025-6514 in un cliente MCP telecaricatu largamente hà permessu l'esecuzione remota di cumandamenti quandu si cunnetta à un servitore micca affidabile, valutatu 9.6 in CVSS.
- Agenzia eccessiva. lu OWASP Top 10 per l'applicazioni LLM elenca l'eccessiva agenzia cum'è un risicu principale: agenti cuncessi più strumenti, permessi o autonomia di ciò chì u compitu richiede. Questu ùn hè micca un difettu di mudellu. Hè un difettu di cuncepimentu di imbracatura.cision.
Nutate u schema. Nisunu di sti attacchi ùn rompe u mudellu. Rompenu l'imbracatura, è u mudellu face fedelmente u restu.
Perchè a vostra pila di sicurezza ùn a vede micca
Eccu a parte imbarazzante. A maiò parte di l'urganisazioni utilizanu digià boni strumenti AppSec, è guasi nunda di questu hè statu custruitu per questu stratu.
L'analisi statica capisce u codice, ma ùn sà micca ciò chì hè un mudellu o perchè u testu micca affidabile chì scorre in un prompt di sistema hè impurtante. L'analisi di a cumpusizione inventaria i pacchetti, ma ùn enumera micca i servitori MCP o i fugliali di cumpetenze. I scanner secreti ponu mancà una chjave API chì si trova in un fugliale di cunfigurazione di l'agente. Nisunu di sti strumenti hè difettu. Sò stati simpliciamente custruiti per un mondu induve a cunfigurazione ùn dava micca ordini.
Cusì l'ingegneria di l'arnesi di l'agenti si move rapidamente, è a sicurezza esamina a parte ch'ella pò vede: u mudellu è u codice. L'arnesi si trova trà mezu.
Cinque abitudini per assicurà l'imbracatura
L'ingegneria di l'imbracatura di l'agenti di sicurezza ùn hà micca bisognu di una nova squadra. Ci vole uni pochi d'abitudini chì trattanu l'imbracatura cum'è ciò chì hè: intenzione eseguibile.
| abitudini | Perchè importa | A faire |
|---|---|---|
| 1. Inventariu di ogni imbracatura | Ùn pudete micca assicurà agenti chì nimu ùn hà dichjaratu. | Truvate ogni mudellu, agente, servitore MCP, cumpetenza è prompt in i vostri repositori, da u codice è i fugliali di cunfigurazione stessi piuttostu chè da un'indagine. |
| 2. Rivisite i fugliali di cablaggio cum'è u codice | E regule, e cumpetenze è e cunfigurazioni MCP ponu riscrive ciò chì face un agente, eppuru sò riviste cum'è a documentazione. | Dà li listessu pull request scrutiniu cum'è logica d'applicazione, cumprese e verifiche di caratteri nascosti. |
| 3. Appuntà ciò chì l'agente carica | Un prompt o un mudellu riferitu da una etichetta mutabile pò esse ripuntatu senza un cambiamentu di codice. | Appuntà prompt è mudelli à versioni immutabili. |
| 4. Mette una ringhiera nantu à ogni lavandinu | I ducumenti recuperati, l'output di l'arnesi è u cuntenutu di l'utente ponu tutti purtà struzzioni iniettate à u mudellu. | Pone una barriera di prutezzione in u percorsu induve quellu cuntenutu pò ghjunghje à u mudellu. |
| 5. Mantene e credenziali fora di l'imbracatura | E chjave di u fornitore di IA in i fugliali di prompt è e cunfigurazioni di l'agente sò una vittoria faciule per un attaccante. | Eliminateli è cuntinuate à scansà i fugliali di cablaggio per i sicreti. Hè una suluzione faciule. |
Assicurà l'imbracatura, micca solu u mudellu
Sicurezza di l'IA Xygeni principia induve l'ingegneria di l'imbracatura di l'agenti lascia a so impronta: in i vostri repositori. Scopre l'assi di l'IA in tutta a vostra basa di codice (mudelli, agenti, servitori MCP, cumpetenze, prompt, guardrails, è l'arnesi di codificazione AI in usu) da u codice, e dipendenze è i fugliali di cunfigurazione chì questi arnesi lascianu daretu.
Dopu analizeghja i fugliali di cumpetenze, i fugliali di regule è e cunfigurazioni MCP cum'è artefatti di sicurezza, micca documentazione, è rileva i risichi di a classa di iniezione di prompt in u cablaggio di l'agenti, cum'è u cuntenutu micca affidabile chì ghjunghje à un prompt di sistema o un sink di recuperu senza guardrail. A scansione di sicreti di Xygeni segnala e credenziali di u fornitore di IA in i prompt è i fugliali di cunfigurazione di l'agenti, è e dipendenze di a vostra pila IA ottenenu a stessa rilevazione di malware cum'è tuttu u restu, prima chì una firma esista.
FAQ
Chì ghjè l'ingegneria di imbracatura di l'agenti?
L'ingegneria di l'imbracatura di l'agenti hè a disciplina di cuncepisce l'ambiente intornu à un mudellu di IA (istruzzioni, strumenti, permessi, memoria, cuntestu è cicli di verificazione) in modu chì si cumporti cum'è un agente affidabile. U mudellu furnisce u ragiunamentu; l'imbracatura decide ciò chì l'agente pò vede è fà.
Cumu si distingue l'ingegneria di imbracatura di l'agenti da l'ingegneria prompt?
L'ingegneria di prompt dà forma à una sola istruzione. L'ingegneria di l'imbracatura di l'agenti dà forma à tuttu u sistema in u quale l'agente opera, in parechji passi, strumenti è sessioni. Un prompt hè un schedariu in l'imbracatura.
Perchè l'imbracatura hè un risicu per a sicurezza?
Perchè cuntrolla ciò chì un agente hè autorizatu à fà, è si trova in fugliali di testu chjaru chì sò raramente rivisti cum'è artefatti di sicurezza. Cumprumettite un fugliale di regule o una cunfigurazione MCP è cuntrullate l'agente, senza tuccà u mudellu.
Quale deve pussede a sicurità di l'imbracatura di l'agente?
Sicurezza di l'applicazione, travagliendu cù l'ingegneri chì custruiscenu è cunfiguranu l'agenti. U cablaggio face parte di u software chì spedite, dunque appartene à i stessi prucessi di revisione, scansione è inventariu cum'è u restu di u vostru codice.







