TL; DR
Ogni cunsigliu d'amministrazione dumanda avà nantu à u risicu di l'IA, è a maiò parte di e squadre di sicurezza rispondenu cù aggettivi invece di numeri. I quadri di guvernanza vi dicenu ciò chì duvete guvernà. Ùn vi dicenu micca ciò chì duvete cuntà. Queste metriche di risicu di l'IA venenu tutte da u listessu locu: u codice chì a vostra urganizazione distribuisce digià.
- Una strategia d'IA agentica hà trè livelli, è solu unu di elli hè u mudellu. Ciò chì l'agente scrive, ciò chì l'agente hè cunnessu à ellu, è ciò chì l'agente estrae. A maiò parte di i prugrammi misuranu u primu è ignoranu l'altri dui.
- U raghju di l'esplosione ùn hè micca in u mudellu. Hè in u schedariu di cumpetenze, a cunfigurazione MCP, u scopu di u strumentu è e credenziali sottu à quale l'agente funziona. Una valutazione di u mudellu pulitu è un agente sovraprivilegiatu coesistenu cun cunfortu.
- Nove metriche di risicu di l'IA, ognuna un numeru piuttostu chè un aggettivu. Risorse di IA micca appruvate, percorsi d'iniezione rapidi chì ghjunghjenu à un pozzu di strumenti, sicreti in
.mcp/servers.json, dipendenze aghjunte da l'agente segnalate prima chì esistessi una firma. - Sè ùn pudete micca pruduce u numeru stu trimestre, a metrica ùn hè micca u prublema. L'inventariu hè. Cuminciate cù trè conti, micca un prugramma.
Chì significa in realtà u risicu di l'IA quandu sì quellu chì spedisce u software?
Dumandate à dece persone ciò chì significa u risicu di l'IA, è uttene dece risposte. Distorsione di mudellu. Allucinazione. Fuga di dati. Esposizione regulatoria. Spostamentu di travagliu. Tuttu reale, tuttu degne d'attenzione, è nimu di elli rispunsevule da una squadra di sicurezza un marti dopu meziornu.
Ci hè una versione più stretta di a quistione chì una squadra di sicurezza pò pussede in realtà: Chì IA funziona in u software chì custruemu, chì pò ghjunghje, è ciò chì succede quandu qualchissia a manipula. Quella versione hà una risposta, è a risposta si trova in i vostri repositori è pipelines piuttostu chè in un documentu di pulitica.
Questa hè a versione di u risicu di l'IA di a quale si tratta stu post. Micca perchè e dumande di guvernanza ùn importanu micca, ma perchè e dumande di guvernanza ùn ponu esse risposte finu à chì sta ùn sia. Un quadru vi dumanda di fà un inventariu di i vostri sistemi di IA. Ùn vi dice micca chì l'inventariu hè pusatu in un .mcp/servers.json schedariu chì nimu ùn hà apertu dapoi ch'ellu hè statu committed.
Perchè a maiò parte di i prugrammi di risicu di l'IA misuranu a cosa sbagliata ?
Trè mudelli di fallimentu, è a maiò parte di l'urganisazioni ne gestiscenu almenu dui.
- Misurà l'adozione invece di l'esposizione. «72% di i nostri sviluppatori utilizanu strumenti di IA» hè una metrica di produttività chì porta un badge di sicurezza. Ùn vi dice nunda nantu à ciò chì questi strumenti ponu ghjunghje.
- Misurà u mudellu invece di u sistema. U red-teaming di un endpoint risponde à a dumanda di sapè s'è un mudellu pò esse cunvintu à dì qualcosa ch'ellu ùn deve micca dì. Ùn risponde micca à ciò chì succede dopu, perchè u raghju di blast si trova in l'ambitu di u strumentu, a credenziale sottu à quale l'agente funziona, è i fugliali di cunfigurazione chì definiscenu tramindui. Una valutazione pulita di u mudellu è un agente cù privilegi eccessivi coesistenu assai cun facilità.
- Misurà ciò chì hè faciule da cuntà. Numeru di pulitiche d'IA publicate. Numeru di persunale chì hà cumpletatu a furmazione nantu à l'IA. Sti numeri aumentanu in modu affidabile è ùn si correlanu cù nunda.
lu NIST AI Risk Management Framework hè esplicitu chì a misurazione hè una di e so quattru funzioni principali, à fiancu à guvernà, cartografia è gestione. U quadru hè deliberatamente basatu nantu à i risultati piuttostu chè prescrittivu, ciò chì hè currettu per un standard è inutile u marti. Duvete ancu decide ciò chì cuntà.
Quali metriche di risicu di l'IA vi dicenu veramente qualcosa?
Nove metriche. Ognuna hè un numeru, ognuna cambia quandu a vostra esposizione cambia, è ognuna pò esse prudutta da u codice piuttostu chè da un'inchiesta.
| Metrica | Perchè importa | Da induve vene u numeru |
|---|---|---|
| 01Totale di risorse di IA scuperte, è u cambiamentu dapoi u mese scorsu | Ùn pudete micca fà rapportu nantu à u risicu di l'IA chì ùn avete mai cunsideratu. A tendenza importa più chè u numeru assulutu. | Scuperta cuntinua di mudelli, framework, datasets, endpoints di inferenza, agenti, servitori MCP, cumpetenze è strumenti di codificazione AI |
| 02Attivi di IA micca appruvati cum'è percentuale di u totale | Questu hè u vostru tassu di IA in l'ombra. Hè a metrica di risicu IA più citata per un cunsigliu d'amministrazione. | Statu d'approvazione tracciatu per attivu contr'à a vostra pulitica |
| 03Attivi di IA senza pruprietariu numinatu | Un attivu chì nimu ùn pussede hè un attivu chì nimu ùn riparerà. Di solitu u numeru u più bruttu di l'inseme. | Pruprietà tracciata contr'à l'attivu |
| 04Percorsi d'iniezione rapidi chì ghjunghjenu à un pozzu di strumenti | L'input micca affidabile chì ghjunghje à un prompt di u sistema importa solu s'ellu ci hè qualcosa di periculosu à l'altra estremità | Rilevazione di risichi AI mappata à u OWASP Top 10 per l'applicazioni LLM |
| 05I servitori MCP in usu, è quanti portanu risultati | A cunfigurazione MCP hè induve l'agente piglia i so ordini. Hè ancu induve s'accumulanu e credenziali. | Cunfigurazione di u servitore MCP analizata cum'è un artefattu di sicurezza |
| 06Sicreti truvati in i fugliali di cunfigurazione di l'IA | Una ricerca in u 2026 hà trovu più di 24 000 sicreti situati in i fugliali di cunfigurazione MCP nantu à GitHub publicu, cù più di 2 000 sempre validi. | Rilevazione di secreti attraversu u codice, e cunfigurazioni, i container è pipelines |
| 07Dipendenze aghjunte da l'agente segnalate prima chì esistessi una firma publica | L'agenti tiranu i pacchetti rapidamente, è u nome chì u vostru mudellu hà inventatu hè una superficia d'attaccu cultivabile. | Avvisu Precoce di Malware, rilevazione di prove seguita da validazione di l'IA |
| 08Parte di i risultati di l'IA chì sò accessibili è in u codice sviluppatu attivamente | Separa l'arretratu chì ùn sguasserete mai da u travagliu chì cambia a vostra esposizione | L'imbutu di priorità di l'IA |
| 09Percentuale di quelli scritti da l'agente pull requests fusionatu cù una appruvazione umana | A metrica di guvernanza chì un regulatore dumanderà, è quella chì nimu ùn seguita | Pull request anàlisi è porte d'approvazione |
Sè vo pigliate solu unu, pigliate a metrica 02. U rapportu trà l'assi IA micca appruvati è u totale hè u numeru chì sopravvive à a traduzzione da una squadra di sicurezza à un audit. committee, è si move quandu fate veramente qualcosa.
Chì deve copre una strategia di IA agentiva?
Trè strati. L'errore chì guasi tutti facenu hè di principià da u primu è di piantà quì.
- Primu livellu: ciò chì l'agente scrive. U codice generatu porta e stesse classi di vulnerabilità cum'è u codice umanu, è a ricerca chì data di u 2022 hà trovu constantemente chì una parte sustanziale di i prugrammi generati da l'IA cuntene difetti di sicurezza. Stu stratu hè u più familiare, chì hè esattamente perchè assorbe tutta l'attenzione.
- Livellu dui: ciò à chì l'agente hè cablatu. Schedarii di cumpetenze, schedarii di regule, cunfigurazioni di u servitore MCP, scopi di strumenti, a credenziale sottu à quale l'agente funziona. Questu hè u stratu chì determina quantu luntanu viaghja un attaccu riesciutu, è hè invisibile à tuttu ciò chì prova u mudellu attraversu u so endpoint. MITRE ATLAS cataloga stu terrenu direttamente: u studiu di casu Rules File Backdoor, AML.CS0041, descrive caratteri di larghezza zero in un schedariu di regule chì trasformanu a documentazione in istruzioni chì un agente obbedisce in silenziu. Un revisore chì legge u pull request ùn vede nunda.
- Stratu trè: ciò chì l'agente tira in entrata. Dipendenze, mudelli, insemi di dati, strumenti esterni. A ricerca presentata à USENIX Security in u 2025 hà generatu 2.23 milioni di esempi di codice in 16 mudelli è hà trovu chì u 19.7% di i pacchetti raccomandati ùn esistevanu micca, producendu più di 205,000 nomi allucinati unichi. L'attaccanti ùn anu più bisognu di compromettere un mantenitore. Registranu u nome chì u vostru agente hà inventatu è aspettanu.
Una strategia d'IA agentiva chì copre solu u primu livellu produce un rapportu pulitu è un prufilu di risicu d'IA invariatu. U OWASP Top 10 per l'applicazioni LLM riflette questu in a so propria struttura: l'agenzia eccessiva si trova in cima à a lista primacissolu perchè hè un prublema di cablaggio, micca un prublema di mudellu.
Cumu implementate questu senza rallentà l'agenti?
L'istintu hè di cuntrullà tuttu. Fallisce perchè u scopu principale di l'agente hè u rendimentu, è un cuntrollu chì dimezza u rendimentu hè eliminatu in un quartu.
Trè principii d'implementazione chì si mantenenu validi:
- Misurate continuamente, accendere selettivamente. Tutte e nove metriche di risicu di l'IA ponu esse raccolte in ogni scansione senza bluccà nunda. Riservate porte dure per u picculu inseme induve u fallimentu hè irrecuperabile: una dipendenza maligna, un sicretu in diretta, un mudellu micca appruvatu chì gestisce dati regulati.
- Mette a sicurità induve l'agente hè digià. Un agente cunnessu via MCP chjama a piattaforma di sicurezza mentre genera, scansiona ciò chì hà appena scrittu, è itera nantu à e correzioni finu à chì u codice scontra i vostri limiti. Nisun umanu in u ciclu in quella fase, è nunda da installà induve l'agente funziona. Questu hè l'unicu puntu d'intervenzione chì si adatta à u rendimentu di l'agente piuttostu chè contru à ellu.
- Mantene l'umanu à u pull request. Per tuttu ciò chì ghjunghje à u codice di pruduzzione, una persona appruva. Questu ùn hè micca prudenza, hè a pusizione di cuncepimentu versu a quale a Legge Europea nantu à l'IA vi spinge in ogni modu, è hè assai più economicu d'incustruisce avà chè di ristrutturà sottu pressione di audit. Hè ancu a metrica 09, hè per quessa chì vale a pena seguità sta metrica da u primu ghjornu.
| Annunzio | Owner | Rapporti per |
|---|---|---|
| Ciò chì scrive l'agente | Responsabile di AppSec | CISO, mensilmente |
| Ciò chì l'agente hè cunnessu | Responsabile di piattaforma o DevOps | CISO, cuntinuamente |
| Ciò chì l'agente tira in | Responsabile di AppSec | CISO, cuntinuamente |
| A postura di risicu di l'IA riportata | CISO ufficiu | Cunsigliu d'amministrazione o audit committee, trimestrale |
A fila chì ùn hè micca assignata in a maiò parte di l'urganisazioni hè a seconda. I fugliali di cunfigurazione si trovanu trà a sicurità di l'applicazione, chì li tratta cum'è infrastruttura, è l'ingegneria di a piattaforma, chì li tratta cum'è documentazione. Hè in questa lacuna chì si verificanu l'attacchi interessanti.
Cumu cuminciate à misurà u risicu di l'IA stu trimestre?
Ùn custruite micca u prugramma cumpletu. Pruduce trè numeri. Cuntate i vostri beni di l'IA. Cuntate quanti nimu hà appruvatu. Cuntate quanti sicreti sò in i fugliali di cunfigurazione di l'IA. Quessi trè stanu nantu à una diapositiva; sò tutti difendibili, è saranu peghju di ciò chì quellu chì li hà dumandati s'aspetta.
Dopu sceglite quellu chì hè u peghju è riparatelu prima di a prossima riunione di u cunsigliu d'amministrazione. Què hè un prugramma di risicu di l'IA funziunale. Tuttu u restu hè elaborazione.
L'urganisazioni chì si batteranu cù u risicu di l'IA in u 2027 ùn sò micca quelle chì si sò mosse prestu. Sò quelle chì anu passatu u 2026 à scrive pulitiche di l'IA è ùn anu mai cuntatu nunda. Una pulitica chì nimu ùn pò misurà hè un documentu. E metriche di risicu di l'IA sò ciò chì a trasformanu in un cuntrollu.
Vede i vostri numeri. Cunnette un repositoriu è Xygeni restituisce u vostru inventariu AI, l'assi micca appruvati, i risichi mappati à i quadri chì i vostri auditori utilizanu è un AI-BOM chì pudete esportà. Cumincià gratis or libru una demo.
FAQ
Chì ghjè a differenza trà u risicu di l'IA è a sicurità di l'IA ?
A sicurità di l'IA riguarda soprattuttu ciò chì face un mudellu: s'ellu si cumporta cum'è previstu, s'ellu i so risultati sò dannosi, s'ellu pò esse manipulatu in qualcosa chì deve rifiutà. U risicu di l'IA, in un cuntestu di sicurità, riguarda ciò chì un sistema di IA cumprumessu o chì si cumporta male pò ghjunghje in u vostru ambiente. I dui si sovrapponenu, ma sò pusseduti da squadre diverse è misurati cù strumenti diversi. Una squadra di sicurità pò agisce oghje nantu à u secondu.
Quante metriche di risicu di l'IA duvemu signalà à u cunsigliu d'amministrazione ?
Da trè à cinque. Un tavulinu ùn pò micca agisce nantu à nove numeri, è un mazzu cù nove tende à piattà quellu chì importa. Riportate u vostru numeru tutale di risorse IA, a percentuale micca appruvata è una metrica di esposizione cum'è i risultati IA raggiungibili in sviluppu attivu. Mantene u restu per a revisione operativa.
Avemu bisognu di un AI-BOM se nisuna regulazione ùn ne richiede ancu unu?
Nisuna regulazione ùn impone un AI-BOM à u mumentu, chì hè esattamente a ragione per chì generà unu hè economicu avà è caru dopu. Oghje esistenu dui furmati leggibili da a macchina, è un auditore accetterà entrambi. U valore ùn hè micca a cunfurmità; hè chì a pruduzzione di u schedariu vi forza à avè l'inventariu, è l'inventariu hè ciò da chì dipende ogni metrica di risicu AI.
I nostri sviluppatori utilizanu strumenti di IA chì ùn avemu mai appruvatu. Induve cuminciamu ?
Cuntà prima di fà a pulizza. Annuncià una pulitica contr'à l'arnesi chì ùn pudete micca vede porta l'usu clandestinu è distrugge a visibilità chì avete bisognu. Eseguite prima a scuperta, publicate u numeru internamente senza attribuzione, è adupratelu per accordà una lista appruvata chì riflette ciò chì a ghjente hà veramente bisognu. L'applicazione hè assai megliu quandu seguita l'evidenza chè quandu a precede.







