Un impiegato del settore finanziario presso una società di ingegneria. Arup ha partecipato a una videochiamata con diversi colleghi, incluso il direttore finanziario dell'azienda. Ognuno di loro era un deepfake generato dall'intelligenza artificiale. La chiamata si è conclusa con il trasferimento di 25 milioni di dollari agli aggressori. Nessun malware, nessun link di phishing, nessuna vulnerabilità sfruttata: solo intelligenza artificiale, utilizzata in modo così convincente da generare fiducia. Questo singolo episodio illustra perché l'IA nella sicurezza informatica sia diventata l'argomento centrale del settore. La stessa tecnologia utilizzata per creare quel deepfake viene ora impiegata, in altri ambiti del settore, per individuare l'anomalia che avrebbe potuto bloccarlo. Questa guida alla sicurezza basata sull'IA affronta entrambi gli aspetti: come l'IA attacca, come si difende e cosa questo significhi per le future aree di intervento dei team di sicurezza.
L'intelligenza artificiale nella sicurezza informatica, in un paragrafo
L'intelligenza artificiale nella sicurezza informatica si riferisce all'utilizzo dell'apprendimento automatico, dell'elaborazione del linguaggio naturale e di modelli linguistici complessi su entrambi i fronti della stessa battaglia: lanciare attacchi e individuarli e bloccarli. Gli aggressori utilizzano l'IA per generare contenuti di phishing convincenti, clonare voci e volti e sondare i sistemi più velocemente di quanto potrebbe fare un team umano. I difensori utilizzano le stesse tecniche di base (riconoscimento di modelli in enormi volumi di dati, comprensione del linguaggio naturale, modellazione comportamentale) per individuare anomalie, filtrare il rumore degli avvisi e rispondere prima che il danno si aggravi. Il risultato è una tecnologia a duplice uso all'interno di un unico settore, ed è per questo che l'IA nella sicurezza informatica non è una categoria con un lato "buono" e uno "cattivo" ben definiti. È una capacità, e chiunque la applichi più velocemente e in modo più efficace...cisEly al momento ha il vantaggio.
L'intelligenza artificiale come vettore di attacco
- Phishing generato dall'intelligenza artificiale su scala industriale. Il phishing era un tempo riconoscibile dai suoi segnali: frasi goffe, saluti generici, domini palesemente contraffatti. L'intelligenza artificiale ha eliminato la maggior parte di questi segnali. Secondo Di Hoxhunt Rapporto sulle tendenze del phishing nel 2026Il phishing generato dall'IA è balzato dal 4% di tutti i tentativi di phishing segnalati nel novembre 2025 al 56% nel dicembre 2025, un aumento di 14 volte in un solo mese, e si è mantenuto intorno al 40% di tutti i tentativi di phishing segnalati fino a metà del 2026. Il divario di efficacia è altrettanto netto: Studio su soggetti umani condotto da ricercatori della Harvard Kennedy School È stato scoperto che le email di spear phishing completamente automatizzate dall'IA hanno raggiunto un tasso di clic del 54%, eguagliando esperti umani qualificati e superando di gran lunga il tasso di clic del 12% delle email di phishing generiche del gruppo di controllo. L'IA non si limita a scrivere più email di phishing, ma ne scrive di efficaci.
- Deepfake che prendono di mira la fiducia, non le infrastrutture. Migliori Caso Arup Quanto descritto sopra non è più un caso isolato, ma un modello consolidato. Voci e video generati dall'IA sono talmente convincenti da sembrare la voce di un vero dirigente durante una chiamata dal vivo, trasformando l'ingegneria sociale da "ingannare qualcuno per farlo cliccare" a "ingannare qualcuno facendogli credere di trovarsi di fronte al proprio direttore finanziario". Questo rappresenta un problema fondamentalmente più complesso da risolvere per la formazione sulla sicurezza informatica, perché l'inganno avviene a livello percettivo, non tecnico.
- Ricognizione più rapida e malware adattivo. Oltre all'ingegneria sociale, l'IA riduce la distanza tra "l'attaccante ha un'idea" e "l'attaccante ha un exploit funzionante". I modelli linguistici di grandi dimensioni possono accelerare la ricerca di vulnerabilità nel codice e nell'infrastruttura esposti pubblicamente a un obiettivo, e i malware adattivi possono modificare il proprio comportamento durante l'esecuzione se rilevano di essere analizzati in una sandbox, una capacità che in passato richiedeva un operatore umano qualificato che monitorasse in tempo reale.
- Attacchi alle credenziali alla velocità della macchina. Inserire in un modello set di credenziali trapelate per apprendere gli schemi che le persone effettivamente utilizzano quando pensano di essere "furbe" con una password trasforma il metodo per tentativi ed errori in qualcosa di più simile alla previsione. In combinazione con il credential stuffing automatizzato, questo comprime quello che un tempo era un attacco lento e rumoroso in qualcosa di rapido e silenzioso.
L'intelligenza artificiale come strumento di difesa
- Rilevamento di anomalie su una scala irraggiungibile per gli esseri umani. Il valore difensivo fondamentale dell'IA è l'elaborazione di volumi di traffico di rete, login attività e registri di sistema che nessun team di analisti potrebbe esaminare manualmente, segnalando ciò che si discosta da una linea di base prestabilita. È questo che permette di intercettare attacchi senza una firma nota, inclusi gli attacchi zero-day e gli abusi da parte di dipendenti interni che non farebbero scattare un allarme basato su regole.
- Eliminare gli avvisi in coda, anziché aggiungerne di nuovi. È proprio in questo ambito che l'intelligenza artificiale applicata alla sicurezza informatica offre i risultati operativi più immediati, ma è anche dove il settore ha ancora molto lavoro da fare. Ricerca di Vectra AI per il 2026 hanno scoperto che le organizzazioni ricevono in media 2,992 avvisi di sicurezza al giorno, di cui il 63% non viene esaminato e Microsoft e Omdia Stato del SOC: Unificarsi ora o pagare dopo rapporto È emerso che il 46% di tutti gli avvisi si rivela essere un falso positivo e il 42% non viene affatto esaminato. Il triage basato sull'intelligenza artificiale non si limita ad aggiungere un altro strumento di rilevamento a questo problema. Se implementato correttamente, correla gli avvisi correlati in un unico incidente, valuta ciò che merita effettivamente l'attenzione umana e consente agli analisti di dedicare il proprio tempo alla frazione di avvisi che rappresentano un rischio reale, anziché chiudere manualmente gli altri.
- Classificazione di malware e comportamenti al di là delle firme note. Lo stesso approccio di analisi comportamentale che segnala attività di rete anomale funziona anche su file e pacchetti: invece di confrontarli con un elenco di firme dannose note, l'IA può valutare il comportamento in fase di installazione, le chiamate di sistema insolite e gli schemi di offuscamento per individuare malware mai visti prima, nel momento stesso in cui compaiono, anziché dopo che sono stati identificati.
- Risposta automatizzata e circoscritta. Il rilevamento senza intervento non fa altro che far scorrere il tempo. La risposta basata sull'intelligenza artificiale può isolare un dispositivo infetto, bloccare il traffico sospetto e avviare automaticamente il contenimento, riducendo il divario tra "l'abbiamo rilevato" e "l'abbiamo bloccato" da ore a secondi nei casi più importanti.
Perché le stesse tecniche possono avere effetti contrastanti?
La scomoda verità di questa guida alla sicurezza basata sull'IA è che attaccanti e difensori utilizzano spesso la stessa capacità di base per scopi opposti. La modellazione del linguaggio naturale che scrive un'email di phishing convincente è la stessa tecnologia che legge un'email sospetta e la classifica correttamente come tale. Il riconoscimento di pattern che permette al malware di adattarsi per eludere una sandbox è architettonicamente simile al riconoscimento di pattern che segnala il comportamento del malware come anomalo. Nessuna delle due parti detiene il monopolio della tecnologia, il che significa che il vantaggio va a chi la integra più completamente nel proprio flusso di lavoro, non a chi ha accesso a un modello più avanzato.
Questa simmetria è anche il motivo per cui l'IA nella sicurezza informatica introduce i propri rischi sul fronte difensivo. I sistemi di IA possono generare falsi positivi che seppelliscono segnali reali nel rumore se non sono ben calibrati, ereditare pregiudizi da dati di addestramento incompleti e di conseguenza non rilevare intere classi di minacce, e possono essere essi stessi presi di mira tramite tecniche avversarie, in cui un attaccante alimenta deliberatamente un modello di rilevamento con dati fuorvianti per manipolare ciò che viene segnalato. Nessuno di questi motivi è una ragione per evitare l'IA in ambito difensivo. È un motivo per mantenere un essere umano nel processo decisionale e per trattare il sistema di IA stesso come qualcosa che necessita di monitoraggio, non come qualcosa da implementare una volta e di cui fidarsi indefinitamente.
Cosa significa questa guida alla sicurezza dell'IA per il tuo team
Cinque elementi distinguono i team che stanno ottenendo un reale vantaggio dall'IA nella sicurezza informatica da quelli che si sono limitati ad aggiungere un altro strumento:
- Non aspettate che gli attacchi "basati sull'intelligenza artificiale" diventino la maggioranza prima di investire in misure difensive. I dati sul phishing riportati sopra dimostrano quanto velocemente una tattica minoritaria possa diventare dominante. È fondamentale sviluppare capacità di rilevamento prima dell'ondata di attacchi, non durante.
- Orientate l'intelligenza artificiale prima di tutto verso la coda di triage, non solo verso il perimetro. Il vantaggio più rapido e tangibile per la maggior parte dei team è ridurre il numero di falsi positivi che un analista deve eliminare manualmente, non aggiungere un nuovo livello di rilevamento.
- Considerate il rischio legato ai deepfake e alla clonazione vocale come un problema di processo, non di tecnologia. Nessuno strumento di rilevamento colma completamente il divario in stile Arup. Verifica fuori banda per qualsiasi richiesta che comporti movimenti di denaro o modifiche delle credenziali.
- Estendi lo stesso pensiero comportamentale guidato dall'IA al codice e pipelinenon solo il traffico di rete. Gli aggressori prendono sempre più di mira direttamente la catena di fornitura del software (pacchetti dannosi, dipendenze inesistenti, istruzioni degli agenti non verificate), una categoria di rischio con dinamiche proprie, trattate in dettaglio nella nostra guida alla sicurezza della catena di fornitura dell'IA.
- Bisogna che un essere umano sia responsabile delle decisioni prese dall'IA. La risposta automatizzata è preziosa proprio perché è veloce, ed è anche per questo che necessita di un chiaro percorso di escalation in caso di errore.
Verso dove si sta dirigendo l'intelligenza artificiale nella sicurezza informatica.
Due cambiamenti definiranno i prossimi anni. In primo luogo, gli attaccanti si stanno concentrando su un numero minore di tattiche più convincenti, anziché su un numero maggiore di tattiche rozze: il phishing e i deepfake generati dall'IA non rappresentano una rete più ampia, ma un amo più affilato. In secondo luogo, i difensori si stanno spostando dal "rilevare e avvisare un essere umano" al "rilevare, valutare e intervenire prima che venga aperto un ticket", ovvero il cambiamento che colma il divario tra i 2,992 avvisi giornalieri che la maggior parte dei SOC riceve e la frazione di questi che viene effettivamente analizzata. Le organizzazioni che stanno prendendo il sopravvento sono quelle che applicano questo cambiamento ovunque l'IA sia già presente nel loro ambiente, incluso il codice distribuito dai loro sviluppatori, non solo il traffico che attraversa il perimetro della loro rete.
Il punto di vista di Xygeni: la sicurezza dell'IA deve riguardare il codice, non solo la posta in arrivo.
La maggior parte delle analisi sull'IA nella sicurezza informatica si ferma al SOC (Security Operations Center): phishing, malware, anomalie di rete. Questo è necessario, ma anche incompleto, perché una quota crescente di rischi legati all'IA risiede ormai all'interno del ciclo di vita dello sviluppo del software stesso, un ambito che gli strumenti del SOC non prendono in considerazione.
Quello di Xygeni CoreAI applica lo stesso pensiero comportamentale basato sulle anomalie descritto in questa guida alla sicurezza delle applicazioni in particolare: correlando i risultati tra i tuoi scanner esistenti (non solo Quello di Xygeni proprio), valutando ciò che è effettivamente sfruttabile invece di inondare i team con un volume di avvisi grezzo, spiegando perché un determinato rischio è importante e generando una soluzione pull request invece di un altro ticket arretrato. DeviAI estende la stessa postura difensiva alla parte più recente della superficie di attacco: agenti e assistenti di programmazione AI, convalida dei file delle competenze e delle istruzioni degli agenti e blocco di un'installazione dannosa prima che un agente possa agire su di essa. L'obiettivo è lo stesso che questa guida sostiene a livello SOC, applicato al pipelineTrasformare il vantaggio dell'IA in termini di volume e velocità in un vantaggio per il difensore anziché per l'attaccante.
Inizia gratuitamente. Sign up with GitHubAccedi a GitLab o Google e ottieni visibilità su un massimo di 25 repository e 50 scansioni AI al mese, senza costi aggiuntivi e senza bisogno di carta di credito.
FAQ
Che cos'è l'intelligenza artificiale nella sicurezza informatica?
L'intelligenza artificiale nella sicurezza informatica consiste nell'utilizzo di apprendimento automatico, elaborazione del linguaggio naturale e modelli linguistici complessi sia in fase di attacco che di difesa. Gli aggressori la utilizzano per generare contenuti di phishing convincenti, deepfake e malware adattivi; i difensori impiegano le stesse tecniche di base per il rilevamento delle anomalie, la gestione degli avvisi e la risposta automatizzata.
L'intelligenza artificiale è più pericolosa come strumento di attacco o più utile come strumento di difesa?
Nessuna delle due parti gode di un vantaggio duraturo perché entrambe si basano sulla stessa capacità di fondo. Le organizzazioni maggiormente a rischio sono quelle che non hanno ancora applicato l'IA a scopo difensivo con la stessa rapidità con cui gli aggressori l'hanno applicata a scopo offensivo, non quelle che si trovano ad affrontare un divario tecnologico che non riescono a colmare.
L'intelligenza artificiale può sostituire completamente gli analisti umani in un SOC?
No, e i rischi di tentare di farlo (falsi positivi da modelli mal calibrati, distorsioni dovute a dati di addestramento incompleti e manipolazione avversaria del sistema di rilevamento stesso) sono esattamente il motivo per cui la supervisione umana rimane necessaria. Il vero valore dell'IA sta nello snellire la coda di lavoro, in modo che gli analisti possano concentrarsi sulle decisioni che richiedono ancora l'intervento umano.
In che modo il rischio di attacchi basati sull'intelligenza artificiale si differenzia specificamente per i team di sviluppo software?
Oltre al phishing e ai deepfake, i team di sviluppo si trovano ad affrontare rischi specifici dell'IA all'interno dell' SDLC stesso: agenti di programmazione IA che installano dipendenze allucinatorie o dannose, istruzioni dell'agente non revisionate nei file delle competenze e codice generato dall'IA che riproduce segreti hardcoded. Questo aspetto dell'IA nella sicurezza informatica è trattato in modo più approfondito nel nostro Guida alla sicurezza della catena di approvvigionamento basata sull'intelligenza artificiale.
