Een medewerker van de financiële afdeling van het ingenieursbureau Arup nam deel aan een videogesprek. Met een aantal collega's, waaronder de CFO van het bedrijf. Elk van hen was een door AI gegenereerde deepfake. Het gesprek eindigde met de overmaking van 25 miljoen dollar naar de aanvallers. Geen malware, geen phishinglink, geen misbruik van een beveiligingslek: alleen AI, overtuigend genoeg gebruikt zodat vertrouwen de rest deed. Dat ene incident illustreert waarom AI in cybersecurity hét toonaangevende onderwerp in het vakgebied is geworden. Dezelfde technologie die gebruikt werd voor die deepfake, wordt elders in de sector ingezet om de anomalie te detecteren die het had kunnen voorkomen. Deze gids over AI-beveiliging behandelt beide kanten: hoe AI aanvalt, hoe AI zich verdedigt en wat dat betekent voor waar beveiligingsteams zich in de toekomst op moeten richten.
AI in cyberbeveiliging, in één alinea.
AI in cybersecurity verwijst naar het gebruik van machine learning, natuurlijke taalverwerking en grote taalmodellen aan beide kanten van dezelfde strijd: om aanvallen uit te voeren en om ze te detecteren en te stoppen. Aanvallers gebruiken AI om overtuigende phishingcontent te genereren, stemmen en gezichten te klonen en systemen sneller te testen dan een menselijk team dat zou kunnen. Verdedigers gebruiken dezelfde onderliggende technieken (patroonherkenning in enorme hoeveelheden data, natuurlijke taalverwerking, gedragsmodellering) om afwijkingen te detecteren, ruis in waarschuwingen te filteren en te reageren voordat de schade zich verder ontwikkelt. Het resultaat is een technologie met een dubbele toepassing binnen één enkele sector, en daarom is AI in cybersecurity geen categorie met een duidelijke "goede" en "slechte" kant. Het is een mogelijkheid, en wie het sneller en beter kan toepassen...cisEly heeft momenteel het voordeel.
AI als aanvalsvector
- Door AI gegenereerde phishing op industriële schaal. Phishing was vroeger te herkennen aan kenmerken zoals onhandige formuleringen, generieke begroetingen en overduidelijk vervalste domeinnamen. Kunstmatige intelligentie heeft de meeste van die kenmerken weggenomen. Volgens Hoxhunt's Phishingtrendsrapport 2026Het aandeel door AI gegenereerde phishingpogingen steeg van 4% in november 2025 naar 56% in december 2025, een veertienvoudige toename in één maand, en is tot medio 2026 rond de 40% van alle gemelde phishingpogingen gebleven. Het verschil in effectiviteit is al even groot: onderzoek met menselijke proefpersonen door onderzoekers van de Harvard Kennedy School Uit onderzoek bleek dat volledig door AI geautomatiseerde spear-phishing-e-mails een doorklikpercentage van 54% behaalden, vergelijkbaar met dat van ervaren menselijke experts en veel hoger dan het doorklikpercentage van 12% van de generieke phishing-e-mails van de controlegroep. AI schrijft niet alleen meer phishing-e-mails, maar ook e-mails die werken.
- Deepfakes die zich richten op vertrouwen, niet op infrastructuur. De Arup-zaak Bovenstaande is geen uitzondering meer; het is een sjabloon. Door AI gegenereerde stem en video zijn overtuigend genoeg om door te gaan voor een echte leidinggevende tijdens een live videogesprek, waardoor social engineering verandert van "iemand verleiden om te klikken" naar "iemand laten geloven dat hij of zij naar de CFO kijkt". Dat is een fundamenteel lastiger probleem om op te lossen met trainingen in beveiligingsbewustzijn, omdat de misleiding plaatsvindt op perceptueel niveau, niet op technisch niveau.
- Snellere verkenning en adaptieve malware. Naast social engineering verkort AI de afstand tussen "aanvaller heeft een idee" en "aanvaller heeft een werkende exploit". Grote taalmodellen kunnen het onderzoek naar kwetsbaarheden in de publiekelijk toegankelijke code en infrastructuur van een doelwit versnellen, en adaptieve malware kan zijn eigen gedrag tijdens de uitvoering aanpassen als het detecteert dat het in een sandbox wordt geanalyseerd. Deze mogelijkheid vereiste voorheen een ervaren menselijke operator die in realtime meekeek.
- Aanvallen op inloggegevens met machinesnelheid. Door gelekte inloggegevens in een model te stoppen dat de patronen leert die mensen daadwerkelijk gebruiken wanneer ze denken dat ze "slim" zijn met een wachtwoord, verandert het gokken en controleren in iets dat meer op voorspellingen lijkt. In combinatie met geautomatiseerde credential stuffing comprimeert dit wat voorheen een trage, lawaaierige aanval was, tot iets snels en stils.
AI als verdedigingsmiddel
- Anomaliedetectie op een schaal die mensen niet kunnen evenaren. De belangrijkste defensieve waarde van AI ligt in het verwerken van grote hoeveelheden netwerkverkeer. login Activiteit en systeemlogboeken die geen enkel analyseteam handmatig zou kunnen controleren, worden geanalyseerd en afwijkingen van een vastgestelde basislijn worden gemarkeerd. Dit is wat aanvallen detecteert waarvoor nog geen bekende signatuur bestaat, waaronder zero-day-aanvallen en misbruik door interne medewerkers die geen waarschuwing op basis van regels zouden activeren.
- De wachtrij met meldingen wordt doorkruist, in plaats van er nieuwe aan toe te voegen. Dit is tevens waar AI in cybersecurity de meest directe operationele voordelen oplevert, en waar de sector nog veel werk te verzetten heeft. Het onderzoek van Vectra AI naar 2026 Uit onderzoek bleek dat organisaties gemiddeld 2,992 beveiligingswaarschuwingen per dag ontvangen, waarvan 63% niet wordt onderzocht. Microsoft en Omdia's Stand van zaken bij het SOC: Nu verenigen of later de gevolgen ondervinden verslag Uit onderzoek is gebleken dat 46% van alle meldingen vals positief zijn en 42% helemaal niet wordt onderzocht. Door AI gestuurde triage voegt niet zomaar een extra detector toe aan die stapel. Goed uitgevoerd, correleert het gerelateerde meldingen tot één incident, beoordeelt het wat daadwerkelijk de aandacht van een mens verdient en stelt het analisten in staat hun tijd te besteden aan het deel van de meldingen dat een reëel risico vormt, in plaats van de rest handmatig af te sluiten.
- Malware en gedragsclassificatie die verder gaat dan bekende signaturen. Dezelfde gedragsanalysemethode die afwijkende netwerkactiviteit signaleert, werkt ook op bestanden en pakketten: in plaats van te vergelijken met een lijst van bekende schadelijke signaturen, kan AI het installatiegedrag, ongebruikelijke systeemoproepen en obfuscatiepatronen beoordelen om malware te detecteren die nog nooit eerder is gezien, op het moment dat deze verschijnt in plaats van nadat er een fingerprint van is gemaakt.
- Geautomatiseerd, afgebakend antwoord. Detectie zonder actie zorgt er alleen maar voor dat de klok langer meegaat. Een door AI aangestuurde respons kan een getroffen apparaat isoleren, verdacht verkeer blokkeren en automatisch inperking starten, waardoor de tijd tussen "we hebben het gezien" en "we hebben het gestopt" in de meest cruciale gevallen wordt verkort van uren naar seconden.
Waarom werken dezelfde technieken in beide richtingen?
De ongemakkelijke waarheid in deze handleiding over AI-beveiliging is dat aanvallers en verdedigers vaak dezelfde onderliggende mogelijkheden gebruiken voor tegengestelde doelen. De technologie voor het modelleren van natuurlijke taal die een overtuigende phishing-e-mail schrijft, is dezelfde technologie die een verdachte e-mail leest en deze correct als zodanig classificeert. De patroonherkenning waarmee malware zich kan aanpassen om een sandbox te omzeilen, is qua architectuur vergelijkbaar met de patroonherkenning die het gedrag van de malware in eerste instantie als afwijkend markeert. Geen van beide partijen heeft een monopolie op de technologie, wat betekent dat het voordeel ligt bij degene die de technologie het meest volledig in zijn of haar workflow integreert, en niet bij degene die toegang heeft tot een geavanceerder model.
Die symmetrie is ook de reden waarom AI in cybersecurity eigen risico's met zich meebrengt aan de defensieve kant. AI-systemen kunnen valse positieven genereren die echte signalen in ruis verbergen als ze slecht zijn afgesteld, vooroordelen erven door onvolledige trainingsdata en daardoor hele categorieën bedreigingen missen, en kunnen zelf het doelwit worden van aanvallende technieken, waarbij een aanvaller opzettelijk misleidende data aan een detectiemodel voedt om te manipuleren wat het model signaleert. Dat is geen reden om AI defensief te vermijden. Het is juist een reden om een mens betrokken te houden bij het nemen van beslissingen, en om het AI-systeem zelf te beschouwen als iets dat gemonitord moet worden, niet als iets dat je eenmalig implementeert en voor onbepaalde tijd vertrouwt.
Wat deze handleiding voor AI-beveiliging betekent voor uw team.
Vijf stappen onderscheiden teams die daadwerkelijk waarde halen uit AI in cybersecurity van teams die gewoon een nieuwe tool hebben toegevoegd:
- Wacht niet tot aanvallen met behulp van AI de overhand krijgen voordat u in uw verdediging investeert. De bovenstaande phishinggegevens laten zien hoe snel een tactiek die aanvankelijk door een minderheid werd gebruikt, de dominante kan worden. Bouw detectiecapaciteit op vóór de piek, niet tijdens de piek.
- Richt de AI eerst op uw wachtrij voor prioriteitsbehandeling, niet alleen op uw perimeter. De snelste en meest meetbare winst voor de meeste teams is het verminderen van het aantal valse positieven dat een analist handmatig moet corrigeren, en niet het toevoegen van een nieuwe detectielaag.
- Beschouw het risico van deepfakes en stemklonen als een procesprobleem, niet als een technologieprobleem. Geen enkele detectietool dicht de kloof die Arup niet volledig dicht. Externe verificatie is nodig voor elk verzoek waarbij geld wordt overgemaakt of inloggegevens worden gewijzigd.
- Pas hetzelfde AI-gestuurde gedragsdenken toe op code en pipelines, niet alleen netwerkverkeer. Aanvallers richten zich steeds vaker rechtstreeks op de softwareleveringsketen (malafide pakketten, verzonnen afhankelijkheden, niet-gecontroleerde agentinstructies), een risicocategorie met een eigen dynamiek, die uitgebreid wordt behandeld in onze handleiding over AI-beveiliging in de toeleveringsketen.
- Zorg ervoor dat een mens verantwoording aflegt voor de beslissingen van de AI. Geautomatiseerde reacties zijn waardevol juist omdat ze snel zijn, en daarom is een duidelijke escalatieprocedure nodig voor het geval er iets misgaat.
Waar AI in cybersecurity naartoe gaat
Twee verschuivingen zullen de komende jaren bepalen. Ten eerste concentreren aanvallers zich op minder, maar overtuigendere tactieken in plaats van meer grove: door AI gegenereerde phishing en deepfakes bieden geen breder net, maar een scherpere haak. Ten tweede verschuift de verdediging van "detecteren en een mens waarschuwen" naar "detecteren, beoordelen en actie ondernemen voordat er een melding wordt gemaakt". Dit is precies de verschuiving die de kloof dicht tussen de 2,992 dagelijkse meldingen waarmee de meeste SOC's te maken krijgen en het percentage daarvan dat daadwerkelijk wordt onderzocht. De organisaties die vooroplopen, zijn degenen die deze verschuiving overal toepassen waar AI al een rol speelt in hun omgeving, inclusief de code die hun ontwikkelaars leveren, en niet alleen het verkeer dat hun netwerkperimeter passeert.
Xygeni's visie: AI-beveiliging moet de code omvatten, niet alleen de inbox.
De meeste berichtgeving over AI in cybersecurity beperkt zich tot het SOC: phishing, malware en netwerkanomalieën. Dat is noodzakelijk, maar ook onvolledig, omdat een groeiend deel van de door AI veroorzaakte risico's zich nu in de softwareontwikkelingscyclus zelf bevindt, waar de tools van het SOC niet naar kijken.
Xygeni's CoreAI past dezelfde gedragsmatige, op afwijkingen gebaseerde denkwijze toe die in deze handleiding wordt beschreven, specifiek voor applicatiebeveiliging: het correleren van bevindingen van uw bestaande scanners (niet alleen Xygeni's eigen), beoordelen wat daadwerkelijk exploiteerbaar is in plaats van teams te overspoelen met een enorme hoeveelheid waarschuwingen, uitleggen waarom een bepaald risico belangrijk is en een oplossing voorstellen. pull request in plaats van nog een achterstallig ticket. DevAI Dezezelfde defensieve houding wordt doorgetrokken naar het nieuwste deel van het aanvalsoppervlak: AI-programmeeragenten en -assistenten, het valideren van vaardigheidsbestanden en agentinstructies, en het blokkeren van een kwaadaardige installatie voordat een agent er actie op kan ondernemen. Het doel is hetzelfde als waarvoor deze handleiding pleit op SOC-niveau, maar dan toegepast op de pipeline: Verander het voordeel van AI op het gebied van volume en snelheid in een voordeel voor de verdediger in plaats van voor de aanvaller.
Begin gratis. Sign up with GitHubMeld je aan bij GitLab of Google en krijg inzicht in maximaal 25 repositories en 50 AI-scans per maand, geheel gratis en zonder creditcard.
FAQ
Wat is AI in de cybersecurity?
AI in cybersecurity is het gebruik van machine learning, natuurlijke taalverwerking en grote taalmodellen aan zowel de aanvallende als de verdedigende kant van de beveiliging. Aanvallers gebruiken het om overtuigende phishingcontent, deepfakes en adaptieve malware te genereren; verdedigers gebruiken dezelfde onderliggende technieken voor anomaliedetectie, het prioriteren van waarschuwingen en geautomatiseerde respons.
Is AI gevaarlijker als aanvalswapen of nuttiger als verdedigingswapen?
Geen van beide partijen heeft een duurzaam voordeel, omdat beide op dezelfde onderliggende capaciteiten zijn gebouwd. De organisaties die het grootste risico lopen, zijn de organisaties die AI nog niet defensief hebben ingezet in hetzelfde tempo als aanvallers dat offensief hebben gedaan, en niet de organisaties die geconfronteerd worden met een technologische achterstand die ze niet kunnen inhalen.
Kan AI menselijke analisten in een SOC volledig vervangen?
Nee, en de risico's van een poging daartoe (valse positieven door slecht afgestelde modellen, vertekening door onvolledige trainingsgegevens en manipulatie van het detectiesysteem zelf) zijn precies de reden waarom menselijk toezicht noodzakelijk blijft. De werkelijke waarde van AI ligt in het wegwerken van de wachtrij, zodat analisten zich kunnen concentreren op de beoordelingen die nog steeds een mens vereisen.
Hoe verschilt het risico van AI-gestuurde aanvallen specifiek voor softwareontwikkelingsteams?
Naast phishing en deepfakes worden ontwikkelteams geconfronteerd met AI-specifieke risico's binnen de organisatie. SDLC Het gaat hierbij om AI-codeagenten die verzonnen of kwaadaardige afhankelijkheden installeren, niet-gecontroleerde agentinstructies in vaardigheidsbestanden en door AI gegenereerde code die hardgecodeerde geheimen reproduceert. Deze kant van AI in cybersecurity wordt uitgebreider behandeld in ons artikel. Handleiding voor AI-beveiliging in de toeleveringsketen.
