En økonomimedarbejder i et ingeniørfirma Arup deltog i et videoopkald med adskillige kolleger, herunder virksomhedens CFO. Hver og en af dem var en AI-genereret deepfake. Opkaldet endte med, at 25 millioner dollars blev overført til angriberne. Ingen malware, intet phishing-link, ingen udnyttet sårbarhed: bare AI, brugt overbevisende nok til, at tillid gjorde resten. Denne ene hændelse indfanger, hvorfor AI inden for cybersikkerhed er blevet det definerende emne inden for feltet. Den samme teknologi, der blev bygget på denne deepfake, opdager andre steder i branchen den anomali, der ville have stoppet den. Denne AI-sikkerhedsguide dækker begge sider: hvordan AI angriber, hvordan AI forsvarer, og hvad det betyder for, hvor sikkerhedsteams bør fokusere næste gang.
AI i cybersikkerhed, i ét afsnit
AI inden for cybersikkerhed refererer til brugen af maskinlæring, naturlig sprogbehandling og store sprogmodeller på begge sider af den samme kamp: at iværksætte angreb og at opdage og stoppe dem. Angribere bruger AI til at generere overbevisende phishing-indhold, klone stemmer og ansigter og undersøge systemer hurtigere end et menneskeligt team kunne. Forsvarere bruger de samme underliggende teknikker (mønstergenkendelse på tværs af enorme datamængder, forståelse af naturligt sprog, adfærdsmodellering) til at opdage anomalier, skære igennem alarmstøj og reagere, før skaden forværres. Resultatet er en ægte dobbelt anvendelsesteknologi inden for en enkelt branche, hvilket er grunden til, at AI inden for cybersikkerhed ikke er en kategori med en klar "god" og "dårlig" side. Det er en evne, og den, der anvender den, er hurtigere og mere forberedt.cisEly har i øjeblikket fordelen.
AI som angrebsvektor
- AI-genereret phishing i industriel skala. Phishing kunne tidligere opdages ved hjælp af sine tegn: akavet formulering, generiske hilsner, åbenlyse forfalskede domæner. AI fjernede de fleste af disse tegn. Ifølge Hoxhunt's Rapport om phishing-tendenser 2026, AI-genereret phishing steg fra 4 % af alle rapporterede phishingforsøg i november 2025 til 56 % i december 2025, en 14-dobling på en enkelt måned, og har holdt omkring 40 % af alle rapporterede phishingforsøg frem til midten af 2026. Effektivitetsforskellen er lige så markant: a Studie af mennesker fra forskere på Harvard Kennedy School fandt ud af, at fuldt AI-automatiserede spear phishing-e-mails opnåede en klikrate på 54 %, hvilket matcher dygtige menneskelige eksperter og langt overgår klikraten på 12 % for kontrolgruppens generiske phishing-e-mails. AI skriver ikke bare flere phishing-e-mails. Den skriver nogle, der virker.
- Deepfakes, der er rettet mod tillid, ikke infrastruktur. Arup-sagen Ovenstående er ikke længere en outsider; det er en skabelon. AI-genereret stemme og video er overbevisende nok til at blive betragtet som en rigtig leder under et liveopkald, hvilket forvandler social engineering fra at "narre nogen til at klikke" til at "narre nogen til at tro, at de kigger på deres CFO". Det er et fundamentalt vanskeligere problem for sikkerhedsbevidsthedstræning at løse, fordi bedraget sker på det perceptuelle niveau, ikke det tekniske.
- Hurtigere rekognoscering og adaptiv malware. Ud over social engineering forkorter AI afstanden mellem "angriberen har en idé" og "angriberen har en fungerende udnyttelse". Store sprogmodeller kan accelerere sårbarhedsundersøgelser mod et måls offentligt tilgængelige kode og infrastruktur, og adaptiv malware kan ændre sin egen adfærd midt i udførelsen, hvis den registrerer, at den bliver analyseret i en sandkasse, en funktion, der tidligere krævede en dygtig menneskelig operatør, der overvågede det i realtid.
- Legitimationsangreb med maskinhastighed. Ved at indlæse lækkede legitimationsoplysninger i en model for at lære de mønstre, folk rent faktisk bruger, når de tror, de er "smarte" med en adgangskode, bliver gæt-og-tjek til noget, der minder mere om forudsigelse. Kombineret med automatiseret indlæsning af legitimationsoplysninger komprimerer dette det, der plejede at være et langsomt og støjende angreb, til noget hurtigt og stille.
AI som et forsvarsværktøj
- Anomalidetektion i en skala, som mennesker ikke kan matche. Den centrale defensive værdi af AI er at behandle mængden af netværkstrafik, login aktivitet og systemlogfiler, som intet analytikerteam kunne gennemgå manuelt, og markere det, der afviger fra en etableret baseline. Dette er det, der fanger angreb uden kendt signatur endnu, herunder zero-days og insidermisbrug, der ikke ville udløse en regelbaseret alarm.
- Skærer igennem alarmkøen, ikke tilføjer noget til den. Det er også her, at AI inden for cybersikkerhed har den mest umiddelbare operationelle gevinst, og hvor branchen stadig har et reelt stykke arbejde at gøre. Vectra AI's forskning i 2026 fandt ud af, at organisationer modtager i gennemsnit 2,992 sikkerhedsadvarsler om dagen, hvor 63% ikke bliver undersøgt, og Microsoft og Omdia Status for SOC: Foren nu eller betal senere indberette fandt ud af, at 46 % af alle advarsler viser sig at være falske positive, og 42 % bliver ikke undersøgt helt. AI-drevet triage tilføjer ikke bare endnu en detektor til den bunke. Hvis det gøres godt, korrelerer det relaterede advarsler til en enkelt hændelse, scorer det, der rent faktisk er værd at være opmærksom på, og lader analytikere bruge deres tid på den del af advarslerne, der repræsenterer en reel risiko, i stedet for manuelt at lukke resten.
- Malware og adfærdsklassificering ud over kendte signaturer. Den samme adfærdsanalysetilgang, der markerer unormal netværksaktivitet, fungerer også på filer og pakker: i stedet for at sammenligne med en liste over kendte dårlige signaturer kan AI score installationsadfærd, usædvanlige systemkald og obfuskationsmønstre for at fange malware, der aldrig er set før, i det øjeblik det vises, snarere end efter det er blevet fingeraftryksbehandlet.
- Automatiseret, indeholdt svar. Detektion uden handling ændrer blot tiden. AI-drevet respons kan isolere en berørt enhed, blokere mistænkelig trafik og starte inddæmning automatisk, hvilket lukker kløften mellem "vi så det" og "vi stoppede det" fra timer til sekunder i de tilfælde, der betyder mest.
Hvorfor skærer de samme teknikker begge veje?
Den ubehagelige sandhed i denne AI-sikkerhedsguide er, at angribere og forsvarere ofte bruger den samme underliggende funktion i hver deres ende. Den naturlige sprogmodellering, der skriver en overbevisende phishing-e-mail, er den samme teknologi, der læser en mistænkelig e-mail og korrekt klassificerer den som en. Den mønstergenkendelse, der lader malware tilpasse sig for at undgå en sandkasse, er arkitektonisk set lig den mønstergenkendelse, der markerer malwarens adfærd som unormal i første omgang. Ingen af siderne har monopol på teknologien, hvilket betyder, at fordelen går til den, der integrerer den mere fuldstændigt i deres faktiske arbejdsgang, ikke den, der har adgang til en mere avanceret model.
Denne symmetri er også grunden til, at AI inden for cybersikkerhed introducerer sine egne risici på den defensive side. AI-systemer kan generere falske positiver, der begraver et reelt signal i støj, hvis de er dårligt indstillet, arve bias fra ufuldstændige træningsdata og dermed overse hele klasser af trusler, og kan selv blive målrettet gennem adversarielle teknikker, hvor en angriber bevidst fodrer en detektionsmodel med vildledende data for at manipulere det, den markerer. Intet af dette er en grund til at undgå AI defensivt. Det er en grund til at holde et menneske opdateret om vurderinger og til at behandle selve AI-systemet som noget, der skal overvåges, ikke noget, man implementerer én gang og stoler på på ubestemt tid.
Hvad denne AI-sikkerhedsguide betyder for dit team
Fem træk adskiller teams, der får reel værdi ud af AI inden for cybersikkerhed, fra teams, der lige har tilføjet endnu et værktøj:
- Vent ikke på, at "AI-drevne" angreb bliver flertallet, før du investerer defensivt. Phishing-dataene ovenfor viser, hvor hurtigt en mindretalstaktik kan blive den dominerende. Opbyg detektionskapacitet før bølgen, ikke under den.
- Ret AI'en mod din triagekø først, ikke kun din perimeter. Den hurtigste og mest målbare sejr for de fleste teams er at reducere antallet af falske positiver, som en analytiker skal rydde manuelt, i stedet for at tilføje et nyt detektionslag.
- Behandl deepfake- og stemmekloningsrisiko som et procesproblem, ikke et teknologiproblem. Intet detektionsværktøj lukker fuldstændigt hullet i Arup-stil. Out-of-band-verifikation for enhver anmodning, der involverer pengebevægelser eller ændringer af legitimationsoplysninger.
- Udvid den samme AI-drevne adfærdsmæssige tænkning til at kode og pipelines, ikke kun netværkstrafik. Angribere går i stigende grad direkte efter softwareforsyningskæden (ondsindede pakker, hallucinerede afhængigheder, uigennemgåede agentinstruktioner), en risikokategori med sin egen dynamik, som er dækket i dybden i vores guide til AI-forsyningskædesikkerhed.
- Hold et menneske ansvarlig for, hvad AI'en beslutter. Automatiseret respons er værdifuld, netop fordi den er hurtig, hvilket også er grunden til, at den har brug for en klar eskaleringsvej, når noget går galt.
Hvor AI inden for cybersikkerhed er på vej hen
To skift vil definere de næste par år. For det første konsoliderer angribersiden sig omkring færre, mere overbevisende taktikker i stedet for flere primitive taktikker: AI-genereret phishing og deepfakes er ikke et bredere net; de er en skarpere krog. For det andet bevæger forsvarssiden sig fra at "opdage og advare et menneske" til at "opdage, score og handle, før en ticket eksisterer", hvilket er præcis det skift, der lukker kløften mellem de 2,992 daglige advarsler, som de fleste SOC'er står over for, og den andel af dem, der nogensinde får et reelt kig. De organisationer, der trækker foran, er dem, der anvender dette skift overalt, hvor AI allerede berører deres miljø, inklusive den kode, deres udviklere sender, ikke kun den trafik, der krydser deres netværksperimeter.
Xygenis synspunkt: AI-sikkerhed skal dække kode, ikke kun indbakken
Det meste af AI-dækningen i cybersikkerhed stopper ved SOC'en: phishing, malware og netværksanomalier. Det er nødvendigt, og det er også ufuldstændigt, fordi en stigende andel af AI-drevet risiko nu findes i selve softwareudviklingslivscyklussen, hvor SOC-værktøjer ikke ser ud.
Xygenis CoreAI anvender den samme adfærdsmæssige, anomalibaserede tænkning, der er beskrevet i denne vejledning, specifikt til applikationssikkerhed: korrelering af fund på tværs af dine eksisterende scannere (ikke kun Xygenis egen), score hvad der rent faktisk kan udnyttes i stedet for at oversvømme teams med rå alarmvolumen, forklare hvorfor en given risiko er vigtig, og generere en afhjælpning pull request i stedet for endnu en efterslæbssag. DevAI udvider den samme defensive holdning til den nyeste del af angrebsfladen: AI-kodning af agenter og assistenter, validering af færdighedsfiler og agentinstruktioner og blokering af en ondsindet installation, før en agent overhovedet reagerer på den. Målet er det samme, som denne guide argumenterer for på SOC-niveau, anvendt på pipeline: vend AI'ens fordel i forhold til volumen og hastighed til en forsvarers fordel i stedet for en angribers.
Start gratis. Sign up with GitHub, GitLab eller Google, og få indsigt i op til 25 repositories og 50 AI-scanninger om måneden uden omkostninger og uden krav om kreditkort.
Ofte stillede spørgsmål
Hvad er AI inden for cybersikkerhed?
AI inden for cybersikkerhed er brugen af maskinlæring, naturlig sprogbehandling og store sprogmodeller på både den angribende og forsvarende side af sikkerheden. Angribere bruger det til at generere overbevisende phishing-indhold, deepfakes og adaptiv malware; forsvarere bruger de samme underliggende teknikker til anomalidetektion, alarmsortering og automatiseret respons.
Er AI farligere som et angrebsværktøj eller mere nyttigt som et forsvarsværktøj?
Ingen af siderne har en varig fordel, fordi begge er bygget på den samme underliggende kapacitet. De organisationer, der er i størst risiko, er dem, der endnu ikke har anvendt AI defensivt i samme tempo, som angribere har anvendt det offensivt, ikke dem, der står over for et teknologisk hul, de ikke kan lukke.
Kan AI fuldt ud erstatte menneskelige analytikere i en SOC?
Nej, og risikoen ved at forsøge at gøre det (falske positiver fra dårligt afstemte modeller, bias fra ufuldstændige træningsdata og fjendtlig manipulation af selve detektionssystemet) er netop grunden til, at menneskelig overvågning fortsat er nødvendig. AI's virkelige værdi er at rydde køen, så analytikerne kan fokusere på de vurderinger, der stadig kræver en person.
Hvordan er risikoen for AI-drevne angreb anderledes specifikt for softwareudviklingsteams?
Ud over phishing og deepfakes står udviklingsteams over for AI-specifikke risici indenfor SDLC sig selv: AI-kodningsagenter, der installerer hallucinerede eller ondsindede afhængigheder, uigennemgåede agentinstruktioner i færdighedsfiler og AI-genereret kode, der gengiver hardcodede hemmeligheder. Den side af AI inden for cybersikkerhed er dækket mere dybdegående i vores Guide til sikkerhed i AI-forsyningskæden.
