En økonomiansatt i ingeniørfirmaet Arup ble med i en videosamtale med flere kolleger, inkludert selskapets finansdirektør. Hver og en av dem var en AI-generert deepfake. Samtalen endte med at 25 millioner dollar ble overført til angriperne. Ingen skadelig programvare, ingen phishing-lenke, ingen utnyttet sårbarhet: bare AI, brukt overbevisende nok til at tillit gjorde resten. Denne ene hendelsen fanger opp hvorfor AI innen cybersikkerhet har blitt det definerende temaet i feltet. Den samme teknologien som ble bygd opp av den deepfaken, fanger andre steder i bransjen opp anomalien som ville ha stoppet den. Denne AI-sikkerhetsveiledningen dekker begge sider: hvordan AI angriper, hvordan AI forsvarer, og hva det betyr for hvor sikkerhetsteam bør fokusere neste gang.
AI i cybersikkerhet, i ett avsnitt
AI innen cybersikkerhet refererer til bruk av maskinlæring, naturlig språkbehandling og store språkmodeller på begge sider av samme kamp: å iverksette angrep og å oppdage og stoppe dem. Angripere bruker AI til å generere overbevisende phishing-innhold, klone stemmer og ansikter, og undersøke systemer raskere enn et menneskelig team kunne. Forsvarere bruker de samme underliggende teknikkene (mønstergjenkjenning på tvers av enorme datamengder, forståelse av naturlig språk, atferdsmodellering) for å oppdage avvik, skjære gjennom varslingsstøy og reagere før skaden forverres. Resultatet er genuint dobbeltbruksteknologi innenfor en enkelt bransje, og det er derfor AI innen cybersikkerhet ikke er en kategori med en klar "god" og "dårlig" side. Det er en evne, og den som bruker den raskere og mer forberedt ...cisEly har for øyeblikket fordelen.
AI som angrepsvektor
- AI-generert phishing i industriell skala. Phishing pleide å være oppfangbart på grunn av tegnene det ga: klønete formuleringer, generiske hilsener, åpenbare forfalskede domener. AI fjernet de fleste av disse tegnene. I følge Hoxhunt's Rapport om phishing-trender for 2026, AI-generert phishing hoppet fra 4 % av alle rapporterte phishing-forsøk i november 2025 til 56 % i desember 2025, en 14-dobling på én enkelt måned, og har holdt rundt 40 % av alle rapporterte phishing-forsøk frem til midten av 2026. Effektivitetsgapet er like tydelig: a studie på mennesker fra forskere fra Harvard Kennedy School fant ut at helautomatiserte spear phishing-e-poster med kunstig intelligens oppnådde en klikkfrekvens på 54 %, tilsvarende dyktige menneskelige eksperter og langt bedre enn klikkfrekvensen på 12 % for kontrollgruppens generiske phishing-e-poster. Kunstig intelligens skriver ikke bare flere phishing-e-poster. Den skriver de som fungerer.
- Deepfakes som retter seg mot tillit, ikke infrastruktur. Ocuco Arup-saken Det ovennevnte er ikke lenger et unntak; det er en mal. AI-generert tale og video er overbevisende nok til å fremstå som en ekte leder i en live-samtale, og gjør sosial manipulering fra å «lure noen til å klikke» til å «lure noen til å tro at de ser på sin finansdirektør». Det er et fundamentalt vanskeligere problem for sikkerhetsbevissthetsopplæring å løse, fordi bedraget skjer på det persepsjonelle nivået, ikke det tekniske.
- Raskere rekognosering og adaptiv skadelig programvare. Utover sosial manipulering forkorter AI avstanden mellom «angriper har en idé» og «angriper har en fungerende utnyttelse». Store språkmodeller kan akselerere sårbarhetsforskning mot et måls offentlig tilgjengelige kode og infrastruktur, og adaptiv skadelig programvare kan endre sin egen oppførsel midt i kjøringen hvis den oppdager at den blir analysert i en sandkasse, en funksjon som tidligere krevde en dyktig menneskelig operatør som overvåket den i sanntid.
- Legitimasjonsangrep i maskinhastighet. Å mate lekkede legitimasjonssett inn i en modell for å lære mønstrene folk faktisk bruker når de tror de er «smarte» med et passord, gjør gjett-og-sjekk til noe som er nærmere forutsigelse. Kombinert med automatisert legitimasjonsfylling komprimerer dette det som pleide å være et sakte, støyende angrep til noe raskt og stille.
AI som et forsvarsverktøy
- Anomalideteksjon i en skala mennesker ikke kan matche. Den viktigste defensive verdien til AI er å behandle volumer av nettverkstrafikk, login aktivitet og systemlogger som ingen analytikere kunne gjennomgå manuelt, og flagge det som avviker fra en etablert grunnlinje. Dette er det som fanger opp angrep uten kjent signatur ennå, inkludert nulldagsangrep og misbruk av innsidere som ikke ville utløst et regelbasert varsel.
- Skjærer gjennom varslingskøen, ikke legger til noe i den. Det er også her AI innen cybersikkerhet gir den mest umiddelbare operasjonelle gevinsten, og hvor bransjen fortsatt har reell arbeid å gjøre. Vectra AIs forskning i 2026 fant ut at organisasjoner mottar gjennomsnittlig 2,992 sikkerhetsvarsler per dag, hvorav 63 % ikke blir undersøkt, og Microsoft og Omdia Status for SOC: Foren nå eller betal senere rapporterer fant at 46 % av alle varsler viser seg å være falske positive, og 42 % blir ikke undersøkt i det hele tatt. AI-drevet triage legger ikke bare til enda en detektor i den haugen. Gjør det bra, korrelerer det relaterte varsler til én enkelt hendelse, scorer det som faktisk er verdt et menneskes oppmerksomhet, og lar analytikere bruke tiden sin på den delen av varslene som representerer reell risiko i stedet for å lukke resten manuelt.
- Skadelig programvare og atferdsklassifisering utover kjente signaturer. Den samme atferdsanalysetilnærmingen som flagger unormal nettverksaktivitet fungerer også på filer og pakker: i stedet for å sammenligne mot en liste over kjente dårlige signaturer, kan AI score installasjonstidsatferd, uvanlige systemkall og obfuskasjonsmønstre for å fange opp skadelig programvare som aldri har blitt sett før, i øyeblikket den dukker opp i stedet for etter at den har blitt fingeravtrykket.
- Automatisert, innesluttet respons. Deteksjon uten handling endrer bare tiden. AI-drevet respons kan isolere en berørt enhet, blokkere mistenkelig trafikk og starte inneslutning automatisk, og dermed redusere gapet mellom «vi så det» og «vi stoppet det» fra timer til sekunder i de tilfellene som betyr mest.
Hvorfor kutter de samme teknikkene begge veier?
Den ubehagelige sannheten i denne AI-sikkerhetsveiledningen er at angripere og forsvarere ofte bruker den samme underliggende funksjonen mot motsatte mål. Naturspråkmodelleringen som skriver en overbevisende phishing-e-post er den samme teknologien som leser en mistenkelig e-post og korrekt klassifiserer den som en. Mønstergjenkjenningen som lar skadelig programvare tilpasse seg for å unngå en sandkasse, er arkitekturmessig lik mønstergjenkjenningen som flagger skadelig programvares oppførsel som unormal i utgangspunktet. Ingen av sidene har monopol på teknologien, noe som betyr at fordelen går til den som integrerer den mer fullstendig i sin faktiske arbeidsflyt, ikke den som har tilgang til en mer avansert modell.
Denne symmetrien er også grunnen til at AI i cybersikkerhet introduserer sine egne risikoer på den defensive siden. AI-systemer kan generere falske positiver som begraver et reelt signal i støy hvis de er dårlig innstilt, arve skjevheter fra ufullstendige treningsdata og dermed gå glipp av hele trusselklasser, og kan selv bli målrettet gjennom fiendtlige teknikker, der en angriper bevisst mater en deteksjonsmodell med villedende data for å manipulere det den flagger. Ingenting av dette er en grunn til å unngå AI defensivt. Det er en grunn til å holde et menneske oppdatert for vurderinger, og til å behandle selve AI-systemet som noe som trenger overvåking, ikke noe du bruker én gang og stoler på på ubestemt tid.
Hva denne AI-sikkerhetsveiledningen betyr for teamet ditt
Fem trekk skiller team som får reell verdi fra AI innen cybersikkerhet fra team som nettopp har lagt til et nytt verktøy:
- Ikke vent til «AI-drevne» angrep blir i flertall før du investerer defensivt. Phishing-dataene ovenfor viser hvor raskt en minoritetstaktikk kan bli den dominerende. Bygg opp deteksjonskapasitet før bølgen, ikke underveis.
- Rett AI-en mot triagekøen din først, ikke bare mot omkretsen din. Den raskeste og mest målbare seieren for de fleste team er å redusere antallet falske positiver en analytiker må fjerne manuelt, ikke å legge til et nytt deteksjonslag.
- Behandle risikoen for deepfake og stemmekloning som et prosessproblem, ikke et teknologiproblem. Ingen deteksjonsverktøy tetter Arup-lignende gap fullstendig. Verifisering utenfor båndet for enhver forespørsel som involverer pengebevegelser eller endringer i legitimasjon.
- Utvid den samme AI-drevne atferdstenkningen til å omfatte kode og pipelines, ikke bare nettverkstrafikk. Angripere retter seg i økende grad direkte mot programvareforsyningskjeden (ondsinnede pakker, hallusinerte avhengigheter, ureviewede agentinstruksjoner), en risikokategori med sin egen dynamikk, som dekkes grundig i vår veiledning om sikkerhet i AI-forsyningskjeden.
- Hold et menneske ansvarlig for hva AI-en bestemmer. Automatisert respons er verdifull nettopp fordi den er rask, og det er også derfor den trenger en tydelig eskaleringsvei når noe går galt.
Hvor AI innen cybersikkerhet er på vei
To endringer vil definere de neste årene. For det første konsoliderer angripersiden seg rundt færre, mer overbevisende taktikker i stedet for flere grove: AI-generert phishing og deepfakes er ikke et bredere nett; de er en skarpere krok. For det andre beveger forsvarersiden seg fra å «oppdage og varsle et menneske» til å «oppdage, score og handle før en sak finnes», som er akkurat det skiftet som lukker gapet mellom de 2,992 daglige varslene de fleste SOC-er møter og andelen av dem som noen gang får et ordentlig innblikk. Organisasjonene som trekker foran er de som anvender dette skiftet overalt hvor AI allerede berører miljøet deres, inkludert koden utviklerne deres sender, ikke bare trafikken som krysser nettverksperimeteret deres.
Xygenis syn: AI-sikkerhet må dekke kode, ikke bare innboksen
Mesteparten av dekningen av AI i cybersikkerhet stopper ved SOC: phishing, skadelig programvare, nettverksavvik. Det er nødvendig, og det er også ufullstendig, fordi en økende andel av AI-drevet risiko nå befinner seg i selve programvareutviklingssyklusen, der SOC-verktøy ikke ser ut.
Xygenis KjerneAI anvender den samme atferdsbaserte, anomalibaserte tenkningen som er beskrevet i denne veiledningen, spesifikt for applikasjonssikkerhet: korrelering av funn på tvers av eksisterende skannere (ikke bare Xygenis egen), score hva som faktisk kan utnyttes i stedet for å oversvømme team med rått varslingsvolum, forklare hvorfor en gitt risiko er viktig og generere en utbedring pull request i stedet for nok en etterslepssak. DevAI utvider den samme defensive holdningen til den nyeste delen av angrepsflaten: AI-kodende agenter og assistenter, validerer ferdighetsfiler og agentinstruksjoner, og blokkerer en ondsinnet installasjon før en agent i det hele tatt reagerer på den. Målet er det samme som denne veiledningen argumenterer for på SOC-nivå, anvendt på pipeline: gjør AI-ens fordel over volum og hastighet til en forsvarers fordel i stedet for en angripers.
Start gratis. Sign up with GitHub, GitLab eller Google, og få innsikt i opptil 25 databaser og 50 AI-skanninger i måneden uten kostnad, uten behov for kredittkort.
FAQ
Hva er AI innen cybersikkerhet?
AI i nettsikkerhet er bruken av maskinlæring, naturlig språkbehandling og store språkmodeller på både den angripende og forsvarende siden av sikkerheten. Angripere bruker det til å generere overbevisende phishing-innhold, deepfakes og adaptiv skadelig programvare; forsvarere bruker de samme underliggende teknikkene for avviksdeteksjon, varslingssortering og automatisert respons.
Er AI farligere som et angrepsverktøy eller mer nyttig som et forsvarsverktøy?
Ingen av sidene har en varig fordel fordi begge er bygget på den samme underliggende kapasiteten. Organisasjonene som er i størst risiko er de som ennå ikke har brukt AI defensivt i samme tempo som angripere har brukt det offensivt, ikke de som står overfor et teknologigap de ikke kan tette.
Kan AI erstatte menneskelige analytikere fullt ut i en SOC?
Nei, og risikoen ved å prøve å gjøre det (falske positive resultater fra dårlig innstilte modeller, skjevhet fra ufullstendige treningsdata og fiendtlig manipulasjon av selve deteksjonssystemet) er nettopp grunnen til at menneskelig tilsyn fortsatt er nødvendig. AIs virkelige verdi er å tømme køen slik at analytikere kan fokusere på vurderingene som fortsatt trenger en person.
Hvordan er risikoen for AI-drevet angrep forskjellig spesifikt for programvareutviklingsteam?
Utover phishing og deepfakes står utviklingsteam overfor AI-spesifikke risikoer innenfor SDLC seg selv: AI-kodingsagenter som installerer hallusinerte eller ondsinnede avhengigheter, ureviderte agentinstruksjoner i ferdighetsfiler og AI-generert kode som reproduserer hardkodede hemmeligheter. Den siden av AI i cybersikkerhet dekkes mer grundig i vår Veiledning for sikkerhet i forsyningskjeden for kunstig intelligens.
