Fjármálastarfsmaður hjá verkfræðistofu Arup tók þátt í myndsímtali með nokkrum samstarfsmönnum, þar á meðal fjármálastjóra fyrirtækisins. Hver og einn þeirra var djúpfölsun búin til af gervigreind. Símtalinu lauk með því að 25 milljónir dala voru millifærðar til árásarmannanna. Enginn spilliforrit, enginn phishing-tengill, engin nýtt varnarleysi: bara gervigreind, notuð nógu sannfærandi til að traust gerði restina. Þetta eina atvik fangar hvers vegna gervigreind í netöryggi hefur orðið aðalumræðuefnið á þessu sviði. Sama tækni og djúpfölsunin smíðaði er, annars staðar í greininni, að greina frávikið sem hefði stöðvað það. Þessi öryggishandbók um gervigreind fjallar um báðar hliðar: hvernig gervigreind ræðst á, hvernig gervigreind ver og hvað það þýðir fyrir hvert öryggisteymi ættu að einbeita sér næst.
Gervigreind í netöryggi, í einni málsgrein
Gervigreind í netöryggi vísar til notkunar vélanáms, náttúrulegrar tungumálsvinnslu og stórra tungumálamódela á báðum hliðum sömu baráttu: til að hefja árásir og til að greina þær og stöðva þær. Árásarmenn nota gervigreind til að búa til sannfærandi netveiðiefni, klóna raddir og andlit og rannsaka kerfi hraðar en mannlegt teymi gæti. Varnarmenn nota sömu undirliggjandi aðferðir (mynsturgreining í miklu magni gagna, skilning á náttúrulegu tungumáli, hegðunarlíkön) til að greina frávik, skera í gegnum viðvörunarhljóð og bregðast við áður en skaðinn eykst. Niðurstaðan er sannarlega tvíþætt notkunartækni innan einnar atvinnugreinar, og þess vegna er gervigreind í netöryggi ekki flokkur með skýrum „góðum“ og „slæmum“ hliðum. Það er hæfileiki, og hver sem notar hann hraðar og betur...cisEly hefur yfirhöndina núna.
Gervigreind sem árásarvektor
- Netveiðar framleiddar með gervigreind á iðnaðarskala. Áður fyrr var hægt að greina netveiðar með vísbendingum sínum: klaufalegri orðalagningu, almennum kveðjum, augljósum fölsuðum lénum. Gervigreind fjarlægði flestar þessar vísbendingar. Samkvæmt Hoxhunt's Skýrsla um þróun netveiða 2026, veiðar sem framleiddar eru af gervigreind stökk upp úr 4% allra tilkynntra veiðartilrauna í nóvember 2025 í 56% í desember 2025, sem er 14-föld aukning á einum mánuði, og hefur haldið um 40% allra tilkynntra veiðartilrauna fram á miðjan 2026. Munurinn á árangri er jafn mikill: a Rannsókn á mönnum frá vísindamönnum frá Harvard Kennedy School kom í ljós að sjálfvirk netveiðatölvupóstar sem voru gerðir að fullu með gervigreind náðu 54% smellihlutfalli, sem jafnast á við hæfa sérfræðinga og skilaði miklu betri smellihlutfalli en 12% smellihlutfall almennra netveiðatölvupósta frá samanburðarhópnum. Gervigreind skrifar ekki bara fleiri netveiðatölvupósta. Hún skrifar þá sem virka.
- Djúpfölsun sem miðar á traust, ekki innviði. The Arup-málið Þetta sem að ofan greinir er ekki lengur undantekning; þetta er sniðmát. Rödd og myndbönd sem mynduð eru með gervigreind eru nógu sannfærandi til að þykjast vera raunverulegur stjórnandi í beinni útsendingu, og breyta félagslegri verkfræði úr því að „blekka einhvern til að smella“ í „blekka einhvern til að trúa því að hann sé að horfa á fjármálastjóra sinn“. Þetta er grundvallaratriðum erfiðara vandamál fyrir öryggisvitundarþjálfun að leysa, því blekkingin á sér stað á skynjunarstigi, ekki tæknilegu stigi.
- Hraðari njósnir og aðlögunarhæfur spilliforrit. Auk félagslegrar verkfræði styttir gervigreind bilið á milli þess að „árásaraðili hefur hugmynd“ og „árásaraðili hefur virkan glæp“. Stór tungumálalíkön geta flýtt fyrir rannsóknum á varnarleysi gagnvart almenningsmiðuðum kóða og innviðum skotmarks, og aðlögunarhæfur spilliforrit geta breytt eigin hegðun mitt í keyrslu ef það greinir að verið sé að greina það í sandkassa, hæfileiki sem áður krafðist hæfs mannlegs rekstraraðila sem fylgdist með í rauntíma.
- Árásir á persónuskilríki á vélarhraða. Að nota lekaða skilríki í líkan til að læra mynstrin sem fólk notar í raun þegar það heldur að það sé að vera „snjallt“ með lykilorð breytir gisk-og-athuga í eitthvað sem líkist spá. Í bland við sjálfvirka innslátt skilríkja þjappast þetta því sem áður var hæg og hávær árás saman í eitthvað hratt og hljóðlátt.
Gervigreind sem varnartæki
- Fráviksgreining á skala sem menn geta ekki keppt við. Kjarnavarnargildi gervigreindar er að vinna úr magni netumferðar, login virkni og kerfisskrár sem ekkert greiningarteymi gæti skoðað handvirkt og merkt það sem víkur frá viðurkenndri grunnlínu. Þetta er það sem greinir árásir án þekktrar undirskriftar ennþá, þar á meðal núlldagaárásir og misnotkun innri aðila sem myndi ekki virkja reglubundna viðvörun.
- Að skera í gegnum viðvörunarröðina, ekki bæta við hana. Þetta er einnig þar sem gervigreind í netöryggi hefur mestu rekstrarlegu áhrifin og þar sem greinin á enn raunverulegt verk fyrir höndum. Rannsóknir Vectra AI árið 2026 kom í ljós að stofnanir fá að meðaltali 2,992 öryggisviðvaranir á dag, þar sem 63% þeirra eru ekki rannsökuð. Microsoft og Omdia Staða SOC: Sameinið núna eða borgið síðar tilkynna kom í ljós að 46% allra viðvarana reynast vera falskar jákvæðar niðurstöður og 42% eru ekki rannsökuð að öllu leyti. Gervigreindarstýrð flokkun bætir ekki bara við enn einum skynjara í þann haug. Ef vel er gert, tengir hún tengdar viðvaranir saman í eitt atvik, metur það sem raunverulega er athyglisvert og gerir greinendum kleift að eyða tíma sínum í þann hluta viðvarana sem fela í sér raunverulega áhættu í stað þess að loka restinni handvirkt.
- Spilliforrit og hegðunarflokkun umfram þekktar undirskriftir. Sama atferlisgreiningaraðferðin og flaggar óeðlilega netvirkni virkar einnig á skrár og pakka: í stað þess að bera saman við lista yfir þekktar gallaðar undirskriftir getur gervigreind metið hegðun við uppsetningu, óvenjuleg kerfisköll og dulritunarmynstur til að greina spilliforrit sem aldrei hafa sést áður, á þeirri stundu sem þau birtast frekar en eftir að fingrafar þeirra hafa verið tekin.
- Sjálfvirk, afmörkuð svörun. Greining án aðgerða færir bara tímann til. Gervigreindarknúið svar getur einangrað tæki sem hefur orðið fyrir áhrifum, lokað fyrir grunsamlega umferð og hafið sjálfvirka innilokun, sem minnkar bilið á milli „við sáum það“ og „við stöðvuðum það“ úr klukkustundum í sekúndur í þeim tilvikum sem skipta mestu máli.
Af hverju skera sömu aðferðirnar í báðar áttir?
Óþægilegi sannleikurinn í þessari handbók um gervigreindaröryggi er sá að árásarmenn og varnarmenn nota oft sömu undirliggjandi getu í gagnstæðum tilgangi. Náttúrulegt mállíkan sem skrifar sannfærandi netveiðitölvupóst er sama tækni og les grunsamlegan tölvupóst og flokkar hann rétt sem slíkan. Mynsturgreiningin sem gerir spilliforritum kleift að aðlagast til að komast hjá sandkassa er byggingarlega svipuð mynsturgreiningunni sem merkir hegðun spilliforritsins sem frávika í upphafi. Hvorugur aðilinn hefur einkarétt á tækninni, sem þýðir að sá sem samþættir hana betur í raunverulegt vinnuflæði sitt hefur yfirhöndina, ekki sá sem hefur aðgang að flóknari líkani.
Þessi samhverfa er einnig ástæðan fyrir því að gervigreind í netöryggi felur í sér sínar eigin áhættur í varnarskyni. Gervigreindarkerfi geta framleitt falskar jákvæðar niðurstöður sem fela raunverulegt merki í hávaða ef þau eru illa stillt, erft skekkju frá ófullkomnum þjálfunargögnum og missir af heilum flokkum ógna þar af leiðandi, og geta sjálf orðið fyrir skotmörkum með andstöðutækni, þar sem árásarmaður gefur greiningarlíkani vísvitandi villandi gögn til að stjórna því sem það flaggar. Ekkert af þessu er ástæða til að forðast gervigreind í varnarskyni. Það er ástæða til að halda mönnum upplýstum um matsákvarðanir og meðhöndla gervigreindarkerfið sjálft sem eitthvað sem þarf að fylgjast með, ekki eitthvað sem þú notar einu sinni og treystir endalaust.
Hvað þessi öryggisleiðbeining fyrir gervigreind þýðir fyrir teymið þitt
Fimm aðgerðir aðgreina teymi sem fá raunverulegt gildi úr gervigreind í netöryggi frá teymum sem hafa nýlega bætt við öðru tóli:
- Ekki bíða eftir að árásir sem eru knúnar gervigreind verði meirihluti áður en þú fjárfestir í varnarleik. Gögnin um netveiðar hér að ofan sýna hversu hratt minnihlutahópsaðferð getur orðið ríkjandi. Byggðu upp greiningargetu fyrir aukningu, ekki á meðan á henni stendur.
- Beindu gervigreind fyrst að biðröðinni þinni, ekki bara að jaðarnum. Hraðasti og mælanlegasti sigurinn fyrir flest teymi er að draga úr fjölda falskra jákvæðra niðurstaðna sem greinandi þarf að hreinsa handvirkt, ekki að bæta við nýju greiningarlagi.
- Meðhöndlið áhættu af djúpfölsun og raddklónun sem ferlisvandamál, ekki tæknilegt vandamál. Ekkert greiningartól brúar að fullu bilið í Arup-stíl. Staðfesting utan bands fyrir allar beiðnir sem varða peningahreyfingar eða breytingar á skilríkjum.
- Útvíkkaðu sömu gervigreindarknúnu hegðunarhugsunina yfir á forritun og pipelines, ekki bara netumferð. Árásarmenn beinast í auknum mæli beint að hugbúnaðarframboðskeðjunni (illgjörn pakka, ofskynjanir, óskoðaðar leiðbeiningar umboðsmanna), sem er áhættuflokkur með sína eigin gangverki, sem fjallað er ítarlega um í handbók okkar um öryggi gervigreindarframboðskeðjunnar.
- Halda manneskju ábyrga fyrir því sem gervigreindin ákveður. Sjálfvirk viðbrögð eru verðmæt einmitt vegna þess að þau eru hröð, og þess vegna þarf skýra leið til að bregðast við ef eitthvað fer úrskeiðis.
Hvert stefnir gervigreind í netöryggi
Tvær breytingar munu skilgreina næstu árin. Í fyrsta lagi er árásaraðilinn að einbeita sér að færri og sannfærandi aðferðum frekar en fjölmörgum grófum aðferðum: Netveiðar og djúpfölsun sem myndast með gervigreind eru ekki víðara net; þau eru beittari krókur. Í öðru lagi er varnaraðilinn að færast frá því að „greina og vara mann við“ yfir í að „greina, skora og bregðast við áður en miða er til staðar“, sem er einmitt sú breyting sem brúar bilið á milli þeirra 2,992 daglegra viðvarana sem flestir þjónustuaðilar standa frammi fyrir og þess hlutfalls þeirra sem fá nokkurn tíma raunverulega skoðun. Fyrirtækin sem eru fremst í flokki eru þau sem beita þessari breytingu alls staðar þar sem gervigreind snertir nú þegar umhverfi sitt, þar á meðal kóðann sem forritarar þeirra senda, ekki bara umferðina sem fer yfir jaðar netsins.
Skoðun Xygeni: Öryggi gervigreindar verður að ná yfir kóða, ekki bara pósthólfið
Mest af því sem gervigreind varðar í netöryggismálum stoppar við SOC: netveiðar, spilliforrit og frávik í netkerfum. Það er nauðsynlegt og líka ófullkomið því vaxandi hluti áhættunnar sem tengdist gervigreind býr nú innan hugbúnaðarþróunarferlisins sjálfs, þar sem SOC-verkfæri leita ekki.
Xygeni's Kjarnagreind beitir sömu hegðunar-, fráviksbundnu hugsun sem lýst er í þessari handbók sérstaklega varðandi forritaöryggi: að tengja saman niðurstöður í núverandi skönnum þínum (ekki bara Xygeni's eigin), meta það sem er í raun hægt að nýta í stað þess að flæða teymi með hráum viðvörunarmagni, útskýra hvers vegna tiltekin áhætta skiptir máli og búa til úrbætur pull request í staðinn fyrir enn eitt sektarmiða. DevAI Þessi sama varnarstaða nær yfir nýjasta hluta árásarflatarins: gervigreindarforrit og aðstoðarmenn, staðfesta færniskrár og leiðbeiningar umboðsmanna og loka fyrir illgjarn uppsetningu áður en umboðsmaður grípur til aðgerða. Markmiðið er það sama og þessi handbók heldur fram á SOC-stigi, beitt á pipeline: breyta forskoti gervigreindar á rúmmál og hraða í forskot varnarmanns í stað sóknarmanns.
Byrjaðu frítt. Sign up with GitHub, GitLab eða Google og fáðu innsýn í allt að 25 gagnasöfn og 50 gervigreindarskannanir á mánuði án endurgjalds og án þess að þurfa kreditkort.
FAQ
Hvað er gervigreind í netöryggi?
Gervigreind í netöryggi felst í notkun vélanáms, náttúrulegrar tungumálsvinnslu og stórra tungumálalíkana bæði á árásar- og varnarhlið öryggisins. Árásarmenn nota hana til að búa til sannfærandi netveiðiefni, djúpfölsun og aðlögunarhæfan spilliforrit; varnarmenn nota sömu undirliggjandi aðferðir til að greina frávik, flokka viðvaranir og bregðast sjálfvirkt við.
Er gervigreind hættulegri sem árásartæki eða gagnlegri sem varnartæki?
Hvorugur aðilinn hefur varanlegan kost því báðir byggja á sömu undirliggjandi getu. Fyrirtækin sem eru í meiri hættu eru þau sem hafa ekki enn beitt gervigreind í vörn á sama hraða og árásarmenn hafa beitt henni í sókn, ekki þau sem standa frammi fyrir tæknibili sem þeir geta ekki brúað.
Getur gervigreind komið að fullu í stað mannlegra greinenda í SOC?
Nei, og áhættan af því að reyna að gera það (falskar jákvæðar niðurstöður frá illa stilltum líkönum, skekkjur frá ófullkomnum þjálfunargögnum og andstæð stjórnun á sjálfu greiningarkerfinu) er einmitt ástæðan fyrir því að eftirlit með mönnum er enn nauðsynlegt. Raunverulegt gildi gervigreindar er að hreinsa biðröðina svo sérfræðingar geti einbeitt sér að þeim matsþáttum sem enn þarfnast manns.
Hvernig er áhætta á árásum sem knúin eru af gervigreind öðruvísi fyrir hugbúnaðarþróunarteymi sérstaklega?
Auk phishing og djúpfölsunar standa þróunarteymi frammi fyrir áhættum sem tengjast gervigreind innan SDLC sjálft: Gervigreindarforrit sem setja upp ofskynjanir eða illgjarnar ósjálfstæðir þættir, óskoðaðar leiðbeiningar fyrir forrit í færniskrám og gervigreindarforrit sem endurskapar harðkóðað leyndarmál. Sú hlið gervigreindar í netöryggi er fjallað nánar í okkar Leiðbeiningar um öryggi í framboðskeðju gervigreindar.
