Financijski zaposlenik u inženjerskoj tvrtki Arup se pridružio videopozivu s nekoliko kolega, uključujući financijskog direktora tvrtke. Svaki od njih bio je deepfake generiran umjetnom inteligencijom. Poziv je završio s 25 milijuna dolara prebačenih napadačima. Nema zlonamjernog softvera, nema phishing poveznice, nema iskorištene ranjivosti: samo umjetna inteligencija, korištena dovoljno uvjerljivo da je povjerenje učinilo ostalo. Taj jedan incident obuhvaća zašto je umjetna inteligencija u kibernetičkoj sigurnosti postala ključna tema u tom području. Ista tehnologija koja je izgradila taj deepfake, drugdje u industriji, hvata anomaliju koja bi ga zaustavila. Ovaj vodič za umjetnu inteligenciju pokriva obje strane: kako umjetna inteligencija napada, kako se umjetna inteligencija brani i što to znači za ono na što bi se sigurnosni timovi trebali sljedeće usredotočiti.
Umjetna inteligencija u kibernetičkoj sigurnosti, u jednom odlomku
Umjetna inteligencija u kibernetičkoj sigurnosti odnosi se na korištenje strojnog učenja, obrade prirodnog jezika i velikih jezičnih modela na obje strane iste borbe: za pokretanje napada te njihovo otkrivanje i zaustavljanje. Napadači koriste umjetnu inteligenciju za generiranje uvjerljivog phishing sadržaja, kloniranje glasova i lica te brže ispitivanje sustava nego što bi to mogao ljudski tim. Branitelji koriste iste temeljne tehnike (prepoznavanje uzoraka na ogromnim količinama podataka, razumijevanje prirodnog jezika, modeliranje ponašanja) kako bi uočili anomalije, probili buku upozorenja i reagirali prije nego što se šteta pogorša. Rezultat je istinski tehnologija dvojne namjene unutar jedne industrije, zbog čega umjetna inteligencija u kibernetičkoj sigurnosti nije kategorija s jasnom „dobrom“ i „lošom“ stranom. To je sposobnost, a tko god je primijeni brže i preciznije...cisEly trenutno ima prednost.
Umjetna inteligencija kao vektor napada
- Phishing generiran umjetnom inteligencijom u industrijskim razmjerima. Phishing se nekada mogao prepoznati po svojim znakovima: nespretnim frazama, generičkim pozdravima, očitim lažnim domenama. Umjetna inteligencija uklonila je većinu tih znakova. Prema Hoxhuntov Izvješće o trendovima krađe identiteta za 2026. godinu, phishing generiran umjetnom inteligencijom skočio je s 4% svih prijavljenih pokušaja phishinga u studenom 2025. na 56% u prosincu 2025., što je 14 puta više u jednom mjesecu, te je do sredine 2026. činio oko 40% svih prijavljenih pokušaja phishinga. Razlika u učinkovitosti jednako je velika: a studija na ljudima koju su proveli istraživači Harvard Kennedy School otkrili su da su potpuno automatizirane phishing e-poruke pomoću umjetne inteligencije postigle stopu klikanja od 54%, što je usporedivo s vještim ljudskim stručnjacima i daleko nadmašilo stopu klikanja od 12% generičkih phishing e-poruka kontrolne skupine. Umjetna inteligencija ne piše samo više phishing e-poruka. Piše one koje djeluju.
- Deepfakeovi koji ciljaju povjerenje, a ne infrastrukturu. The Arupov slučaj Gore navedeno više nije izuzetak; to je predložak. Glas i video generirani umjetnom inteligencijom dovoljno su uvjerljivi da prođu kao pravi rukovoditelj na pozivu uživo, pretvarajući društveni inženjering iz "prevarite nekoga da klikne" u "prevarite nekoga da povjeruje da gleda svog financijskog direktora". To je fundamentalno teži problem za rješavanje obuke o sigurnosnoj svijesti, jer se obmana događa na perceptivnoj, a ne na tehničkoj razini.
- Brže izviđanje i adaptivni zlonamjerni softver. Osim društvenog inženjeringa, umjetna inteligencija skraćuje udaljenost između „napadač ima ideju“ i „napadač ima funkcionalni exploit“. Veliki jezični modeli mogu ubrzati istraživanje ranjivosti u javno dostupnom kodu i infrastrukturi mete, a adaptivni zlonamjerni softver može promijeniti vlastito ponašanje tijekom izvršavanja ako otkrije da se analizira u sandboxu, što je prije zahtijevalo vještog ljudskog operatera koji promatra u stvarnom vremenu.
- Napadi na vjerodajnice brzinom stroja. Unošenjem procurjelih skupova vjerodajnica u model kako bi se naučili obrasci koje ljudi zapravo koriste kada misle da su "pametni" s lozinkom, pogađanje i provjera pretvaraju u nešto bliže predviđanju. U kombinaciji s automatiziranim popunjavanjem vjerodajnica, ovo komprimira ono što je nekada bio spor i bučan napad u nešto brzo i tiho.
Umjetna inteligencija kao obrambeni alat
- Detekcija anomalija u mjerilu kojem ljudi ne mogu parirati. Osnovna obrambena vrijednost umjetne inteligencije je obrada velikih količina mrežnog prometa, login aktivnosti i sistemske zapisnike koje nijedan analitički tim ne bi mogao ručno pregledati i označavanje onoga što odstupa od utvrđene osnovne vrijednosti. To je ono što hvata napade bez poznatog potpisa, uključujući zero-day napade i zlouporabu od strane insajdera koja ne bi aktivirala upozorenje temeljeno na pravilima.
- Probijanje kroz red upozorenja, a ne dodavanje u njega. Ovo je također područje gdje umjetna inteligencija u kibernetičkoj sigurnosti ima najneposredniju operativnu korist i gdje industrija još uvijek ima puno posla. Istraživanje Vectre AI iz 2026. utvrđeno je da organizacije u prosjeku primaju 2,992 sigurnosna upozorenja dnevno, od čega 63% ostaje neistraženo, i Microsoft i Omdia Stanje SOC-a: Ujediniti se sada ili platiti kasnije prijaviti utvrđeno je da se 46% svih upozorenja pokaže lažno pozitivnim, a 42% se u potpunosti ne istražuje. Trijaža vođena umjetnom inteligencijom ne dodaje samo još jedan detektor na hrpu. Ako se dobro izvede, povezuje povezana upozorenja u jedan incident, ocjenjuje ono što zapravo vrijedi ljudske pažnje i omogućuje analitičarima da svoje vrijeme provedu na dijelu upozorenja koji predstavljaju stvarni rizik umjesto da ručno zatvaraju ostatak.
- Klasifikacija zlonamjernog softvera i ponašanja izvan poznatih potpisa. Isti pristup bihevioralne analize koji označava anomalne mrežne aktivnosti funkcionira i na datotekama i paketima: umjesto uspoređivanja s popisom poznatih loših potpisa, umjetna inteligencija može procijeniti ponašanje tijekom instalacije, neobične sistemske pozive i obrasce maskiranja kako bi uhvatila zlonamjerni softver koji nikada prije nije viđen, u trenutku kada se pojavi, a ne nakon što mu je uzet otisak prsta.
- Automatizirani, ograničeni odgovor. Detekcija bez djelovanja samo pomiče vrijeme. Odgovor vođen umjetnom inteligencijom može izolirati pogođeni uređaj, blokirati sumnjiv promet i automatski pokrenuti obuzdavanje, smanjujući jaz između „vidjeli smo to“ i „zaustavili smo to“ s nekoliko sati na sekunde u slučajevima koji su najvažniji.
Zašto iste tehnike režu u oba smjera?
Neugodna istina u ovom vodiču za umjetnu inteligenciju jest da napadači i branitelji često koriste istu temeljnu sposobnost za suprotne ciljeve. Modeliranje prirodnog jezika koje piše uvjerljivu phishing e-poštu ista je tehnologija koja čita sumnjivu e-poštu i ispravno je klasificira kao takvu. Prepoznavanje uzoraka koje omogućuje zlonamjernom softveru da se prilagodi kako bi izbjegao sandbox arhitektonski je slično prepoznavanju uzoraka koje uopće označava ponašanje zlonamjernog softvera kao anomalno. Nijedna strana nema monopol na tehnologiju, što znači da prednost ima onaj tko je potpunije integrira u svoj stvarni tijek rada, a ne onaj tko ima pristup naprednijem modelu.
Ta simetrija je također razlog zašto umjetna inteligencija u kibernetičkoj sigurnosti unosi vlastite rizike u obrambenom smislu. Sustavi umjetne inteligencije mogu generirati lažno pozitivne rezultate koji zatrpavaju pravi signal šumom ako su loše podešeni, nasljeđivati pristranost iz nepotpunih podataka o obuci i kao rezultat toga propustiti cijele klase prijetnji, a i sami mogu biti ciljani putem suparničkih tehnika, gdje napadač namjerno unosi zavaravajuće podatke u model detekcije kako bi manipulirao onim što označava. Ništa od toga nije razlog za izbjegavanje umjetne inteligencije u obrambenom smislu. To je razlog da se čovjeka drži u toku za procjenu i da se sam sustav umjetne inteligencije tretira kao nešto što treba pratiti, a ne kao nešto što se jednom implementira i čemu se vjeruje neograničeno.
Što ovaj vodič za sigurnost umjetne inteligencije znači za vaš tim
Pet poteza odvaja timove koji dobivaju stvarnu vrijednost od umjetne inteligencije u kibernetičkoj sigurnosti od timova koji su upravo dodali još jedan alat:
- Nemojte čekati da napadi "pokretani umjetnom inteligencijom" postanu većina prije nego što uložite u obranu. Podaci o phishingu iznad pokazuju koliko brzo taktika manjine može postati dominantna. Izgradite kapacitet detekcije prije porasta, a ne tijekom njega.
- Prvo usmjerite umjetnu inteligenciju na svoj red za trijažu, ne samo na svoj perimetar. Najbrža i najmjerljivija pobjeda za većinu timova je smanjenje broja lažno pozitivnih rezultata koje analitičar mora ručno ukloniti, a ne dodavanje novog sloja detekcije.
- Rizik od deepfakea i kloniranja glasa tretirajte kao procesni, a ne tehnološki problem. Nijedan alat za detekciju ne zatvara u potpunosti jaz u stilu Arupa. Izvanpojasna provjera za bilo koji zahtjev koji uključuje kretanje novca ili promjene vjerodajnica.
- Proširite isto bihevioralno razmišljanje vođeno umjetnom inteligencijom na kod i pipelines, ne samo mrežni promet. Napadači sve više izravno ciljaju na lanac opskrbe softverom (zlonamjerni paketi, halucinirane ovisnosti, nepregledane upute agenata), rizičnu kategoriju s vlastitom dinamikom, detaljno obrađenu u našem vodiču za sigurnost lanca opskrbe umjetnom inteligencijom.
- Neka čovjek bude odgovoran za ono što umjetna inteligencija odluči. Automatizirani odgovor je vrijedan upravo zato što je brz, zbog čega mu je potreban i jasan put eskalacije kada nešto pođe po zlu.
Kamo ide umjetna inteligencija u kibernetičkoj sigurnosti
Dva će pomaka definirati sljedećih nekoliko godina. Prvo, napadačka strana konsolidira se oko manjeg broja uvjerljivijih taktika, a ne brojnijih grubih: phishing i deepfakeovi generirani umjetnom inteligencijom nisu šira mreža; oni su oštrija udica. Drugo, obrambena strana prelazi s "otkrivanja i upozoravanja čovjeka" na "otkrivanja, bodovanja i djelovanja prije nego što postoji zahtjev", što je upravo pomak koji smanjuje jaz između 2,992 dnevna upozorenja s kojima se suočava većina SOC-ova i udjela onih koji ikada dobiju pravi uvid. Organizacije koje prednjače su one koje primjenjuju taj pomak svugdje gdje umjetna inteligencija već dotiče njihovo okruženje, uključujući kod koji njihovi programeri šalju, a ne samo promet koji prelazi njihov mrežni perimetar.
Xygenijev stav: Sigurnost umjetne inteligencije mora pokrivati kod, ne samo pristiglu poštu
Većina pokrivenosti umjetnom inteligencijom u kibernetičkoj sigurnosti završava na SOC-u: phishing, zlonamjerni softver, mrežne anomalije. To je nužno, a ujedno i nepotpuno, jer se sve veći udio rizika uzrokovanih umjetnom inteligencijom sada nalazi unutar samog životnog ciklusa razvoja softvera, gdje SOC alati ne gledaju.
Xygenijev CoreAI primjenjuje isto bihevioralno, na anomalijama temeljeno razmišljanje opisano u ovom vodiču konkretno na sigurnost aplikacija: koreliranje nalaza između vaših postojećih skenera (ne samo Xygenijev vlastiti), bodovanje onoga što se zapravo može iskoristiti umjesto preplavljivanja timova sirovim volumenom upozorenja, objašnjavanje zašto je određeni rizik važan i generiranje sanacije pull request umjesto još jedne zaostale karte. DevAI proširuje taj isti obrambeni stav na najnoviji dio površine napada: AI kodiranje agenata i asistenata, provjera vještina i uputa agenata te blokiranje zlonamjerne instalacije prije nego što agent uopće reagira na nju. Cilj je isti onaj za koji se ovaj vodič zalaže na razini SOC-a, primijenjen na pipeline: pretvoriti prednost umjetne inteligencije nad volumenom i brzinom u prednost branitelja umjesto napadača.
Započnite besplatno. Sign up with GitHub, GitLab ili Google i ostvarite uvid u do 25 repozitorija i 50 AI skeniranja mjesečno bez ikakvih troškova, bez potrebe za kreditnom karticom.
Česta pitanja
Što je umjetna inteligencija u kibernetičkoj sigurnosti?
Umjetna inteligencija u kibernetičkoj sigurnosti je korištenje strojnog učenja, obrade prirodnog jezika i velikih jezičnih modela na napadačkoj i obrambenoj strani sigurnosti. Napadači je koriste za generiranje uvjerljivog phishing sadržaja, deepfakeova i adaptivnog zlonamjernog softvera; branitelji koriste iste temeljne tehnike za otkrivanje anomalija, trijažu upozorenja i automatizirani odgovor.
Je li umjetna inteligencija opasnija kao alat za napad ili korisnija kao alat za obranu?
Niti jedna strana nema trajnu prednost jer su obje izgrađene na istoj temeljnoj sposobnosti. Organizacije koje su u većem riziku su one koje još nisu primijenile umjetnu inteligenciju obrambeno istim tempom kojim su je napadači primjenjivali ofenzivno, a ne one koje se suočavaju s tehnološkim jazom koji ne mogu zatvoriti.
Može li umjetna inteligencija u potpunosti zamijeniti ljudske analitičare u SOC-u?
Ne, a rizici pokušaja (lažno pozitivni rezultati zbog loše podešenih modela, pristranost zbog nepotpunih podataka o obuci i manipulacija samim sustavom detekcije) upravo su razlog zašto je ljudski nadzor i dalje nužan. Prava vrijednost umjetne inteligencije je čišćenje reda čekanja kako bi se analitičari mogli usredotočiti na procjene koje još uvijek zahtijevaju pomoć osobe.
Po čemu se rizik od napada uzrokovanih umjetnom inteligencijom razlikuje za timove za razvoj softvera?
Osim phishinga i deepfakeova, razvojni timovi suočavaju se s rizicima specifičnim za umjetnu inteligenciju unutar SDLC sebe: Agenti umjetne inteligencije koji kodiraju i instaliraju halucinirane ili zlonamjerne ovisnosti, nepregledane upute agenata u datotekama vještina i kod generiran umjetnom inteligencijom koji reproducira čvrsto kodirane tajne. Ta strana umjetne inteligencije u kibernetičkoj sigurnosti detaljnije je obrađena u našem Vodič za sigurnost lanca opskrbe umjetnom inteligencijom.
