Finančný zamestnanec v strojárskej firme Arup sa pripojil/a k videohovoru s niekoľkými kolegami vrátane finančného riaditeľa spoločnosti. Každý jeden z nich bol deepfake vygenerovaný umelou inteligenciou. Hovor sa skončil prevodom 25 miliónov dolárov útočníkom. Žiadny malvér, žiadny phishingový odkaz, žiadna zneužitá zraniteľnosť: len umelá inteligencia, použitá dostatočne presvedčivo na to, aby dôvera urobila zvyšok. Tento jediný incident vystihuje, prečo sa umelá inteligencia v kybernetickej bezpečnosti stala určujúcou témou v tejto oblasti. Tá istá technológia, ktorá vytvorila tento deepfake, teraz aj inde v odvetví zachytáva anomáliu, ktorá by ho zastavila. Táto príručka o bezpečnosti umelej inteligencie pokrýva obe strany: ako umelá inteligencia útočí, ako sa umelá inteligencia bráni a čo to znamená pre to, na čo by sa bezpečnostné tímy mali ďalej zamerať.
UI v kybernetickej bezpečnosti, v jednom odseku
Umelá inteligencia v kybernetickej bezpečnosti označuje využitie strojového učenia, spracovania prirodzeného jazyka a rozsiahlych jazykových modelov na oboch stranách toho istého boja: na spustenie útokov a ich odhalenie a zastavenie. Útočníci používajú umelú inteligenciu na generovanie presvedčivého phishingového obsahu, klonovanie hlasov a tvárí a skúmanie systémov rýchlejšie ako by to dokázal ľudský tím. Obrancovia používajú rovnaké základné techniky (rozpoznávanie vzorcov naprieč obrovskými objemami dát, porozumenie prirodzenému jazyku, modelovanie správania) na odhalenie anomálií, prekonanie varovného šumu a reakciu skôr, ako dôjde k poškodeniu. Výsledkom je skutočne technológia s dvojitým použitím v rámci jedného odvetvia, a preto umelá inteligencia v kybernetickej bezpečnosti nie je kategóriou s jasnou „dobrou“ a „zlou“ stránkou. Je to schopnosť a ktokoľvek ju aplikuje rýchlejšie a precíznejšie.cisEly má momentálne výhodu.
AI ako vektor útoku
- Phishing generovaný umelou inteligenciou v priemyselnom meradle. Phishing sa kedysi dával odhaliť podľa svojich varovných signálov: nešikovné frázy, všeobecné pozdravy, zjavné falošné domény. Umelá inteligencia väčšinu týchto signálov odstránila. Podľa Hoxhuntov Správa o trendoch phishingu za rok 2026Phishing generovaný umelou inteligenciou vzrástol zo 4 % všetkých hlásených pokusov o phishing v novembri 2025 na 56 % v decembri 2025, čo predstavuje 14-násobný nárast za jediný mesiac, a do polovice roka 2026 tvoril približne 40 % všetkých hlásených pokusov o phishing. Rozdiel v účinnosti je rovnako výrazný: a štúdia na ľuďoch od výskumníkov z Harvard Kennedy School zistili, že plne automatizované phishingové e-maily s umelou inteligenciou dosiahli 54 % mieru preklikov, čo zodpovedá skúseným ľudským expertom a výrazne prekonáva 12 % mieru preklikov generických phishingových e-mailov kontrolnej skupiny. UI nielenže píše ďalšie phishingové e-maily. Píše také, ktoré fungujú.
- Deepfakes, ktoré sa zameriavajú na dôveru, nie na infraštruktúru. Prípad Arup Vyššie uvedené už nie je výnimkou; je to šablóna. Hlas a video generované umelou inteligenciou sú dostatočne presvedčivé na to, aby vyzerali ako skutočný manažér počas živého hovoru, čím sa sociálne inžinierstvo mení z „oklamania niekoho, aby klikol“ na „oklamania niekoho, aby uveril, že sa pozerá na svojho finančného riaditeľa“. To je zásadne ťažší problém, ktorý je potrebné vyriešiť školením zameraným na bezpečnostné povedomie, pretože k klamstvu dochádza na percepčnej, nie na technickej úrovni.
- Rýchlejší prieskum a adaptívny malvér. Okrem sociálneho inžinierstva umelá inteligencia skracuje vzdialenosť medzi „útočník má nápad“ a „útočník má funkčný exploit“. Rozsiahle jazykové modely môžu urýchliť výskum zraniteľností verejne dostupného kódu a infraštruktúry cieľa a adaptívny malvér dokáže zmeniť svoje vlastné správanie počas vykonávania, ak zistí, že je analyzovaný v sandboxe, čo je funkcia, ktorá predtým vyžadovala sledovanie v reálnom čase skúseným ľudským operátorom.
- Útoky na poverenia rýchlosťou stroja. Zadávanie uniknutých súborov poverení do modelu s cieľom zistiť, aké vzory ľudia skutočne používajú, keď si myslia, že sú s heslom „múdri“, mení metódu hádania a overovania na niečo bližšie k predikcii. V kombinácii s automatizovaným dopĺňaním poverení sa to komprimuje z toho, čo bývalo pomalým a hlučným útokom, na niečo rýchle a tiché.
UI ako obranný nástroj
- Detekcia anomálií v rozsahu, aký ľudia nedokážu dosiahnuť. Hlavnou obrannou hodnotou umelej inteligencie je spracovanie objemov sieťovej prevádzky, login aktivitu a systémové protokoly, ktoré žiadny analytický tím nemohol manuálne skontrolovať, a označovanie toho, čo sa odchyľuje od stanovenej základnej úrovne. Toto zachytáva útoky, ktoré ešte nemajú známy podpis, vrátane útokov nulového dňa a zneužitia internými osobami, ktoré by nespustilo upozornenie založené na pravidlách.
- Prestrihnutie frontu upozornení, nie jeho pridanie doň. Toto je tiež oblasť, kde má umelá inteligencia v kybernetickej bezpečnosti najväčší okamžitý operačný prínos a kde má toto odvetvie stále čo robiť. Výskum spoločnosti Vectra AI z roku 2026 zistili, že organizácie dostávajú v priemere 2 992 bezpečnostných upozornení denne, pričom 63 % z nich zostáva neprešetrených, a Spoločnosti Microsoft a Omdia Stav SOC: Zjednotiť teraz alebo plať neskôr správy zistili, že 46 % všetkých upozornení sa ukáže ako falošne pozitívnych a 42 % zostane úplne nevyšetrených. Triedenie riadené umelou inteligenciou nielenže pridáva ďalší detektor do kopy. Ak sa to urobí dobre, spája súvisiace upozornenia do jedného incidentu, hodnotí to, čo si skutočne zaslúži ľudskú pozornosť, a umožňuje analytikom venovať svoj čas tej časti upozornení, ktoré predstavujú skutočné riziko, namiesto manuálneho uzatvárania zvyšku.
- Klasifikácia škodlivého softvéru a správania nad rámec známych podpisov. Rovnaký prístup behaviorálnej analýzy, ktorý označuje anomálnu sieťovú aktivitu, funguje aj na súbory a balíky: namiesto porovnávania so zoznamom známych škodlivých podpisov dokáže umelá inteligencia hodnotiť správanie počas inštalácie, nezvyčajné systémové volania a vzorce zahmlievania, aby zachytila škodlivý softvér, ktorý sa ešte nikdy nevidel, v momente, keď sa objaví, a nie až po jeho odtlačkoch prstov.
- Automatizovaná, obmedzená odpoveď. Detekcia bez akcie len posúva čas. Reakcia riadená umelou inteligenciou dokáže izolovať postihnuté zariadenie, zablokovať podozrivú prevádzku a automaticky spustiť obmedzenie, čím sa v najdôležitejších prípadoch skráti medzera medzi „videli sme to“ a „zastavili sme to“ z hodín na sekundy.
Prečo rovnaké techniky fungujú oboma spôsobmi?
Nepríjemnou pravdou v tejto príručke o bezpečnosti umelej inteligencie je, že útočníci a obrancovia často používajú rovnakú základnú schopnosť na opačné účely. Modelovanie prirodzeného jazyka, ktoré napíše presvedčivý phishingový e-mail, je tá istá technológia, ktorá prečíta podozrivý e-mail a správne ho klasifikuje ako taký. Rozpoznávanie vzorov, ktoré umožňuje škodlivému softvéru prispôsobiť sa, aby sa vyhol sandboxu, je architektonicky podobné rozpoznávaniu vzorov, ktoré v prvom rade označuje správanie škodlivého softvéru ako anomálne. Ani jedna strana nemá monopol na technológiu, čo znamená, že výhodu má ten, kto ju komplexnejšie integruje do svojho skutočného pracovného postupu, nie ten, kto má prístup k pokročilejšiemu modelu.
Táto symetria je tiež dôvodom, prečo umelá inteligencia v kybernetickej bezpečnosti prináša svoje vlastné riziká na defenzívnej strane. Systémy umelej inteligencie môžu generovať falošne pozitívne výsledky, ktoré pri nesprávnom naladení zahmlievajú skutočný signál, zdediť skreslenie z neúplných tréningových údajov a v dôsledku toho prehliadnuť celé triedy hrozieb a samy o sebe môžu byť cieľom útočných techník, kde útočník zámerne poskytuje detekčnému modelu zavádzajúce údaje, aby manipuloval s tým, čo signalizuje. Nič z toho nie je dôvodom na to, aby sa umelá inteligencia v defenzíve vyhýbala. Je to dôvod na to, aby človek bol informovaný o svojom úsudku a aby sa so samotným systémom umelej inteligencie zaobchádzalo ako s niečím, čo treba monitorovať, nie s niečím, čo nasadíte raz a dôverujete tomu donekonečna.
Čo tento sprievodca zabezpečením umelej inteligencie znamená pre váš tím
Päť krokov oddeľuje tímy, ktoré získavajú skutočnú hodnotu z umelej inteligencie v kybernetickej bezpečnosti, od tímov, ktoré práve pridali ďalší nástroj:
- Nečakajte, kým sa útoky „poháňané umelou inteligenciou“ stanú väčšinou, a potom investujte do defenzívy. Vyššie uvedené údaje o phishingu ukazujú, ako rýchlo sa môže menšinová taktika stať dominantnou. Budujte detekčnú kapacitu pred nárastom, nie počas neho.
- Najprv namierte umelú inteligenciu na triediaci front, nielen na perimetr. Najrýchlejším a najmerateľnejším víťazstvom pre väčšinu tímov je zníženie objemu falošne pozitívnych výsledkov, ktoré musí analytik manuálne vymazať, nie pridávanie novej detekčnej vrstvy.
- Riziko deepfake a klonovania hlasu berte ako procesný problém, nie ako technologický problém. Žiadny detekčný nástroj úplne nezakryje medzeru v štýle Arup. Mimo pásmové overenie akejkoľvek požiadavky týkajúcej sa pohybu peňazí alebo zmien poverení.
- Rozšíriť rovnaké behaviorálne myslenie riadené umelou inteligenciou na kód a pipelines, nielen sieťová prevádzka. Útočníci sa čoraz častejšie zameriavajú priamo na dodávateľský reťazec softvéru (škodlivé balíky, halucinované závislosti, nepreverené pokyny agentov), čo je riziková kategória s vlastnou dynamikou, ktorá je podrobne popísaná v našom sprievodcovi Bezpečnosť dodávateľského reťazca s umelou inteligenciou.
- Nechajte človeka niesť zodpovednosť za rozhodnutia umelej inteligencie. Automatická reakcia je cenná práve preto, že je rýchla, a preto potrebuje jasnú cestu k eskalácii, keď sa niečo pokazí.
Kam smeruje umelá inteligencia v kybernetickej bezpečnosti
Najbližšie roky budú definovať dva posuny. Po prvé, útočná strana sa konsoliduje okolo menšieho počtu presvedčivejších taktík namiesto početnejších surových: phishing a deepfake generované umelou inteligenciou nie sú širšou sieťou; sú ostrejším háčikom. Po druhé, obranná strana sa presúva od „detekcie a upozornenia človeka“ k „detekcii, vyhodnoteniu a konaniu skôr, ako existuje tiket“, čo je presne ten posun, ktorý zmenšuje priepasť medzi 2 992 dennými upozorneniami, ktorým čelí väčšina SOC, a zlomkom tých, ktoré sa na ne vôbec skutočne pozrú. Organizácie, ktoré sa ťahajú dopredu, sú tie, ktoré uplatňujú tento posun všade, kde sa umelá inteligencia už dotýka ich prostredia, vrátane kódu, ktorý ich vývojári dodávajú, nielen v prevádzke prechádzajúcej ich sieťovým perimetrom.
Pohľad spoločnosti Xygeni: Zabezpečenie umelej inteligencie sa musí vzťahovať na kód, nielen na doručenú poštu
Väčšina pokrytia umelej inteligencie v kybernetickej bezpečnosti sa zastavuje pri SOC: phishing, malware, sieťové anomálie. To je nevyhnutné a zároveň neúplné, pretože rastúci podiel rizík spôsobených umelou inteligenciou sa teraz nachádza v samotnom životnom cykle vývoja softvéru, kde nástroje SOC nesledujú.
Xygeni's CoreAI aplikuje rovnaké behaviorálne, na anomálie založené myslenie, aké je opísané v tejto príručke, konkrétne na bezpečnosť aplikácií: koreluje zistenia medzi vašimi existujúcimi skenermi (nielen Xygeni's vlastné), hodnotenie toho, čo je skutočne zneužiteľné namiesto zahlcovania tímov objemom surových upozornení, vysvetľovanie, prečo je dané riziko dôležité, a generovanie nápravy pull request namiesto ďalšieho nevybaveného lístka. DevAI rozširuje tú istú obrannú pozíciu do najnovšej časti útočnej plochy: kódovanie agentov a asistentov pomocou umelej inteligencie, overovanie súborov zručností a pokynov agentov a blokovanie škodlivej inštalácie skôr, ako na ňu agent vôbec zareaguje. Cieľ je rovnaký, aký táto príručka obhajuje na úrovni SOC, aplikovaný na pipeline: premeniť výhodu AI nad objemom a rýchlosťou na výhodu obrancu namiesto útočníka.
Začnite zadarmo. Sign up with GitHub, GitLab alebo Google a získajte prehľad až do 25 repozitárov a 50 skenov umelej inteligencie mesačne bezplatne a bez nutnosti platenia kreditnou kartou.
Často kladené otázky
Čo je umelá inteligencia v kybernetickej bezpečnosti?
Umelá inteligencia v kybernetickej bezpečnosti predstavuje využitie strojového učenia, spracovania prirodzeného jazyka a rozsiahlych jazykových modelov na útočiacej aj obrannej strane bezpečnosti. Útočníci ju používajú na generovanie presvedčivého phishingového obsahu, deepfakov a adaptívneho malvéru; obrancovia používajú rovnaké základné techniky na detekciu anomálií, triedenie upozornení a automatizovanú reakciu.
Je umelá inteligencia nebezpečnejšia ako útočný nástroj alebo užitočnejšia ako obranný nástroj?
Ani jedna strana nemá trvalú výhodu, pretože obe sú postavené na rovnakej základnej schopnosti. Organizácie, ktoré sú vystavené väčšiemu riziku, sú tie, ktoré ešte neaplikovali umelú inteligenciu v defenzíve rovnakým tempom, akým ju útočníci aplikovali ofenzívne, nie tie, ktoré čelia technologickej medzere, ktorú nedokážu preklenúť.
Dokáže umelá inteligencia plne nahradiť ľudských analytikov v SOC?
Nie, a riziká spojené s pokusmi o to (falošne pozitívne výsledky zo zle vyladených modelov, skreslenie z neúplných tréningových údajov a manipulácia samotného detekčného systému zo strany nepriateľov) sú presne dôvodom, prečo je ľudský dohľad naďalej nevyhnutný. Skutočná hodnota umelej inteligencie spočíva v uvoľňovaní frontu, aby sa analytici mohli sústrediť na rozhodnutia, ktoré stále potrebujú človeka.
Aký je rozdiel medzi rizikom útokov riadených umelou inteligenciou a konkrétne pre tímy vývoja softvéru?
Okrem phishingu a deepfakov čelia vývojové tímy rizikám špecifickým pre umelú inteligenciu vo vnútri SDLC samotná: Agenti kódujúci umelou inteligenciou inštalujúci halucinogénne alebo škodlivé závislosti, neskontrolované inštrukcie agentov v súboroch s znalosťami a kód generovaný umelou inteligenciou, ktorý reprodukuje pevne zakódované tajomstvá. Táto stránka umelej inteligencie v kybernetickej bezpečnosti je podrobnejšie popísaná v našej Sprievodca bezpečnosťou dodávateľského reťazca s umelou inteligenciou.
