Pracownik finansowy w firmie inżynieryjnej Arup dołączył do rozmowy wideo z kilkoma kolegami, w tym dyrektorem finansowym firmy. Każdy z nich był deepfake'iem wygenerowanym przez sztuczną inteligencję. Rozmowa zakończyła się przekazaniem atakującym 25 milionów dolarów. Żadnego złośliwego oprogramowania, żadnego linku phishingowego, żadnej wykorzystanej luki: po prostu sztuczna inteligencja, użyta w sposób wystarczająco przekonujący, aby zaufanie zrobiło resztę. Ten pojedynczy incydent pokazuje, dlaczego sztuczna inteligencja w cyberbezpieczeństwie stała się tematem definiującym tę dziedzinę. Ta sama technologia, która zbudowała deepfake, w innych częściach branży wykrywa anomalię, która mogłaby ją powstrzymać. Ten poradnik bezpieczeństwa sztucznej inteligencji obejmuje obie strony: jak sztuczna inteligencja atakuje, jak sztuczna inteligencja się broni i co to oznacza dla zespołów ds. bezpieczeństwa, które powinny skupić się w następnej kolejności.
Sztuczna inteligencja w cyberbezpieczeństwie, w jednym akapicie
Sztuczna inteligencja w cyberbezpieczeństwie odnosi się do wykorzystania uczenia maszynowego, przetwarzania języka naturalnego i dużych modeli językowych po obu stronach tej samej walki: w celu przeprowadzania ataków oraz ich wykrywania i zatrzymywania. Atakujący wykorzystują sztuczną inteligencję do generowania przekonujących treści phishingowych, klonowania głosów i twarzy oraz badania systemów szybciej niż zrobiłby to zespół ludzki. Obrońcy wykorzystują te same podstawowe techniki (rozpoznawanie wzorców w ogromnych wolumenach danych, rozumienie języka naturalnego, modelowanie behawioralne), aby wykrywać anomalie, przebijać się przez szum alarmowy i reagować, zanim szkody się skumulują. Rezultatem jest technologia o podwójnym zastosowaniu w ramach jednej branży, dlatego sztuczna inteligencja w cyberbezpieczeństwie nie jest kategorią z wyraźnymi „dobrymi” i „złymi” stronami. To zdolność, a ten, kto ją zastosuje szybciej i bardziej wcześniej, będzie w stanie ją wykorzystać.cisely ma obecnie przewagę.
Sztuczna inteligencja jako wektor ataku
- Phishing generowany przez sztuczną inteligencję na skalę przemysłową. Phishing można było kiedyś wykryć po charakterystycznych cechach: niezręcznych sformułowaniach, ogólnych powitaniach, ewidentnie fałszywych domenach. Sztuczna inteligencja usunęła większość tych oznak. Według Hoxhunt'a Raport o trendach phishingu w 2026 r.Phishing generowany przez sztuczną inteligencję wzrósł z 4% wszystkich zgłoszonych prób phishingu w listopadzie 2025 r. do 56% w grudniu 2025 r., co stanowi 14-krotny wzrost w ciągu jednego miesiąca, i do połowy 2026 r. utrzymywał się na poziomie około 40% wszystkich zgłoszonych prób phishingu. Różnica w skuteczności jest równie wyraźna: badanie na ludziach przeprowadzone przez naukowców z Harvard Kennedy School Odkryto, że w pełni zautomatyzowane przez sztuczną inteligencję wiadomości e-mail typu spear phishing osiągnęły 54% współczynnik klikalności, dorównując wykwalifikowanym ekspertom i znacznie przewyższając 12% współczynnik klikalności standardowych wiadomości phishingowych z grupy kontrolnej. Sztuczna inteligencja nie tylko pisze więcej wiadomości phishingowych. Ona pisze te, które działają.
- Deepfake'i atakują zaufanie, a nie infrastrukturę. Sprawa Arup Powyższe nie jest już wyjątkiem, lecz szablonem. Głos i obraz generowane przez sztuczną inteligencję są na tyle przekonujące, że można je porównać do głosu prawdziwego dyrektora podczas rozmowy na żywo, zmieniając socjotechnikę z „nakłonienia kogoś do kliknięcia” w „nakłonienia kogoś do uwierzenia, że patrzy na swojego dyrektora finansowego”. To fundamentalnie trudniejszy problem do rozwiązania w ramach szkoleń z zakresu świadomości bezpieczeństwa, ponieważ oszustwo odbywa się na poziomie percepcyjnym, a nie technicznym.
- Szybsze rozpoznanie i adaptacyjne złośliwe oprogramowanie. Poza inżynierią społeczną, sztuczna inteligencja skraca dystans między „atakujący ma pomysł” a „atakujący ma działający exploit”. Duże modele językowe mogą przyspieszyć badania luk w zabezpieczeniach publicznie dostępnego kodu i infrastruktury atakującego, a adaptacyjne złośliwe oprogramowanie może zmieniać swoje zachowanie w trakcie wykonywania, jeśli wykryje, że jest analizowane w piaskownicy – funkcja, która wcześniej wymagała doświadczonego operatora obserwującego w czasie rzeczywistym.
- Ataki na dane uwierzytelniające przeprowadzane z prędkością maszyny. Wprowadzenie wyciekłych zestawów danych uwierzytelniających do modelu, aby poznać wzorce, którymi ludzie posługują się, myśląc, że są „sprytni” w kwestii hasła, zmienia metodę „zgadnij i sprawdź” w coś bliższego przewidywaniu. W połączeniu z automatycznym wypełnianiem danych uwierzytelniających, kompresuje to, co kiedyś było powolnym, zaszumionym atakiem, w coś szybkiego i cichego.
Sztuczna inteligencja jako narzędzie obronne
- Wykrywanie anomalii na skalę, której człowiek nie jest w stanie osiągnąć. Podstawową wartością obronną sztucznej inteligencji jest przetwarzanie dużych ilości ruchu sieciowego, login aktywności i dzienników systemowych, których żaden zespół analityków nie mógłby ręcznie przejrzeć, oraz sygnalizowania odchyleń od ustalonej linii bazowej. To właśnie wykrywa ataki o nieznanej jeszcze sygnaturze, w tym ataki typu zero-day i nadużycia wewnętrzne, które nie wygenerowałyby alertu opartego na regułach.
- Omijanie kolejki alertów, a nie jej wydłużanie. To właśnie w tym obszarze sztuczna inteligencja w cyberbezpieczeństwie przynosi największe korzyści operacyjne, a branża ma jeszcze realne zadania do wykonania. Badania Vectra AI z 2026 r. ustalono, że organizacje otrzymują średnio 2,992 alertów bezpieczeństwa dziennie, przy czym 63% z nich nie jest przedmiotem dochodzenia, Microsoft i Omdia Stan SOC: zjednocz się teraz lub zapłać później raport Odkryto, że 46% wszystkich alertów okazuje się fałszywie dodatnich, a 42% pozostaje bez zbadania. Triaż oparty na sztucznej inteligencji nie tylko dodaje kolejny detektor do tej listy. Dobrze wykonany, koreluje powiązane alerty w pojedynczy incydent, ocenia, co faktycznie zasługuje na uwagę człowieka i pozwala analitykom poświęcić czas na ułamek alertów, które stanowią realne ryzyko, zamiast ręcznie zamykać resztę.
- Klasyfikacja złośliwego oprogramowania i zachowań wykraczająca poza znane sygnatury. To samo podejście oparte na analizie zachowań, które sygnalizuje nietypową aktywność sieciową, działa również w przypadku plików i pakietów: zamiast porównywać je z listą znanych złych sygnatur, sztuczna inteligencja może oceniać zachowanie podczas instalacji, nietypowe wywołania systemowe i wzorce zaciemniania, aby wykrywać złośliwe oprogramowanie, którego nigdy wcześniej nie widziano, w momencie jego pojawienia się, a nie po jego zidentyfikowaniu.
- Zautomatyzowana, ograniczona odpowiedź. Wykrycie bez podjęcia działań tylko przyspiesza działanie zegara. Reakcja oparta na sztucznej inteligencji może odizolować zainfekowane urządzenie, zablokować podejrzany ruch i automatycznie rozpocząć działania powstrzymujące, skracając czas między momentem „zobaczyliśmy” a momentem „zatrzymaliśmy” z godzin do sekund w najważniejszych przypadkach.
Dlaczego te same techniki działają w obie strony?
Niewygodna prawda zawarta w tym poradniku dotyczącym bezpieczeństwa sztucznej inteligencji jest taka, że atakujący i obrońcy często wykorzystują tę samą podstawową funkcjonalność, działając w przeciwnych kierunkach. Modelowanie języka naturalnego, które tworzy przekonujący e-mail phishingowy, to ta sama technologia, która odczytuje podejrzaną wiadomość i prawidłowo ją klasyfikuje. Rozpoznawanie wzorców, które pozwala złośliwemu oprogramowaniu adaptować się do omijania piaskownicy, jest architektonicznie podobne do rozpoznawania wzorców, które od samego początku oznacza zachowanie złośliwego oprogramowania jako anomalne. Żadna ze stron nie ma monopolu na tę technologię, co oznacza, że przewagę zyskuje ten, kto zintegruje ją w pełni ze swoim rzeczywistym procesem, a nie ten, kto ma dostęp do bardziej zaawansowanego modelu.
Ta symetria jest również powodem, dla którego sztuczna inteligencja w cyberbezpieczeństwie niesie ze sobą własne ryzyko obronne. Systemy sztucznej inteligencji mogą generować fałszywe alarmy, które w przypadku słabego dostrojenia zagłuszają prawdziwy sygnał, dziedziczą błędy wynikające z niekompletnych danych treningowych i w rezultacie pomijają całe klasy zagrożeń, a same mogą stać się celem ataków za pomocą technik adwersarskich, gdzie atakujący celowo wprowadza do modelu detekcji mylące dane, aby manipulować tym, co sygnalizuje. Żaden z tych argumentów nie uzasadnia defensywnego unikania sztucznej inteligencji. Chodzi o to, aby człowiek był na bieżąco z decyzjami i traktował sam system sztucznej inteligencji jako coś, co wymaga monitorowania, a nie jako coś, co wdraża się raz i czemu można zaufać na zawsze.
Co ten przewodnik po bezpieczeństwie sztucznej inteligencji oznacza dla Twojego zespołu
Pięć ruchów oddziela zespoły, które czerpią realne korzyści ze sztucznej inteligencji w cyberbezpieczeństwie, od zespołów, które po prostu dodały kolejne narzędzie:
- Nie czekaj, aż ataki oparte na sztucznej inteligencji staną się powszechne, zanim zainwestujesz środki defensywne. Powyższe dane dotyczące phishingu pokazują, jak szybko taktyka mniejszościowa może stać się dominującą. Zbuduj potencjał wykrywania przed falą ataków, a nie w jej trakcie.
- Najpierw skieruj sztuczną inteligencję na kolejkę triażową, a nie tylko na jej teren. Najszybszym i najbardziej mierzalnym osiągnięciem dla większości zespołów jest zmniejszenie liczby fałszywych alarmów, które analityk musi ręcznie usuwać, a nie dodawanie nowej warstwy wykrywania.
- Ryzyko związane z deepfake'iem i klonowaniem głosu należy traktować jako problem procesowy, a nie technologiczny. Żadne narzędzie do wykrywania nie jest w stanie w pełni wyeliminować luki w stylu Arup. Weryfikacja poza pasmem dla każdego żądania dotyczącego przepływu pieniędzy lub zmian danych uwierzytelniających.
- Rozszerz to samo myślenie behawioralne oparte na sztucznej inteligencji na kod i pipelines, nie tylko ruch sieciowy. Coraz częściej atakujący biorą na celownik łańcuch dostaw oprogramowania (złośliwe pakiety, domniemane zależności, nieprzejrzane instrukcje agentów), a jest to kategoria ryzyka z własną dynamiką, szczegółowo opisana w naszym poradniku dotyczącym bezpieczeństwa łańcucha dostaw sztucznej inteligencji.
- Wymagaj od człowieka odpowiedzialności za decyzje sztucznej inteligencji. Wartość automatycznej odpowiedzi tkwi właśnie w jej szybkości, dlatego też potrzebna jest jasna ścieżka eskalacji w przypadku wystąpienia błędu.
Dokąd zmierza sztuczna inteligencja w cyberbezpieczeństwie
Dwie zmiany zdefiniują najbliższe lata. Po pierwsze, strona atakująca konsoliduje się wokół mniejszej liczby, bardziej przekonujących taktyk, zamiast licznych, prymitywnych: phishing i deepfake’i generowane przez sztuczną inteligencję nie stanowią szerszej sieci, lecz ostrzejszy hak. Po drugie, strona broniąca się odchodzi od podejścia „wykryj i zaalarmuj człowieka” na rzecz podejścia „wykryj, zgłoś i działaj, zanim pojawi się zgłoszenie”, co jest właśnie tą zmianą, która niweluje lukę między 2,992 alertami dziennie, z którymi boryka się większość centrów bezpieczeństwa (SOC), a ułamkiem tych, które w ogóle się nimi zajmują. Organizacje, które wyprzedzają konkurencję, to te, które stosują tę zmianę wszędzie tam, gdzie sztuczna inteligencja ma już kontakt z ich środowiskiem, w tym w kodzie publikowanym przez ich programistów, a nie tylko w ruchu przekraczającym granice ich sieci.
Opinia Xygeni: bezpieczeństwo sztucznej inteligencji musi obejmować kod, a nie tylko skrzynkę odbiorczą
Większość informacji o sztucznej inteligencji w cyberbezpieczeństwie kończy się na SOC: phishingu, złośliwym oprogramowaniu, anomaliach sieciowych. To konieczne, ale i niekompletne, ponieważ coraz większa część ryzyka związanego ze sztuczną inteligencją ma miejsce w samym cyklu rozwoju oprogramowania, gdzie narzędzia SOC nie są w stanie się odnaleźć.
Xygeni'ego CoreAI stosuje to samo behawioralne myślenie oparte na anomaliach, które opisano w tym przewodniku, w szczególności w odniesieniu do bezpieczeństwa aplikacji: koreluje ustalenia w obrębie istniejących skanerów (nie tylko Xygeni'ego własne), oceniając to, co faktycznie można wykorzystać, zamiast zalewać zespoły surową ilością alertów, wyjaśniając, dlaczego dane ryzyko ma znaczenie i generując środki zaradcze pull request zamiast kolejnego zaległego zgłoszenia. DevAI rozszerza tę samą postawę obronną na najnowszy element powierzchni ataku: kodowanie agentów i asystentów AI, weryfikację plików umiejętności i instrukcji agentów oraz blokowanie złośliwej instalacji, zanim agent w ogóle na nią zareaguje. Cel jest taki sam, jak ten, o którym mowa w tym przewodniku na poziomie SOC, zastosowany do… pipeline:zmienić przewagę sztucznej inteligencji nad objętością i szybkością na korzyść obrońcy, a nie atakującego.
Zacznij za darmo. Sign up with GitHub, GitLab lub Google i uzyskaj wgląd w maksymalnie 25 repozytoriów i 50 skanów AI miesięcznie bez żadnych kosztów, bez konieczności podawania numeru karty kredytowej.
FAQ
Czym jest sztuczna inteligencja w cyberbezpieczeństwie?
Sztuczna inteligencja w cyberbezpieczeństwie to wykorzystanie uczenia maszynowego, przetwarzania języka naturalnego i dużych modeli językowych zarówno po stronie atakującego, jak i broniącego się. Atakujący wykorzystują ją do generowania przekonujących treści phishingowych, deepfake'ów i adaptacyjnego złośliwego oprogramowania; obrońcy stosują te same podstawowe techniki do wykrywania anomalii, selekcji alertów i automatycznej reakcji.
Czy sztuczna inteligencja jest bardziej niebezpieczna jako narzędzie ataku czy bardziej użyteczna jako narzędzie obrony?
Żadna ze stron nie ma trwałej przewagi, ponieważ obie opierają się na tych samych podstawowych możliwościach. Organizacje, które są bardziej narażone, to te, które jeszcze nie zastosowały sztucznej inteligencji w obronie w takim samym tempie, w jakim atakujący zastosowali ją w ataku, a nie te, które borykają się z luką technologiczną, której nie są w stanie załatać.
Czy sztuczna inteligencja może całkowicie zastąpić analityków w SOC?
Nie, a ryzyko związane z próbami (fałszywe wyniki dodatnie z powodu źle dostrojonych modeli, błędy wynikające z niekompletnych danych treningowych i manipulacja samym systemem wykrywania) to właśnie powody, dla których nadzór ludzki jest nadal niezbędny. Prawdziwą wartością sztucznej inteligencji jest oczyszczanie kolejki, dzięki czemu analitycy mogą skupić się na decyzjach, które nadal wymagają interwencji człowieka.
Czym różni się ryzyko ataków wykorzystujących sztuczną inteligencję w przypadku zespołów zajmujących się tworzeniem oprogramowania?
Oprócz phishingu i deepfake’ów, zespoły programistów mierzą się z zagrożeniami związanymi ze sztuczną inteligencją w SDLC Sama w sobie: agenci kodujący AI instalujący halucynacje lub złośliwe zależności, nieprzejrzane instrukcje agentów w plikach umiejętności oraz generowany przez AI kod, który odtwarza zakodowane na stałe sekrety. Ten aspekt sztucznej inteligencji w cyberbezpieczeństwie jest omówiony bardziej szczegółowo w naszym Przewodnik po bezpieczeństwie łańcucha dostaw AI.
