Impjegat tal-finanzi fid-ditta tal-inġinerija Arup ingħaqad ma' video call ma' diversi kollegi, inkluż is-CFO tal-kumpanija. Kull wieħed minnhom kien deepfake ġġenerat mill-AI. It-telefonata ntemmet b'$25 miljun trasferiti lill-attakkanti. L-ebda malware, l-ebda link ta' phishing, l-ebda vulnerabbiltà sfruttata: biss AI, użata b'mod konvinċenti biżżejjed biex il-fiduċja għamlet il-bqija. Dak l-inċident wieħed jaqbad għaliex l-AI fiċ-ċibersigurtà saret is-suġġett li jiddefinixxi fil-qasam. L-istess teknoloġija mibnija f'dak id-deepfake, x'imkien ieħor fl-industrija, qed taqbad l-anomalija li kienet twaqqfu. Din il-gwida tas-sigurtà tal-AI tkopri ż-żewġ naħat: kif l-AI tattakka, kif l-AI tiddefendi, u xi tfisser dan għal fejn għandhom jiffokaw it-timijiet tas-sigurtà li jmiss.
L-IA fiċ-ċibersigurtà, f'paragrafu wieħed
L-IA fiċ-ċibersigurtà tirreferi għall-użu tat-tagħlim awtomatiku, l-ipproċessar tal-lingwa naturali, u mudelli lingwistiċi kbar fuq iż-żewġ naħat tal-istess ġlieda: biex jitniedu attakki u biex jiġu identifikati u mwaqqfa. L-attakkanti jużaw l-AI biex jiġġeneraw kontenut ta’ phishing konvinċenti, jikklonaw vuċijiet u uċuħ, u jinvestigaw sistemi aktar malajr milli jista’ tim uman. Id-difensuri jużaw l-istess tekniki sottostanti (rikonoxximent ta’ mudelli f’volumi enormi ta’ dejta, fehim tal-lingwa naturali, immudellar tal-imġiba) biex jidentifikaw anomaliji, jaqtgħu l-istorbju ta’ twissija, u jirrispondu qabel ma l-ħsara tiggrava. Ir-riżultat huwa teknoloġija ġenwinament b’użu doppju f’industrija waħda, u huwa għalhekk li l-AI fiċ-ċibersigurtà mhijiex kategorija b’naħa ċara “tajba” u “ħażina”. Hija kapaċità, u min japplikaha aktar malajr u b’aktar preċiżjoni.cisEly bħalissa għandha l-vantaġġ.
L-AI bħala vettur ta' attakk
- Phishing iġġenerat mill-AI fuq skala industrijali. Il-phishing kien jinqabad mit-twissijiet tiegħu: frażijiet skomdi, tislim ġeneriku, dominji ovvjament foloz. L-AI neħħiet il-biċċa l-kbira ta’ dawk it-twissijiet. Skont Hoxhunt's Rapport tax-Xejriet tal-Phishing tal-2026, il-phishing iġġenerat mill-AI qabeż minn 4% tat-tentattivi kollha ta’ phishing irrappurtati f’Novembru 2025 għal 56% f’Diċembru 2025, żieda ta’ 14-il darba f’xahar wieħed, u żamm madwar 40% tat-tentattivi kollha ta’ phishing irrappurtati sa nofs l-2026. Id-differenza fl-effettività hija daqstant evidenti: a studju fuq suġġett uman minn riċerkaturi tal-Iskola Harvard Kennedy instab li l-emails ta’ spear phishing awtomatizzati kompletament bl-AI kisbu rata ta’ klikks ta’ 54%, li laħqu esperti umani b’ħiliet u qabżu bil-bosta r-rata ta’ klikks ta’ 12% tal-emails ġeneriċi ta’ phishing tal-grupp ta’ kontroll. L-AI mhux biss tikteb aktar emails ta’ phishing. Tikteb dawk li jaħdmu.
- Deepfakes li jimmiraw il-fiduċja, mhux l-infrastruttura. il Il-każ Arup Dak li ntqal hawn fuq m’għadux xi ħaġa anomali; huwa mudell. Il-vuċi u l-vidjow iġġenerati mill-AI huma konvinċenti biżżejjed biex jgħaddu bħala eżekuttiv reali fuq telefonata diretta, u b’hekk l-inġinerija soċjali tinbidel minn “tqarraq b’xi ħadd biex jikklikkja” għal “tqarraq b’xi ħadd biex jemmen li qed iħares lejn is-CFO tiegħu.” Din hija problema fundamentalment aktar diffiċli biex tissolva għat-taħriġ dwar l-għarfien tas-sigurtà, għaliex l-ingann iseħħ fil-livell perċettiv, mhux f’dak tekniku.
- Rikonoxximent aktar mgħaġġel u malware adattiv. Lil hinn mill-inġinerija soċjali, l-AI tqassar id-distanza bejn “l-attakkant għandu idea” u “l-attakkant għandu exploit li jaħdem.” Mudelli lingwistiċi kbar jistgħu jaċċelleraw ir-riċerka dwar il-vulnerabbiltà kontra l-kodiċi u l-infrastruttura ta’ mira li jiffaċċjaw il-pubbliku, u malware adattiv jista’ jbiddel l-imġieba tiegħu stess f’nofs l-eżekuzzjoni jekk jinduna li qed jiġi analizzat f’sandbox, kapaċità li qabel kienet teħtieġ operatur uman b’ħiliet li josserva f’ħin reali.
- Attakki ta' kredenzjali bil-veloċità tal-magna. It-tdaħħil ta' settijiet ta' kredenzjali mxerrda f'mudell biex jitgħallmu x-xejriet li n-nies fil-fatt jużaw meta jaħsbu li qed ikunu "intelliġenti" b'password ibiddel l-ippruvar ta' suppożizzjoni u verifika f'xi ħaġa eqreb lejn it-tbassir. Flimkien mal-mili awtomatizzat tal-kredenzjali, dan jikkompressa dak li qabel kien attakk bil-mod u storbjuż f'xi ħaġa veloċi u kwieta.
L-AI bħala għodda ta' difiża
- Sejbien ta' anomaliji fuq skala li l-bnedmin ma jistgħux jaqblu magħha. Il-valur difensiv ewlieni tal-IA huwa l-ipproċessar ta' volumi ta' traffiku tan-netwerk, login attività, u logs tas-sistema li l-ebda tim ta' analisti ma seta' jirrevedi manwalment u jimmarka dak li jiddevja minn linja bażi stabbilita. Dan huwa dak li jaqbad attakki mingħajr firma magħrufa s'issa, inklużi żero-jiem u użu ħażin minn persuni interni li ma jattivawx twissija bbażata fuq regoli.
- Qed tnaqqas il-kju tat-twissijiet, mhux iżżid magħha. Hawnhekk ukoll l-IA fiċ-ċibersigurtà għandha l-aktar benefiċċju operattiv immedjat, u fejn l-industrija għad għandha xogħol reali xi tagħmel. Ir-riċerka tal-Vectra AI tal-2026 sab li l-organizzazzjonijiet jirċievu medja ta’ 2,992 twissija ta’ sigurtà kuljum, b’63% minnhom ma jiġux investigati, u Microsoft u Omdia's Stat tas-SOC: Għaqqad Issa jew Ħallas Aktar Tard tirrapporta instab li 46% tat-twissijiet kollha jirriżultaw li huma pożittivi foloz u 42% ma jiġux investigati għalkollox. It-trijaġġ immexxi mill-AI mhux biss iżid ditekter ieħor ma’ dak il-munzell. Jekk isir sew, jikkorrelata twissijiet relatati f’inċident wieħed, jikklassifika dak li fil-fatt jistħoqqlu l-attenzjoni ta’ bniedem, u jħalli l-analisti jqattgħu l-ħin tagħhom fuq il-frazzjoni ta’ twissijiet li jirrappreżentaw riskju reali minflok ma jagħlqu l-bqija manwalment.
- Klassifikazzjoni ta' malware u mġiba lil hinn mill-firem magħrufa. L-istess approċċ ta' analiżi tal-imġiba li jimmarka attività anomali fin-netwerk jaħdem ukoll fuq fajls u pakketti: minflok ma tqabbel ma' lista ta' firem magħrufa li huma ħżiena, l-AI tista' tikklassifika l-imġiba fil-ħin tal-installazzjoni, sejħiet tas-sistema mhux tas-soltu, u mudelli ta' offuskazzjoni biex taqbad malware li qatt ma deher qabel, fil-mument li jidher aktar milli wara li jkunu ttieħdu l-marki tas-swaba' tiegħu.
- Rispons awtomatizzat u kontenut. Id-detezzjoni mingħajr azzjoni sempliċement tmexxi l-arloġġ. Ir-rispons immexxi mill-AI jista' jiżola apparat affettwat, jimblokka t-traffiku suspettuż, u jibda l-konteniment awtomatikament, u b'hekk jagħlaq id-distakk bejn "rajnieh" u "waqqafnieh" minn sigħat għal sekondi fil-każijiet li huma l-aktar importanti.
Għaliex l-istess tekniki jaqtgħu fiż-żewġ direzzjonijiet?
Il-verità skomda f'din il-gwida tas-sigurtà tal-AI hija li l-attakkanti u d-difensuri ta' spiss jużaw l-istess kapaċità sottostanti għal truf opposti. L-immudellar tal-lingwa naturali li jikteb email ta' phishing konvinċenti huwa l-istess teknoloġija li taqra email suspettuża u tikklassifikaha b'mod korrett bħala waħda. Ir-rikonoxximent tal-mudelli li jippermetti lill-malware jadatta biex jevadi sandbox huwa arkitettonikament simili għar-rikonoxximent tal-mudelli li jimmarka l-imġiba tal-malware bħala anomala fl-ewwel lok. L-ebda naħa m'għandha monopolju fuq it-teknoloġija, li jfisser li l-vantaġġ imur għand min jintegraha b'mod aktar komplut fil-fluss tax-xogħol attwali tagħhom, mhux għal min għandu aċċess għal mudell aktar avvanzat.
Dik is-simetrija hija wkoll ir-raġuni għaliex l-IA fiċ-ċibersigurtà tintroduċi r-riskji tagħha stess fuq in-naħa difensiva. Is-sistemi tal-IA jistgħu jiġġeneraw pożittivi foloz li jidfnu s-sinjal reali fl-istorbju jekk ma jkunux sintonizzati sew, jirtu preġudizzju minn dejta ta' taħriġ mhux kompluta u jitilfu klassijiet sħaħ ta' theddid bħala riżultat, u jistgħu huma stess jiġu mmirati permezz ta' tekniki avversarji, fejn attakkant apposta jdaħħal dejta qarrieqa f'mudell ta' skoperta biex jimmanipula dak li jindika. Xejn minn dan mhu raġuni biex tevita l-IA b'mod difensiv. Hija raġuni biex iżżomm bniedem infurmat dwar sejħiet ta' ġudizzju, u biex tittratta s-sistema tal-IA nnifisha bħala xi ħaġa li teħtieġ monitoraġġ, mhux xi ħaġa li tuża darba u tafdaha b'mod indefinit.
Xi tfisser din il-gwida tas-sigurtà tal-AI għat-tim tiegħek
Ħames passi jisseparaw it-timijiet li qed jiksbu valur reali mill-AI fiċ-ċibersigurtà minn timijiet li għadhom kif żiedu għodda oħra:
- Tistenniex li l-attakki "imħaddma bl-AI" isiru l-maġġoranza qabel ma tinvesti b'mod difensiv. Id-dejta tal-phishing t'hawn fuq turi kemm tattika ta' minoranza tista' ssir dik dominanti malajr. Ibni l-kapaċità ta' skoperta qabel iż-żieda fil-każijiet, mhux matulha.
- Immira l-AI lejn il-kju tat-trijaġġ tiegħek l-ewwel, mhux biss lejn il-perimetru tiegħek. L-aktar rebħa mgħaġġla u li tista' titkejjel għall-biċċa l-kbira tat-timijiet hija t-tnaqqis tal-volum ta' pożittivi foloz li analista jrid jikklerja manwalment, mhux iż-żieda ta' saff ġdid ta' skoperta.
- Ittratta r-riskju ta' deepfake u voice-clone bħala problema ta' proċess, mhux problema ta' teknoloġija. L-ebda għodda ta' skoperta ma tagħlaq għalkollox id-distakk tat-tip Arup. Verifika barra mill-medda għal kwalunkwe talba li tinvolvi moviment ta' flus jew bidliet fil-kredenzjali.
- Estendi l-istess ħsieb komportamentali mmexxi mill-AI għall-kodiċi u pipelines, mhux biss it-traffiku tan-netwerk. L-attakkanti jimmiraw dejjem aktar direttament lejn il-katina tal-provvista tas-softwer (pakketti malizzjużi, dipendenzi alluċinati, struzzjonijiet tal-aġent mhux riveduti), kategorija ta' riskju bid-dinamika tagħha stess, koperta fid-dettall fil-gwida tagħna dwar is-Sigurtà tal-Katina tal-Provvista tal-AI.
- Żomm bniedem responsabbli għal dak li tiddeċiedi l-AI. Ir-rispons awtomatizzat huwa siewi preċiżament għax huwa veloċi, u huwa għalhekk ukoll li jeħtieġ perkors ċar ta' eskalazzjoni meta xi ħaġa tmur ħażin.
Fejn sejra l-IA fiċ-ċibersigurtà
Żewġ bidliet se jiddefinixxu l-ftit snin li ġejjin. L-ewwel, in-naħa tal-attakkant qed tikkonsolida madwar inqas tattiċi u aktar konvinċenti minflok aktar tattiċi mhux raffinati: il-phishing u d-deepfakes iġġenerati mill-AI mhumiex xibka usa'; huma ganċ aktar qawwi. It-tieni, in-naħa tad-difensur qed timxi minn "iskoperta u twissija ta' bniedem" għal "iskoperta, punteġġ, u azzjoni qabel ma teżisti biljett," li huwa eżattament il-bidla li tnaqqas id-distakk bejn it-2,992 twissija ta' kuljum li jiffaċċjaw ħafna SOCs u l-frazzjoni ta' dawk li qatt jingħataw ħarsa reali. L-organizzazzjonijiet li qed jimxu 'l quddiem huma dawk li japplikaw dik il-bidla kullimkien fejn l-AI diġà tmiss l-ambjent tagħhom, inkluż il-kodiċi li l-iżviluppaturi tagħhom jibagħtu, mhux biss it-traffiku li jaqsam il-perimetru tan-netwerk tagħhom.
L-opinjoni ta' Xygeni: Is-sigurtà tal-AI trid tkopri l-kodiċi, mhux biss l-inbox
Il-biċċa l-kbira tal-kopertura tal-AI fiċ-ċibersigurtà tieqaf fis-SOC: phishing, malware, anomaliji fin-netwerk. Dan huwa neċessarju, u mhux komplut ukoll, għaliex sehem dejjem jikber tar-riskju mmexxi mill-AI issa jinsab fiċ-ċiklu tal-ħajja tal-iżvilupp tas-softwer innifsu, fejn l-għodda tas-SOC ma tidhirx.
Xygeni's CoreAI japplika l-istess ħsieb ibbażat fuq l-anomaliji u l-imġiba deskritt f'din il-gwida għas-sigurtà tal-applikazzjonijiet speċifikament: jikkorrelata s-sejbiet bejn l-iskanners eżistenti tiegħek (mhux biss Xygeni's stess), billi jiskorja x'inhu attwalment sfruttabbli minflok ma jimla lit-timijiet b'volum ta' twissija mhux ipproċessat, jispjega għaliex riskju partikolari huwa importanti, u jiġġenera rimedju pull request minflok biljett ieħor ta' xogħol b'lura. DevAI testendi dik l-istess qagħda difensiva fl-aktar parti ġdida tal-wiċċ tal-attakk: l-AI tikkodifika aġenti u assistenti, tivvalida fajls tal-ħiliet u struzzjonijiet tal-aġenti, u timblokka installazzjoni malizzjuża qabel ma aġent jaġixxi fuqha. L-għan huwa l-istess wieħed li din il-gwida targumenta għalih fil-livell tas-SOC, applikat għal pipeline: ibdel il-vantaġġ tal-AI fuq il-volum u l-veloċità f'vantaġġ ta' difensur minflok ta' attakkant.
Ibda b'xejn. Sign up with GitHub, GitLab, jew Google u ikseb viżibilità f'sa 25 repożitorju u 50 sken tal-AI fix-xahar mingħajr ħlas, mingħajr il-ħtieġa ta' karta ta' kreditu.
FAQ
X'inhi l-AI fiċ-ċibersigurtà?
L-IA fiċ-ċibersigurtà hija l-użu tat-tagħlim awtomatiku, l-ipproċessar tal-lingwa naturali, u mudelli lingwistiċi kbar kemm fuq in-naħa tal-attakk kif ukoll fuq in-naħa tad-difiża tas-sigurtà. L-attakkanti jużawha biex jiġġeneraw kontenut ta' phishing konvinċenti, deepfakes, u malware adattiv; id-difensuri jużaw l-istess tekniki sottostanti għad-detezzjoni tal-anomaliji, it-trijaġġ tal-allerti, u r-rispons awtomatizzat.
L-AI hija aktar perikoluża bħala għodda ta' attakk jew aktar utli bħala għodda ta' difiża?
L-ebda naħa m'għandha vantaġġ dejjiemi għax it-tnejn huma mibnija fuq l-istess kapaċità sottostanti. L-organizzazzjonijiet f'riskju akbar huma dawk li għadhom ma applikawx l-AI b'mod difensiv bl-istess ritmu li l-attakkanti applikawha b'mod offensiv, mhux dawk li qed jiffaċċjaw lakuna teknoloġika li ma jistgħux jagħlqu.
L-AI tista' tissostitwixxi kompletament l-analisti umani f'SOC?
Le, u r-riskji li wieħed jipprova jagħmel dan (pożittivi foloz minn mudelli mhux sintonizzati sew, preġudizzju minn dejta ta' taħriġ mhux kompluta, u manipulazzjoni avversarja tas-sistema ta' skoperta nnifisha) huma eżattament għaliex is-sorveljanza umana tibqa' neċessarja. Il-valur reali tal-AI huwa li jitnaddaf il-kju sabiex l-analisti jkunu jistgħu jiffokaw fuq is-sejħiet ta' ġudizzju li għad jeħtieġu persuna.
Kif inhi differenti r-riskju ta' attakk immexxi mill-AI speċifikament għat-timijiet tal-iżvilupp tas-softwer?
Lil hinn mill-phishing u d-deepfakes, it-timijiet tal-iżvilupp jiffaċċjaw riskji speċifiċi għall-AI ġewwa SDLC innifsu: aġenti tal-kodifikazzjoni tal-AI li jinstallaw dipendenzi alluċinati jew malizzjużi, struzzjonijiet tal-aġenti mhux riveduti f'fajls tal-ħiliet, u kodiċi ġġenerat mill-AI li jirriproduċi sigrieti hardcoded. Dak l-aspett tal-AI fiċ-ċibersigurtà huwa kopert f'aktar dettall fil-paġna tagħna Gwida dwar is-Sigurtà tal-Katina tal-Provvista tal-IA.
