Një punonjës financiar në firmën e inxhinierisë Arup u bashkua në një video-thirrje me disa kolegë, përfshirë Drejtorin Financiar të kompanisë. Secili prej tyre ishte një deepfake i gjeneruar nga IA. Thirrja përfundoi me 25 milionë dollarë të transferuara te sulmuesit. Asnjë program keqdashës, asnjë lidhje phishing, asnjë dobësi e shfrytëzuar: vetëm IA, e përdorur mjaftueshëm bindshëm saqë besimi bëri pjesën tjetër. Ky incident i vetëm kap pse IA në sigurinë kibernetike është bërë tema përcaktuese në këtë fushë. E njëjta teknologji që ndërtoi atë deepfake, diku tjetër në industri, po kap anomalinë që do ta kishte ndaluar atë. Ky udhëzues për sigurinë e IA-së mbulon të dyja anët: si sulmon IA, si mbrohet IA dhe çfarë do të thotë kjo për vendin ku duhet të përqendrohen ekipet e sigurisë më pas.
IA në sigurinë kibernetike, në një paragraf
IA në sigurinë kibernetike i referohet përdorimit të të mësuarit automatik, përpunimit të gjuhës natyrore dhe modeleve të mëdha gjuhësore në të dyja anët e së njëjtës luftë: për të nisur sulme dhe për t'i zbuluar e ndaluar ato. Sulmuesit përdorin IA-në për të gjeneruar përmbajtje bindëse phishing, për të klonuar zëra dhe fytyra, dhe për të hetuar sisteme më shpejt se sa mund të bënte një ekip njerëzor. Mbrojtësit përdorin të njëjtat teknika themelore (njohja e modelit në vëllime të mëdha të të dhënave, kuptimi i gjuhës natyrore, modelimi i sjelljes) për të dalluar anomalitë, për të kapërcyer zhurmën e alarmit dhe për t'u përgjigjur para se dëmi të përshkallëzohet. Rezultati është teknologji me përdorim të dyfishtë brenda një industrie të vetme, prandaj IA në sigurinë kibernetike nuk është një kategori me një anë të qartë "të mirë" dhe "të keqe". Është një aftësi, dhe kushdo që e zbaton atë më shpejt dhe më paraprakisht...cisEly aktualisht ka avantazhin.
IA si një vektor sulmi
- Fishing i gjeneruar nga inteligjenca artificiale në shkallë industriale. Phishing-u dikur ishte i kapshëm nga sinjalet e tij: formulime të çuditshme, përshëndetje të përgjithshme, domene të dukshme të falsifikuara. IA hoqi shumicën e këtyre sinjaleve. Sipas Hoxhunt's Raporti i Trendeve të Phishing-ut 2026, Fishing-u i gjeneruar nga inteligjenca artificiale u rrit nga 4% e të gjitha përpjekjeve të raportuara të phishing-ut në nëntor 2025 në 56% në dhjetor 2025, një rritje 14 herë në një muaj të vetëm, dhe ka mbajtur rreth 40% të të gjitha përpjekjeve të raportuara të phishing-ut deri në mesin e vitit 2026. Hendeku i efektivitetit është po aq i madh: një studim mbi subjektin njerëzor nga studiuesit e Shkollës Kennedy të Harvardit zbuloi se emailet e phishing-ut plotësisht të automatizuara nga inteligjenca artificiale arritën një normë klikimesh prej 54%, duke u barazuar me ekspertët njerëzorë të aftë dhe duke tejkaluar shumë normën e klikimeve prej 12% të emaileve gjenerike të phishing-ut të grupit të kontrollit. IA nuk shkruan thjesht më shumë emaile phishing. Ajo shkruan edhe ato që funksionojnë.
- Fake të thella që synojnë besimin, jo infrastrukturën. La Rasti Arup Më sipër nuk është më një përjashtim; është një shabllon. Zëri dhe videoja e gjeneruar nga inteligjenca artificiale janë mjaftueshëm bindëse për t'u dukur si një ekzekutiv i vërtetë në një telefonatë të drejtpërdrejtë, duke e shndërruar inxhinierinë sociale nga "mashtrimi i dikujt që të klikojë" në "mashtrimi i dikujt që të besojë se po shikon drejtorin e tij financiar". Ky është një problem thelbësisht më i vështirë për t'u zgjidhur nga trajnimi për ndërgjegjësimin mbi sigurinë, sepse mashtrimi ndodh në nivelin perceptues, jo në atë teknik.
- Zbulim më i shpejtë dhe programe keqdashëse adaptive. Përtej inxhinierisë sociale, IA shkurton distancën midis "sulmuesi ka një ide" dhe "sulmuesi ka një shfrytëzim funksional". Modelet e mëdha gjuhësore mund të përshpejtojnë kërkimin e cenueshmërisë kundër kodit dhe infrastrukturës publike të një objektivi, dhe programet keqdashëse adaptive mund të ndryshojnë sjelljen e tyre në mes të ekzekutimit nëse zbulojnë se po analizohen në një "sandbox", një aftësi që më parë kërkonte një operator njerëzor të aftë që vëzhgonte në kohë reale.
- Sulme ndaj kredencialeve me shpejtësinë e makinës. Futja e kredencialeve të rrjedhura në një model për të mësuar modelet që njerëzit përdorin në të vërtetë kur mendojnë se po sillen “me zgjuarsi” me një fjalëkalim e kthen metodën e hamendësimit dhe kontrollit në diçka që i afrohet parashikimit. E kombinuar me mbushjen automatike të kredencialeve, kjo e kompreson atë që dikur ishte një sulm i ngadaltë dhe i zhurmshëm në diçka të shpejtë dhe të qetë.
IA si një mjet mbrojtës
- Zbulimi i anomalive në një shkallë që njerëzit nuk mund ta arrijnë. Vlera thelbësore mbrojtëse e IA-së është përpunimi i vëllimeve të trafikut të rrjetit, login aktivitetin dhe regjistrat e sistemit që asnjë ekip analistësh nuk mund t'i shqyrtonte manualisht dhe duke shënuar se çfarë devijon nga një vijë bazë e përcaktuar. Kjo është ajo që kap sulmet pa një nënshkrim të njohur ende, duke përfshirë ditët zero dhe keqpërdorimin e brendshëm që nuk do të aktivizonte një alarm të bazuar në rregulla.
- Duke ndërprerë radhën e alarmeve, jo duke shtuar në të. Këtu është gjithashtu vendi ku IA në sigurinë kibernetike ka përfitimin më të menjëhershëm operacional dhe ku industria ka ende punë të vërtetë për të bërë. Hulumtimi i Vectra AI për vitin 2026 zbuloi se organizatat marrin mesatarisht 2,992 alarme sigurie në ditë, me 63% që nuk hetohen, dhe Microsoft dhe Omdia Gjendja e SOC: Unifikohuni tani ose paguani më vonë raportojnë zbuloi se 46% e të gjitha alarmeve rezultojnë të jenë pozitive të rreme dhe 42% nuk hetohen fare. Triazhi i drejtuar nga inteligjenca artificiale nuk shton vetëm një detektor tjetër në atë grumbull. Nëse bëhet mirë, ai i lidh alarmet e lidhura me një incident të vetëm, vlerëson atë që ia vlen vëmendja e një njeriu dhe u lejon analistëve të shpenzojnë kohën e tyre në atë pjesë të alarmeve që përfaqësojnë rrezik real në vend që të mbyllin manualisht pjesën tjetër.
- Klasifikimi i programeve keqdashëse dhe sjelljes përtej nënshkrimeve të njohura. E njëjta qasje e analizës së sjelljes që sinjalizon aktivitetin anormal të rrjetit funksionon edhe në skedarë dhe paketa: në vend që të përputhet me një listë nënshkrimesh të njohura si të këqija, IA mund të vlerësojë sjelljen në kohën e instalimit, thirrjet e pazakonta të sistemit dhe modelet e errësimit për të kapur programe keqdashëse që nuk janë parë kurrë më parë, në momentin që shfaqen dhe jo pasi të jenë marrë gjurmët e gishtërinjve.
- Përgjigje e automatizuar dhe e përmbajtur. Zbulimi pa veprim thjesht lëviz kohën. Përgjigja e drejtuar nga inteligjenca artificiale mund të izolojë një pajisje të prekur, të bllokojë trafikun e dyshimtë dhe të fillojë automatikisht kontrollin, duke ngushtuar hendekun midis "e pamë" dhe "e ndaluam" nga orë në sekonda në rastet që kanë më shumë rëndësi.
Pse të njëjtat teknika presin në të dyja drejtimet?
E vërteta e pakëndshme në këtë udhëzues sigurie për inteligjencën artificiale është se sulmuesit dhe mbrojtësit shpesh përdorin të njëjtën aftësi themelore drejt skajeve të kundërta. Modelimi në gjuhën natyrore që shkruan një email bindës phishing është e njëjta teknologji që lexon një email të dyshimtë dhe e klasifikon saktë atë si të tillë. Njohja e modelit që lejon që programi keqdashës të përshtatet për të shmangur një sandbox është arkitekturalisht e ngjashme me njohjen e modelit që sinjalizon sjelljen e programit keqdashës si anormale që në fillim. Asnjëra palë nuk ka monopol mbi teknologjinë, që do të thotë se përparësia i shkon kujtdo që e integron atë më plotësisht në rrjedhën e tyre aktuale të punës, jo kujtdo që ka qasje në një model më të përparuar.
Kjo simetri është gjithashtu arsyeja pse IA në sigurinë kibernetike paraqet rreziqet e veta në anën mbrojtëse. Sistemet e IA-së mund të gjenerojnë pozitive të rreme që varrosin sinjalin real në zhurmë nëse nuk janë të akorduara mirë, trashëgojnë paragjykime nga të dhëna të paplota trajnimi dhe humbasin klasa të tëra kërcënimesh si rezultat, dhe vetë mund të shënjestrohen përmes teknikave kundërshtare, ku një sulmues qëllimisht ushqen një model zbulimi me të dhëna mashtruese për të manipuluar atë që ai sinjalizon. Asnjë nga këto nuk është një arsye për të shmangur IA-në në mbrojtje. Është një arsye për ta mbajtur një njeri në dijeni të vendimeve gjyqësore dhe për ta trajtuar vetë sistemin e IA-së si diçka që ka nevojë për monitorim, jo diçka që e vendosni një herë dhe e besoni pafundësisht.
Çfarë do të thotë ky udhëzues për sigurinë e inteligjencës artificiale për ekipin tuaj
Pesë lëvizje ndajnë ekipet që po marrin vlerë të vërtetë nga inteligjenca artificiale në sigurinë kibernetike nga ekipet që sapo kanë shtuar një mjet tjetër:
- Mos prisni që sulmet e “fuqizuara nga inteligjenca artificiale” të bëhen shumicë përpara se të investoni në mbrojtje. Të dhënat e phishing-ut më sipër tregojnë se sa shpejt një taktikë minoritare mund të bëhet dominuese. Ndërtoni kapacitetin e zbulimit përpara valës, jo gjatë saj.
- Drejtojeni inteligjencën artificiale së pari radhën tuaj të triazhit, jo vetëm perimetrin tuaj. Fitorja më e shpejtë dhe më e matshme për shumicën e ekipeve është ulja e vëllimit të pozitivëve të rremë që një analist duhet të fshijë manualisht, jo shtimi i një shtrese të re zbulimi.
- Trajtojeni rrezikun e falsifikimit të thellë dhe klonimit të zërit si një problem procesi, jo si një problem teknologjik. Asnjë mjet zbulimi nuk e mbyll plotësisht boshllëkun në stilin Arup. Verifikim jashtë bandës për çdo kërkesë që përfshin lëvizjen e parave ose ndryshimet e kredencialeve.
- Zgjeroni të njëjtin mendim sjelljesor të drejtuar nga inteligjenca artificiale në kod dhe pipelines, jo vetëm trafiku i rrjetit. Sulmuesit gjithnjë e më shumë e synojnë drejtpërdrejt zinxhirin e furnizimit të softuerëve (paketa keqdashëse, varësi halucinuese, udhëzime të pashqyrtuara të agjentëve), një kategori rreziku me dinamikën e vet, e trajtuar në detaje në udhëzuesin tonë për Sigurinë e Zinxhirit të Furnizimit me IA.
- Mbajeni një njeri përgjegjës për atë që vendos IA. Përgjigja e automatizuar është e vlefshme pikërisht sepse është e shpejtë, dhe kjo është edhe arsyeja pse i duhet një rrugë e qartë përshkallëzimi kur diçka nuk shkon.
Ku po shkon inteligjenca artificiale në sigurinë kibernetike
Dy ndryshime do të përcaktojnë vitet e ardhshme. Së pari, pala sulmuese po konsolidohet rreth taktikave më pak dhe më bindëse, në vend të atyre më të shumta dhe më të papërpunuara: phishing-u dhe deepfakes-et e gjeneruara nga inteligjenca artificiale nuk janë një rrjetë më e gjerë; ato janë një grep më i mprehtë. Së dyti, pala mbrojtëse po kalon nga "zbuloni dhe njoftoni një njeri" drejt "zbuloni, shënoni dhe veproni para se të ekzistojë një gjobë", e cila është pikërisht ndryshimi që mbyll hendekun midis 2,992 alarmeve ditore me të cilat përballen shumica e SOC-ve dhe pjesës së atyre që ndonjëherë marrin një pamje të vërtetë. Organizatat që ecin përpara janë ato që e zbatojnë këtë ndryshim kudo që inteligjenca artificiale prek tashmë mjedisin e tyre, duke përfshirë kodin që zhvilluesit e tyre dërgojnë, jo vetëm trafikun që kalon perimetrin e rrjetit të tyre.
Mendimi i Xygenit: Siguria e inteligjencës artificiale duhet të mbulojë kodin, jo vetëm kutinë postare
Pjesa më e madhe e mbulimit të IA-së në sigurinë kibernetike ndalet te SOC: phishing, malware, anomali të rrjetit. Kjo është e nevojshme, dhe është gjithashtu e paplotë, sepse një pjesë gjithnjë e në rritje e rrezikut të nxitur nga IA tani jeton brenda vetë ciklit jetësor të zhvillimit të softuerit, aty ku mjetet SOC nuk duken.
Xygeni's CoreAI zbaton të njëjtin mendim të bazuar në anomali të sjelljes, të përshkruar në këtë udhëzues, për sigurinë e aplikacioneve konkretisht: duke lidhur gjetjet në të gjithë skanerët tuaj ekzistues (jo vetëm Xygeni's vetjak), duke vlerësuar atë që është në të vërtetë e shfrytëzueshme në vend që t'i mbingarkojë ekipet me një vëllim të papërpunuar alarmesh, duke shpjeguar pse një rrezik i caktuar ka rëndësi dhe duke gjeneruar një zgjidhje pull request në vend të një bilete tjetër për çështje të prapambetura. DevAI e zgjeron të njëjtën qëndrim mbrojtës në pjesën më të re të sipërfaqes së sulmit: kodimi i agjentëve dhe asistentëve nga IA, validimi i skedarëve të aftësive dhe udhëzimeve të agjentëve, dhe bllokimi i një instalimi dashakeq përpara se një agjent të veprojë mbi të. Qëllimi është i njëjti që ky udhëzues argumenton në nivelin SOC, i aplikuar në pipeline: shndërroni avantazhin e IA-së ndaj vëllimit dhe shpejtësisë në avantazh të mbrojtësit në vend të një sulmuesi.
Filloni falas. Sign up with GitHub, GitLab ose Google dhe merrni shikueshmëri në deri në 25 depo dhe 50 skanime të inteligjencës artificiale në muaj pa pagesë, nuk kërkohet kartë krediti.
FAQ
Çfarë është inteligjenca artificiale në sigurinë kibernetike?
IA në sigurinë kibernetike është përdorimi i të mësuarit automatik, përpunimit të gjuhës natyrore dhe modeleve të mëdha gjuhësore si në anën sulmuese ashtu edhe në atë mbrojtëse të sigurisë. Sulmuesit e përdorin atë për të gjeneruar përmbajtje bindëse phishing, deepfakes dhe malware adaptues; mbrojtësit përdorin të njëjtat teknika themelore për zbulimin e anomalive, triazhin e alarmeve dhe përgjigjen e automatizuar.
A është IA më e rrezikshme si mjet sulmi apo më e dobishme si mjet mbrojtjeje?
Asnjëra palë nuk ka një avantazh të qëndrueshëm sepse të dyja janë ndërtuar mbi të njëjtën aftësi themelore. Organizatat në rrezik më të madh janë ato që ende nuk e kanë aplikuar inteligjencën artificiale në mbrojtje me të njëjtin ritëm që sulmuesit e kanë aplikuar atë në sulm, jo ato që përballen me një boshllëk teknologjik që nuk mund ta mbyllin.
A mund t’i zëvendësojë IA plotësisht analistët njerëzorë në një SOC?
Jo, dhe rreziqet e përpjekjes për ta bërë këtë (pozitive të rreme nga modele të akorduara dobët, paragjykime nga të dhëna të paplota trajnimi dhe manipulim kundërshtar i vetë sistemit të zbulimit) janë pikërisht arsyeja pse mbikëqyrja njerëzore mbetet e nevojshme. Vlera e vërtetë e inteligjencës artificiale është pastrimi i radhës në mënyrë që analistët të mund të përqendrohen në vendimet që ende kanë nevojë për një person.
Si ndryshon rreziku i sulmit të drejtuar nga inteligjenca artificiale për ekipet e zhvillimit të softuerëve konkretisht?
Përtej phishing-ut dhe deepfake-ve, ekipet e zhvillimit përballen me rreziqe specifike të inteligjencës artificiale brenda... SDLC vetë: Agjentët e kodimit të IA-së që instalojnë varësi halucinuese ose keqdashëse, udhëzime të pashqyrtuara të agjentëve në skedarët e aftësive dhe kod të gjeneruar nga IA që riprodhon sekrete të koduara fort. Kjo anë e IA-së në sigurinë kibernetike trajtohet më në thellësi në tonën Udhëzues për Sigurinë e Zinxhirit të Furnizimit me IA.
