Yon anplwaye finans nan yon konpayi enjenyè Arup te rantre nan yon apèl videyo ak plizyè kòlèg, tankou Direktè Finansye konpayi an. Chak youn nan yo te yon deepfake ki te pwodui pa IA. Apèl la te fini ak $25 milyon dola transfere bay atakè yo. Pa gen malveyan, pa gen lyen èskrokri, pa gen vilnerabilite eksplwate: jis IA, itilize yon fason konvenkan ase pou konfyans fè rès la. Ensidan sa a sèlman kaptire poukisa IA nan sekirite sibernetik vin tounen sijè ki defini nan domèn nan. Menm teknoloji ki te konstwi deepfake sa a, yon lòt kote nan endistri a, ap detekte anomali ki ta ka kanpe li. Gid sekirite IA sa a kouvri tou de bò yo: kijan IA atake, kijan IA defann, ak sa sa vle di pou kote ekip sekirite yo ta dwe konsantre apre sa.
IA nan sekirite sibernetik, nan yon sèl paragraf
IA nan sekirite sibernetik refere a itilizasyon aprantisaj otomatik, tretman lang natirèl, ak gwo modèl langaj sou tou de bò nan menm batay la: pou lanse atak epi pou detekte epi kanpe yo. Moun k ap atake yo itilize IA pou jenere kontni èskrokri konvenkan, klone vwa ak figi, epi sonde sistèm yo pi vit pase yon ekip imen ta ka fè. Defansè yo itilize menm teknik fondamantal yo (rekonesans modèl atravè gwo volim done, konpreyansyon lang natirèl, modèl konpòtman) pou detekte anomali, koupe bri alèt, epi reponn anvan domaj la ogmante. Rezilta a se yon teknoloji ki vrèman gen doub itilizasyon andedan yon sèl endistri, se poutèt sa IA nan sekirite sibernetik pa yon kategori ki gen yon bò "bon" ak yon bò "move" klè. Se yon kapasite, epi nenpòt moun ki aplike li pi vit ak pi pre...cisEly gen avantaj la kounye a.
IA kòm yon vektè atak
- Èskrokri ki pwodui pa IA sou yon echèl endistriyèl. Yo te konn detekte èskrokri grasa siyal li yo: fraz dwòl, salitasyon jenerik, domèn ki te evidanman fo. Entèlijans atifisyèl te retire pifò nan siyal sa yo. Dapre... Hoxhunt's Rapò sou tandans èskrokri an 2026, tantativ èskrokri ki pwodui pa entèlijans atifisyèl te ogmante soti nan 4% nan tout tantativ èskrokri ki rapòte an Novanm 2025 pou rive nan 56% an Desanm 2025, yon ogmantasyon 14 fwa plis nan yon sèl mwa, epi li kenbe anviwon 40% nan tout tantativ èskrokri ki rapòte jiska mitan 2026. Diferans efikasite a se menm jan an tou: yon etid sou sijè imen ki fèt pa chèchè Lekòl Harvard Kennedy Yo te jwenn ke imèl èskrokri otomatik ki fonksyone ak entèlijans atifisyèl (IA) te rive nan yon pousantaj klik 54%, sa ki koresponn ak ekspè imen kalifye yo epi ki depase byen lwen pousantaj klik 12% imèl èskrokri jenerik gwoup kontwòl la. IA pa sèlman ekri plis imèl èskrokri. Li ekri imèl ki mache.
- Deepfakes ki vize konfyans, pa enfrastrikti. The Ka Arup la Sa ki anwo a pa yon bagay ki pa nòmal ankò; se yon modèl. Vwa ak videyo ki pwodui pa entèlijans atifisyèl yo ase konvenkan pou yo pase pou yon vrè ekzekitif nan yon apèl an dirèk, sa ki transfòme enjenyè sosyal soti nan "twonpe yon moun pou l klike" an "twonpe yon moun pou l kwè y ap gade direktè finansye yo a." Sa a se yon pwoblèm fondamantalman pi difisil pou fòmasyon sansibilizasyon sekirite rezoud, paske twonpri a rive nan nivo pèsepsyon an, pa nan nivo teknik la.
- Rekonesans pi rapid ak malveyan adaptatif. Anplis jeni sosyal, IA diminye distans ki genyen ant "moun ki atake a gen yon lide" ak "moun ki atake a gen yon eksplwa ki fonksyone." Gwo modèl langaj yo ka akselere rechèch sou vilnerabilite kont kòd ak enfrastrikti yon sib ki an kontak piblik, epi malveyan adaptatif yo ka modifye pwòp konpòtman yo pandan ekzekisyon an si yo detekte y ap analize l nan yon "sandbox", yon kapasite ki te konn mande yon operatè imen kalifye k ap siveye l an tan reyèl.
- Atak kalifikasyon nan vitès machin. Lè yo mete ansanm enfòmasyon ki soti nan yon modèl pou aprann modèl moun yo itilize lè yo panse yo "entelijan" ak yon modpas, sa transfòme devine-epi-verifye an yon bagay ki pi pre prediksyon. Konbine avèk ranpliman enfòmasyon otomatik, sa konprese sa ki te konn yon atak ralanti ak fè bwi an yon bagay rapid ak silansye.
IA kòm yon zouti defans
- Deteksyon anomali sou yon echèl moun pa ka egal. Valè defansif prensipal IA a se trete volim trafik rezo a, login aktivite, ak jounal sistèm ke okenn ekip analis pa t ka revize manyèlman epi ki siyalize sa ki devye de yon liy debaz etabli. Se sa ki detekte atak ki poko gen siyati li te ye, tankou atak zero-day ak move itilizasyon moun anndan ki pa ta deklanche yon alèt ki baze sou règ.
- Koupe nan lis alèt yo, pa ajoute nan li. Se tou kote IA nan sibersekirite gen pi bon benefis operasyonèl imedya a, epi kote endistri a toujou gen travay reyèl pou fè. Rechèch Vectra AI a pou 2026 te jwenn ke òganizasyon yo resevwa an mwayèn 2,992 alèt sekirite pa jou, epi 63% ladan yo pa fè objè envestigasyon, epi Microsoft ak Omdia a Eta SOC la: Inifye Kounye a oswa Peye Pita rapòte Yo te jwenn ke 46% nan tout alèt yo pwouve yo se fo pozitif epi 42% pa fè objè okenn envestigasyon. Triyaj ki fonksyone ak entèlijans atifisyèl pa sèlman ajoute yon lòt detektè nan pil sa a. Si li byen fèt, li korele alèt ki gen rapò nan yon sèl ensidan, li bay nòt sou sa ki vrèman merite atansyon yon moun, epi li pèmèt analis yo pase tan yo sou fraksyon alèt ki reprezante yon risk reyèl olye pou yo fèmen rès la manyèlman.
- Klasifikasyon lojisyèl malveyan ak konpòtman ki depase siyati li te ye yo. Menm apwòch analiz konpòtman ki siyal aktivite rezo anomal la fonksyone tou sou fichye ak pakè: olye pou l matche ak yon lis siyati ki pa kòrèk, IA ka evalye konpòtman an moman enstalasyon, apèl sistèm dwòl, ak modèl obfuskasyon pou detekte malveyan ki pa janm wè anvan, nan moman li parèt olye de apre yo fin pran anprent dijital li.
- Repons otomatik, ki kontwole. Deteksyon san aksyon jis fè revèy la avanse. Repons ki mache ak entèlijans atifisyèl ka izole yon aparèy ki afekte, bloke trafik sispèk, epi kòmanse kontwole li otomatikman, diminye diferans ki genyen ant "nou te wè li" ak "nou te kanpe li" soti nan plizyè èdtan rive nan segonn nan ka ki pi enpòtan yo.
Poukisa menm teknik yo koupe nan tou de sans?
Verite ki dezagreyab nan gid sekirite IA sa a se ke atakan yo ak defansè yo souvan itilize menm kapasite fondamantal la pou objektif opoze. Modèl lang natirèl ki ekri yon imèl èskrokri konvenkan se menm teknoloji a ki li yon imèl sispèk epi klase li kòrèkteman kòm youn. Rekonesans modèl ki pèmèt malveyan an adapte pou evite yon sandbox sanble anpil ak rekonesans modèl ki make konpòtman malveyan an kòm anomali depi nan kòmansman. Ni youn ni lòt bò pa gen monopoli sou teknoloji a, sa vle di avantaj la ale pou moun ki entegre li pi konplètman nan workflow aktyèl yo a, pa moun ki gen aksè a yon modèl ki pi avanse.
Simetri sa a se tou rezon ki fè IA nan sekirite sibernetik prezante pwòp risk li yo sou bò defansif la. Sistèm IA yo ka jenere fo pozitif ki antere siyal reyèl la nan bri si yo pa byen branche, eritye patipri nan done antrènman enkonplè epi rate tout klas menas kòm rezilta, epi yo ka tèt yo vin sib atravè teknik advèsè, kote yon atakè fè espre bay yon modèl deteksyon done ki twonpe pou manipile sa li siyalize. Pa gen anyen nan sa ki yon rezon pou evite IA nan defans. Se yon rezon pou kenbe yon moun okouran pou desizyon, epi pou trete sistèm IA a li menm kòm yon bagay ki bezwen siveyans, pa yon bagay ou deplwaye yon fwa epi ou fè konfyans pou tout tan.
Ki sa gid sekirite IA sa a vle di pou ekip ou a
Senk mouvman separe ekip ki jwenn vrè valè nan entèlijans atifisyèl nan sekirite sibernetik ak ekip ki fèk ajoute yon lòt zouti:
- Pa tann atak "ki mache ak IA" yo vin majorite anvan ou envesti nan defans. Done èskrokri ki anwo yo montre kijan yon taktik minoritè ka vin tounen yon taktik dominan. Bati kapasite deteksyon anvan vag la, pa pandan li.
- Dirije IA a sou keu triyaj ou a an premye, pa sèlman sou perimèt ou a. Viktwa ki pi rapid e ki pi mezirab pou pifò ekip yo se diminye volim fo pozitif yon analis dwe efase manyèlman, pa ajoute yon nouvo kouch deteksyon.
- Trete risk deepfake ak voice-clone kòm yon pwoblèm pwosesis, pa yon pwoblèm teknoloji. Pa gen okenn zouti deteksyon ki ka konplètman fèmen twou a tankou Arup. Verifikasyon andeyò limit pou nenpòt demann ki enplike mouvman lajan oswa chanjman kalifikasyon.
- Pwolonje menm panse konpòtmantal ki baze sou IA a nan kòd ak pipelines, pa sèlman trafik rezo a. De pli zan pli, atakè yo vize chèn ekipman lojisyèl la dirèkteman (pakè move, depandans alisine, enstriksyon ajan ki pa revize), yon kategori risk ki gen pwòp dinamik li yo, ke nou kouvri an pwofondè nan gid Sekirite Chèn Ekipman IA nou an.
- Kenbe yon moun responsab pou sa IA a deside. Repons otomatik la gen anpil valè paske li rapid, se poutèt sa tou li bezwen yon chemen eskalade klè lè yon bagay rive mal.
Kote IA nan sekirite sibernetik prale
De chanjman pral defini kèk ane kap vini yo. Premyèman, bò atakè a ap konsolide alantou mwens taktik ki pi konvenkan olye de plis taktik brital: èskrokri ak deepfakes ki pwodui pa IA yo pa yon rezo ki pi laj; yo se yon zen ki pi file. Dezyèmman, bò defansè a ap deplase soti nan "detekte epi avèti yon moun" pou ale nan "detekte, evalye, epi aji anvan yon tikè egziste," ki se egzakteman chanjman ki diminye diferans ki genyen ant 2,992 alèt chak jou pifò SOC yo rankontre ak fraksyon nan sa yo ki janm jwenn yon vrè alèt. Òganizasyon k ap pran devan yo se moun k ap aplike chanjman sa a tout kote IA deja touche anviwònman yo, ki gen ladan kòd devlopè yo voye a, pa sèlman trafik ki travèse perimèt rezo yo a.
Opinyon Xygeni a: Sekirite IA a dwe kouvri kòd la, pa sèlman bwat resepsyon an.
Pifò pwoteksyon IA nan sekirite sibernetik la rete nan SOC la: èskrokri, malveyan, anomali rezo. Sa nesesè, epi li pa konplè tou, paske yon pati k ap grandi nan risk ki soti nan IA kounye a ap viv andedan sik lavi devlopman lojisyèl la menm, kote zouti SOC yo pa sanble.
Xygeni a CoreAI aplike menm panse konpòtmantal, ki baze sou anomali, ki dekri nan gid sa a pou sekirite aplikasyon espesyalman: korele rezilta yo atravè eskanè ou yo (pa sèlman Xygeni a pwòp), bay nòt sou sa ki vrèman eksplwatab olye pou inonde ekip yo ak volim alèt brit, eksplike poukisa yon risk bay enpòtan, epi jenere yon remèd pull request olye de yon lòt tikè reta. DevAI pwolonje menm pozisyon defansif sa a nan pati ki pi nouvo nan sifas atak la: IA kode ajan ak asistan, valide dosye konpetans ak enstriksyon ajan, epi bloke yon enstalasyon move anvan yon ajan janm aji sou li. Objektif la se menm ak sa gid sa a defann nan nivo SOC la, aplike nan pipeline: transfòme avantaj IA a sou volim ak vitès an avantaj yon defansè olye de yon atakè.
Kòmanse gratis. Sign up with GitHub, GitLab, oubyen Google epi jwenn vizibilite sou jiska 25 depo ak 50 eskanè IA pa mwa gratis, pa bezwen kat kredi.
Kesyon'w yo
Ki sa ki AI nan cybersecurity?
Entèlijans atifisyèl (IA) nan sekirite sibernetik se itilizasyon aprantisaj otomatik, tretman lang natirèl, ak gwo modèl langaj sou bò atak ak defans sekirite a. Moun k ap atake yo itilize li pou jenere kontni èskrokri konvenkan, deepfake, ak malveyan adaptatif; defansè yo itilize menm teknik fondamantal yo pou deteksyon anomali, triyaj alèt, ak repons otomatik.
Èske IA pi danjere kòm yon zouti atak oswa pi itil kòm yon zouti defans?
Ni youn ni lòt bò pa gen yon avantaj dirab paske toulede bati sou menm kapasite fondamantal la. Òganizasyon ki gen plis risk yo se sa yo ki poko aplike IA defansivman nan menm vitès ak atakan yo, se pa sa yo ki fè fas ak yon diferans teknolojik yo pa ka ranpli.
Èske IA ka ranplase nèt analis imen nan yon SOC?
Non, epi risk ki genyen nan eseye fè sa (fo pozitif ki soti nan modèl ki pa byen ajiste, patipri ki soti nan done antrènman ki pa konplè, ak manipilasyon advèsè nan sistèm deteksyon an li menm) se egzakteman rezon ki fè sipèvizyon imen an rete nesesè. Vrè valè IA a se netwaye fil la pou analis yo ka konsantre sou desizyon ki toujou bezwen yon moun.
Ki diferans ki genyen ant risk atak ki soti nan entèlijans atifisyèl pou ekip devlopman lojisyèl an patikilye?
Anplis phishing ak deepfakes, ekip devlopman yo fè fas ak risk espesifik IA anndan... SDLC li menm: ajan kodaj IA k ap enstale depandans alisine oswa move, enstriksyon ajan ki pa revize nan dosye konpetans, ak kòd ki pwodui pa IA ki repwodui sekrè ki kode an dirèk. Aspè sa a nan IA nan sekirite sibernetik kouvri an plis pwofondè nan nou an Gid Sekirite Chèn Apwovizyonman IA.
