Usa ka empleyado sa pinansya sa kompanya sa inhenyeriya Niapil si Arup sa usa ka video call uban sa pipila ka mga kauban, lakip ang CFO sa kompanya. Ang matag usa kanila usa ka AI-generated deepfake. Ang tawag natapos nga $25 milyon nga gibalhin ngadto sa mga tig-atake. Walay malware, walay phishing link, walay gipahimuslan nga kahuyangan: AI lang, gigamit nga igo nga makapakombinsir nga ang pagsalig ang mihimo sa uban. Kanang usa ka insidente nakakuha kung ngano nga ang AI sa cybersecurity nahimong hinungdanon nga hilisgutan sa natad. Ang parehas nga teknolohiya nga gitukod sa deepfake, sa ubang lugar sa industriya, nakadakop sa anomaliya nga unta nakapahunong niini. Kini nga giya sa seguridad sa AI naglangkob sa duha ka kilid: kung giunsa pag-atake sa AI, kung giunsa pagdepensa sa AI, ug kung unsa ang gipasabut niini kung asa sunod nga mag-focus ang mga security team.
AI sa cybersecurity, sa usa ka parapo
Ang AI sa cybersecurity nagtumong sa paggamit sa machine learning, natural language processing, ug dagkong mga modelo sa pinulongan sa duha ka habig sa samang away: aron paglunsad og mga pag-atake ug pag-ila ug paghunong niini. Gigamit sa mga tig-atake ang AI aron makamugna og makakombinsir nga phishing content, ma-clone ang mga tingog ug nawong, ug mas paspas nga masusi ang mga sistema kaysa sa mahimo sa usa ka team sa tawo. Gigamit sa mga tigpanalipod ang parehas nga nagpahiping mga teknik (pattern recognition sa daghang gidaghanon sa datos, natural-language understanding, behavioral modeling) aron makit-an ang mga anomaliya, maputol ang alert noise, ug motubag sa dili pa mograbe ang kadaot. Ang resulta usa ka tinuod nga dual-use nga teknolohiya sulod sa usa ka industriya, mao nga ang AI sa cybersecurity dili usa ka kategorya nga adunay klaro nga "maayo" ug "daotan" nga bahin. Kini usa ka kapabilidad, ug bisan kinsa nga mogamit niini nga mas paspas ug mas andam na.cisSi ely ang adunay bentaha sa pagkakaron.
AI isip usa ka vector sa pag-atake
- Phishing nga gihimo sa AI sa industriyal nga sukod. Ang phishing kaniadto dali ra madakpan tungod sa mga tells niini: dili maayo nga mga pulong, kasagarang mga pangumusta, ug klaro nga mga spoofed domain. Gitangtang sa AI ang kadaghanan niadtong mga tells. Sumala sa Hoxhunt's Taho sa mga Uso sa Phishing sa 2026, ang AI-generated phishing misaka gikan sa 4% sa tanang gitaho nga mga pagsulay sa phishing niadtong Nobyembre 2025 ngadto sa 56% niadtong Disyembre 2025, usa ka 14x nga pagtaas sa usa ka bulan, ug nakakupot sa mga 40% sa tanang gitaho nga mga pagsulay sa phishing hangtod sa tunga-tunga sa 2026. Ang kal-ang sa epektibo parehas ra ka klaro: a pagtuon sa tawo-subjek gikan sa mga tigdukiduki sa Harvard Kennedy School nakit-an nga ang hingpit nga AI-automated nga mga spear phishing email nakab-ot ang 54% nga click-through rate, nga katumbas sa hanas nga mga eksperto sa tawo ug labi ka maayo nga milabaw sa 12% nga click-through rate sa mga generic phishing email sa control group. Ang AI dili lang magsulat og daghang phishing email. Nagsulat usab kini og mga email nga molihok.
- Mga deepfake nga nagtumong sa pagsalig, dili sa imprastraktura. ang Kaso sa Arup Ang naa sa ibabaw dili na usa ka outlier; kini usa ka template. Ang AI-generated nga tingog ug video igo na nga makakombinsir aron mahimong usa ka tinuod nga ehekutibo sa usa ka live call, nga nag-usab sa social engineering gikan sa "paglimbong sa usa ka tawo aron mag-klik" ngadto sa "paglimbong sa usa ka tawo aron motuo nga nagtan-aw sila sa ilang CFO." Kana usa ka sukaranan nga mas lisud nga problema alang sa pagbansay sa kahibalo sa seguridad nga sulbaron, tungod kay ang limbong mahitabo sa lebel sa panan-aw, dili sa teknikal.
- Mas paspas nga pagpaniid ug adaptive malware. Gawas sa social engineering, ang AI nagpamubo sa gilay-on tali sa "ang tig-atake adunay ideya" ug "ang tig-atake adunay nagtrabaho nga exploit." Ang dagkong mga modelo sa pinulongan makapadali sa panukiduki sa kahuyangan batok sa public-facing code ug imprastraktura sa target, ug ang adaptive malware makausab sa kaugalingon nga pamatasan sa tunga-tunga sa pagpatuman kung kini makamatikod nga kini gisusi sa usa ka sandbox, usa ka kapabilidad nga kaniadto nanginahanglan usa ka hanas nga operator sa tawo nga nagtan-aw sa tinuud nga oras.
- Mga pag-atake sa kredensyal sa katulin sa makina. Ang pagpakaon sa leaked credential mahimong usa ka modelo aron mahibal-an ang mga sumbanan nga gigamit sa mga tawo kung maghunahuna sila nga sila "maalamon" gamit ang password makahimo sa guess-and-check nga mas haom sa prediksyon. Inubanan sa automated credential stuffing, kini makapakunhod sa kaniadto hinay ug saba nga pag-atake ngadto sa usa ka butang nga paspas ug hilom.
AI isip himan sa depensa
- Pag-detect sa anomaliya sa sukod nga dili matupngan sa mga tawo. Ang kinauyokan nga depensa nga bili sa AI mao ang pagproseso sa gidaghanon sa trapiko sa network, login kalihokan, ug mga system log nga walay analyst team nga makarepaso nga mano-mano ug maka-flag kon unsa ang lahi sa natukod nga baseline. Mao kini ang makadakop sa mga pag-atake nga wala pa mailhi nga signature, lakip ang zero-days ug insider misuse nga dili maka-trip sa rule-based alert.
- Pagputol sa pila sa alerto, dili pagdugang niini. Dinhi usab ang AI sa cybersecurity nga adunay labing dali nga resulta sa operasyon, ug diin ang industriya adunay pa gyud tinuod nga trabaho nga buhaton. Panukiduki sa Vectra AI sa 2026 nakit-an nga ang mga organisasyon nakadawat og aberids nga 2,992 ka mga alerto sa seguridad kada adlaw, diin 63% ang wala giimbestigahan, ug Microsoft ug Omdia Kahimtang sa SOC: Ihiusa Karon o Bayad sa Ulahi report nakit-an nga 46% sa tanang mga alerto napamatud-an nga mga sayop nga positibo ug 42% ang wala hingpit nga giimbestigahan. Ang AI-driven triage dili lang magdugang og laing detector sa maong pundok. Maayo nga pagkabuhat, kini nag-correlate sa mga may kalabutan nga alerto ngadto sa usa ka insidente, nag-iskor sa kung unsa gyud ang angay sa atensyon sa usa ka tawo, ug nagtugot sa mga analista nga mogahin sa ilang oras sa bahin sa mga alerto nga nagrepresentar sa tinuod nga peligro imbes nga mano-mano nga isira ang nahabilin.
- Klasipikasyon sa malware ug pamatasan nga labaw sa nailhan nga mga pirma. Ang parehas nga pamaagi sa pag-analisa sa pamatasan nga nag-flag sa dili normal nga kalihokan sa network molihok usab sa mga file ug mga pakete: imbes nga ipares sa usa ka lista sa nahibal-an nga dili maayo nga mga pirma, ang AI mahimong maka-iskor sa pamatasan sa oras sa pag-install, dili kasagaran nga mga tawag sa sistema, ug mga sumbanan sa obfuscation aron madakpan ang malware nga wala pa makita kaniadto, sa pagkakaron nga kini makita imbes nga pagkahuman niini makuhaan og fingerprint.
- Awtomatiko, kontrolado nga tubag. Ang pag-ila nga walay aksyon makapausab lang sa orasan. Ang tubag nga gipadagan sa AI makapahimulag sa apektadong device, makababag sa kadudahang trapiko, ug awtomatikong makasugod sa pagpugong, nga magsira sa kal-ang tali sa "nakita namo kini" ug "nahunong namo kini" gikan sa mga oras ngadto sa mga segundo sa mga kaso nga labing importante.
Ngano nga ang parehas nga mga teknik makadaot sa duha ka direksyon?
Ang dili komportable nga kamatuoran niining giya sa seguridad sa AI mao nga ang mga tig-atake ug mga tigpanalipod kanunay nga naggamit sa parehas nga nagpahiping kapabilidad padulong sa magkaatbang nga mga tumong. Ang natural-language modeling nga nagsulat og usa ka makapakombinsir nga phishing email mao ang parehas nga teknolohiya nga nagbasa sa usa ka kadudahan nga email ug husto nga nagklasipikar niini isip usa. Ang pag-ila sa sumbanan nga nagtugot sa malware nga mopahiangay aron makalikay sa usa ka sandbox parehas sa arkitektura sa pag-ila sa sumbanan nga nagmarka sa pamatasan sa malware nga dili normal sa una. Walay usa sa duha ka kilid ang adunay monopolyo sa teknolohiya, nga nagpasabut nga ang bentaha moadto sa bisan kinsa nga hingpit nga naghiusa niini sa ilang tinuud nga workflow, dili sa bisan kinsa nga adunay access sa usa ka mas abante nga modelo.
Kana nga simetriya mao usab ang hinungdan ngano nga ang AI sa cybersecurity nagpaila sa kaugalingon nga mga risgo sa depensa nga bahin. Ang mga sistema sa AI mahimong makamugna og mga sayop nga positibo nga magtago sa tinuod nga signal sa kasaba kung dili maayo ang pagka-tune, makapanunod sa bias gikan sa dili kompleto nga datos sa pagbansay ug masipyat sa tibuok nga klase sa mga hulga isip resulta, ug mahimo usab nga ma-target pinaagi sa mga teknik sa adversarial, diin ang usa ka tig-atake tinuyo nga nagpakaon sa usa ka modelo sa pag-ila nga nagpahisalaag sa datos aron mamanipula ang iyang gi-flag. Wala niini ang hinungdan aron malikayan ang AI sa depensa. Kini usa ka hinungdan aron ipadayon ang usa ka tawo sa loop alang sa mga tawag sa paghukom, ug isipon ang sistema sa AI mismo isip usa ka butang nga kinahanglan nga bantayan, dili usa ka butang nga imong i-deploy kausa ug saligan hangtod sa hangtod.
Unsay gipasabot niining giya sa seguridad sa AI para sa imong team
Lima ka lakang ang nagbulag sa mga team nga nakakuha og tinuod nga bili gikan sa AI sa cybersecurity gikan sa mga team nga bag-o lang nagdugang og laing himan:
- Ayaw paghulat nga ang mga atake nga "gipadagan sa AI" mahimong mayoriya sa dili pa ka mamuhunan sa depensa. Ang datos sa phishing sa ibabaw nagpakita kon unsa ka paspas nga mahimong dominante ang usa ka taktika sa minorya. Pagpalambo sa kapasidad sa pag-ila sa dili pa ang pagdagsang, dili atol niini.
- Itudlo una ang AI sa imong triage queue, dili lang sa imong perimeter. Ang pinakapaspas ug labing masukod nga kadaugan para sa kadaghanan sa mga team mao ang pagpakunhod sa gidaghanon sa mga false positive nga kinahanglan mano-manong limpyohan sa usa ka analyst, dili ang pagdugang og bag-ong detection layer.
- Isipa ang risgo sa deepfake ug voice-clone isip problema sa proseso, dili problema sa teknolohiya. Walay himan sa pag-ila nga hingpit nga makasira sa kal-ang nga estilo sa Arup. Out-of-band nga beripikasyon alang sa bisan unsang hangyo nga naglambigit sa pagbalhin sa kwarta o mga pagbag-o sa kredensyal.
- Ipalapdan ang parehas nga panghunahuna sa pamatasan nga gipadagan sa AI ngadto sa code ug pipelines, dili lang trapiko sa network. Nagkadaghan ang direktang gitarget sa mga tig-atake ang software supply chain (malicious packages, halusinasyon sa mga dependency, wala masusi nga mga instruksyon sa ahente), usa ka kategorya sa risgo nga adunay kaugalingong dinamika, nga gilatid pag-ayo sa among giya sa AI Supply Chain Security.
- Panagbalin ang tawo sa unsay desisyon sa AI. Ang awtomatikong pagtubag bililhon tungod kay kini paspas, mao usab ang hinungdan ngano nga kinahanglan niini ang usa ka klaro nga agianan sa pag-eskalar kung adunay kini sayup.
Asa padulong ang AI sa cybersecurity
Duha ka pagbalhin ang magtino sa sunod nga pipila ka tuig. Una, ang bahin sa tig-atake nagkonsolida sa mas gamay ug mas kombinsido nga mga taktika imbes nga mas daghang bastos nga mga taktika: Ang AI-generated phishing ug deepfakes dili usa ka mas lapad nga pukot; kini usa ka mas hait nga kaw-it. Ikaduha, ang bahin sa tigdepensa naglihok gikan sa "pag-detect ug pag-alerto sa usa ka tawo" ngadto sa "pag-detect, pag-iskor, ug paglihok sa dili pa adunay tiket," nga mao gyud ang pagbalhin nga nagsira sa gintang tali sa 2,992 ka adlaw-adlaw nga mga alerto nga giatubang sa kadaghanan sa mga SOC ug sa gamay ra nga bahin sa mga tinuod nga nakakita. Ang mga organisasyon nga nagpadayon mao ang nag-apply sa maong pagbalhin bisan asa nga ang AI nakahikap na sa ilang palibot, lakip ang code nga gipadala sa ilang mga developer, dili lang ang trapiko nga motabok sa perimeter sa ilang network.
Ang punto ni Xygeni: Ang seguridad sa AI kinahanglan nga motabon sa code, dili lang sa inbox
Kadaghanan sa AI-in-cybersecurity coverage natapos sa SOC: phishing, malware, ug mga anomaliya sa network. Kinahanglanon kana, ug dili usab kompleto, tungod kay ang nagkadako nga bahin sa risgo nga gipadagan sa AI karon anaa na sa sulod sa software development lifecycle mismo, diin wala makita ang SOC tooling.
Xygeni's CoreAI naggamit sa parehas nga panghunahuna nga gibase sa pamatasan, anomalya nga gihulagway niini nga giya sa seguridad sa aplikasyon ilabi na: pag-correlate sa mga nahibal-an sa imong kasamtangan nga mga scanner (dili lang Xygeni's kaugalingon), pag-iskor sa kung unsa ang aktuwal nga mapahimuslan imbes nga pun-on ang mga team og hilaw nga gidaghanon sa alerto, pagpasabut kung ngano nga hinungdanon ang usa ka gihatag nga peligro, ug paghimo og remediation pull request imbes nga laing backlog ticket. DevAI nagpalapad sa samang depensiba nga postura ngadto sa pinakabag-o nga bahin sa nawong sa pag-atake: mga ahente ug katabang sa AI coding, pag-validate sa mga skill file ug mga instruksyon sa ahente, ug pag-block sa usa ka malisyosong install sa dili pa molihok ang usa ka ahente niini. Ang tumong parehas sa gipangatarungan niini nga giya sa lebel sa SOC, nga gigamit sa pipeline: himoa ang bentaha sa AI kaysa sa volume ug speed nga bentaha sa usa ka tigdepensa imbes sa usa ka tig-atake.
Pagsugod nga libre. Sign up with GitHub, GitLab, o Google ug makakuha og visibility ngadto sa hangtod sa 25 ka repository ug 50 ka AI scan kada bulan nga walay bayad, dili kinahanglan og credit card.
FAQ
Unsa ang AI sa cybersecurity?
Ang AI sa cybersecurity mao ang paggamit sa machine learning, natural language processing, ug dagkong mga modelo sa pinulongan sa parehong pag-atake ug pagdepensa nga bahin sa seguridad. Gigamit kini sa mga tig-atake aron makamugna og makakombinsir nga phishing content, deepfakes, ug adaptive malware; ang mga tigdepensa naggamit sa parehas nga nagpahiping mga teknik alang sa anomaly detection, alert triage, ug automated response.
Mas delikado ba ang AI isip himan sa pag-atake o mas mapuslanon isip himan sa depensa?
Walay lig-on nga bentaha ang bisan hain sa duha ka habig tungod kay pareho silang gitukod sa samang nagpahiping kapabilidad. Ang mga organisasyon nga mas nameligro mao kadtong wala pa makagamit sa AI sa depensa sa samang gikusgon nga gigamit sa mga tig-atake sa opensiba, dili kadtong nag-atubang sa kal-ang sa teknolohiya nga dili nila matakpan.
Mahimo ba nga hingpit nga pulihan sa AI ang mga analista sa tawo sa usa ka SOC?
Dili, ug ang mga risgo sa pagsulay (mga sayop nga positibo gikan sa dili maayo nga pagka-tune sa mga modelo, bias gikan sa dili kompleto nga datos sa pagbansay, ug manipulasyon sa pag-ila sa sistema sa pag-ila mismo) mao gyud ang hinungdan ngano nga ang pagdumala sa tawo nagpabilin nga kinahanglanon. Ang tinuod nga bili sa AI mao ang paghawan sa pila aron ang mga analista maka-focus sa mga desisyon nga nanginahanglan pa og tawo.
Unsa may kalainan sa risgo sa pag-atake nga gipadagan sa AI para sa mga software development team?
Gawas sa phishing ug deepfakes, ang mga development team nag-atubang og mga risgo nga espesipiko sa AI sulod sa SDLC kaugalingon: Mga AI coding agents nga nag-install og mga hallucinated o malisyoso nga dependencies, wala masusi nga mga instruksyon sa ahente sa mga skill file, ug AI-generated code nga nagkopya sa mga hardcoded nga sekreto. Kana nga bahin sa AI sa cybersecurity mas gitabonan sa among Giya sa Seguridad sa Kadena sa Suplay sa AI.
