Инженерлік фирманың қаржы қызметкері Arup бейне қоңырауға қосылды бірнеше әріптестерімен, соның ішінде компанияның қаржы директорымен бірге. Олардың әрқайсысы жасанды интеллект жасаған терең фейк болды. Қоңырау шабуылдаушыларға 25 миллион доллар аударылуымен аяқталды. Зиянды бағдарлама, фишинг сілтемесі, пайдаланылған осалдық жоқ: тек жасанды интеллект, қалғанын сенім жасайтындай сенімді түрде пайдаланылды. Бұл жалғыз оқиға киберқауіпсіздіктегі жасанды интеллекттің неліктен саланың шешуші тақырыбына айналғанын көрсетеді. Сол терең фейкті жасаған технология саланың басқа жерлерінде оны тоқтататын аномалияны анықтайды. Бұл жасанды интеллект қауіпсіздігі бойынша нұсқаулық екі жақты да қамтиды: жасанды интеллект қалай шабуылдайды, жасанды интеллект қалай қорғанады және қауіпсіздік топтары келесі кезекте қайда назар аударуы керектігі туралы бұл нені білдіреді.
Киберқауіпсіздіктегі жасанды интеллект, бір абзацта
Киберқауіпсіздіктегі жасанды интеллект бір шайқастың екі жағында да машиналық оқытуды, табиғи тілді өңдеуді және үлкен тілдік модельдерді пайдалануды білдіреді: шабуылдарды бастау және оларды анықтау және тоқтату. Шабуылдаушылар фишингтік мазмұнды сенімді түрде жасау, дауыстар мен беттерді клондау және жүйелерді адами топқа қарағанда жылдамырақ зерттеу үшін жасанды интеллектті пайдаланады. Қорғаушылар аномалияларды анықтау, дабыл шуын жою және зақымдану қосылыстарына дейін жауап беру үшін бірдей негізгі әдістерді (үлкен көлемдегі деректер бойынша үлгіні тану, табиғи тілді түсіну, мінез-құлықты модельдеу) пайдаланады. Нәтижесінде бір салада шынымен қос мақсатты технология пайда болады, сондықтан киберқауіпсіздіктегі жасанды интеллект «жақсы» және «жаман» жақтары айқын санат емес. Бұл мүмкіндік, және оны кім қолданса, тезірек және тиімдірек қолданады.cisҚазіргі уақытта Элидің артықшылығы бар.
Жасанды интеллект шабуыл векторы ретінде
- Өнеркәсіптік ауқымда жасанды интеллект жасаған фишинг. Фишингті бұрын оның сипаттамалары арқылы анықтауға болатын: ыңғайсыз сөз тіркестері, жалпылама құттықтаулар, айқын жалған домендер. Жасанды интеллект бұл сипаттамалардың көпшілігін жойды. Хоксхант 2026 жылғы фишингтік үрдістер туралы есепЖасанды интеллект арқылы жасалған фишинг 2025 жылдың қарашасында тіркелген барлық фишинг әрекеттерінің 4%-ынан 2025 жылдың желтоқсанында 56%-ға дейін өсті, бұл бір айдағы 14 есеге өсті және 2026 жылдың ортасына дейін тіркелген барлық фишинг әрекеттерінің шамамен 40%-ын құрады. Тиімділік айырмашылығы да айқын: а Гарвард Кеннеди мектебінің зерттеушілерінің адами зерттеуі толығымен жасанды интеллектпен автоматтандырылған найза фишингтік электрондық хаттардың 54% шерту көрсеткішіне жеткені, білікті адами сарапшылармен теңескені және бақылау тобының жалпы фишингтік электрондық хаттарының 12% шерту көрсеткішінен әлдеқайда асып түскені анықталды. Жасанды интеллект тек көбірек фишингтік электрондық хаттар жазып қана қоймайды. Ол жұмыс істейтіндерін жазады.
- Инфрақұрылымға емес, сенімділікке бағытталған Deepfakes. The Arup корпусы Жоғарыдағылар енді ерекше емес; бұл үлгі. Жасанды интеллект арқылы жасалған дауыс пен бейне тікелей қоңырауда нағыз басшы ретінде көрінуге жеткілікті сенімді, бұл әлеуметтік инженерияны «біреуді басуға алдаудан» «біреуді өзінің қаржы директорына қарап тұрғанына сендіруге алдаудан» «айналдырады». Бұл қауіпсіздік туралы хабардарлықты оқыту үшін шешуге түбегейлі қиынырақ мәселе, себебі алдау техникалық емес, қабылдау деңгейінде болады.
- Жылдам барлау және бейімделгіш зиянды бағдарламалар. Әлеуметтік инженериядан басқа, жасанды интеллект «шабуылдаушының идеясы бар» және «шабуылдаушының жұмыс істейтін эксплойты бар» арасындағы қашықтықты қысқартады. Ірі тілдік модельдер нысананың көпшілікке арналған коды мен инфрақұрылымына қатысты осалдықтарды зерттеуді жеделдете алады, ал бейімделгіш зиянды бағдарлама оның құм жәшігінде талданып жатқанын анықтаса, оның орындалу кезіндегі мінез-құлқын өзгерте алады, бұл мүмкіндік бұрын білікті адам операторының нақты уақыт режимінде бақылауын талап ететін.
- Машина жылдамдығында тіркелгі деректеріне шабуылдар. Адамдар құпия сөзбен «ақылды» деп ойлаған кезде қолданатын үлгілерді білу үшін ағып кеткен тіркелгі деректері жиынтығын модельге енгізу «болжау және тексеру» функциясын болжауға жақын нәрсеге айналдырады. Автоматты тіркелгі деректерін толтырумен бірге бұл бұрын баяу, шулы шабуыл болған нәрсені жылдам және тыныш нәрсеге сығымдайды.
Жасанды интеллект қорғаныс құралы ретінде
- Адамдар тең келе алмайтын аномалияны анықтау масштабы. Жасанды интеллекттің негізгі қорғаныс құндылығы - желілік трафик көлемін өңдеу, login әрекет және ешбір аналитиктер тобы қолмен қарап шыға алмайтын жүйелік журналдар және белгіленген бастапқы деңгейден ауытқуларды белгілеу. Бұл әлі белгісіз қолтаңбасы бар шабуылдарды, соның ішінде нөлдік күндерді және ережеге негізделген ескертуді іске қоспайтын инсайдерлік теріс пайдалануды анықтайтын нәрсе.
- Ескерту кезегін кесіп тастау, оған қосымша қосу емес. Киберқауіпсіздік саласындағы жасанды интеллект ең жедел операциялық нәтиже беретін және саланың әлі де нақты жұмыс істеуі керек жер осы. Vectra AI компаниясының 2026 жылғы зерттеуі ұйымдар күніне орта есеппен 2,992 қауіпсіздік ескертуін алатынын, олардың 63%-ы тергелмейтінін және Microsoft және Omdia компаниялары SOC жағдайы: Қазір біріктіріңіз немесе кейінірек төлеңіз есеп барлық ескертулердің 46%-ы жалған оң нәтижелер болып шығатынын және 42%-ы толығымен зерттелмейтінін анықтады. Жасанды интеллектпен басқарылатын сұрыптау бұл үйіндіге тағы бір детектор қосып қана қоймайды. Жақсы жасалған жағдайда, ол байланысты ескертулерді бір оқиғамен байланыстырады, адамның назарын аударуға тұрарлық нәрсені бағалайды және талдаушыларға қалғандарын қолмен жабудың орнына нақты тәуекелді білдіретін ескертулердің аз бөлігіне уақыттарын жұмсауға мүмкіндік береді.
- Зиянды бағдарламалық жасақтама және белгілі қолтаңбалардан тыс мінез-құлық жіктелуі. Желілік белсенділіктің қалыптан тыс екенін белгілейтін мінез-құлықты талдау тәсілі файлдар мен пакеттерде де жұмыс істейді: белгілі бір зиянды қолтаңбалар тізімімен сәйкестендірудің орнына, жасанды интеллект орнату уақытындағы мінез-құлықты, ерекше жүйелік шақыруларды және шатастыру үлгілерін бағалап, бұрын-соңды болмаған зиянды бағдарламаларды саусақ ізі алынғаннан кейін емес, пайда болған сәтте анықтай алады.
- Автоматтандырылған, жинақталған жауап. Әрекетсіз анықтау тек уақытты ауыстырады. Жасанды интеллект басқаратын жауап әсер еткен құрылғыны оқшаулап, күдікті трафикті бұғаттап, автоматты түрде оқшаулауды бастай алады, ең маңызды жағдайларда «біз көрдік» және «біз тоқтаттық» арасындағы алшақтықты сағаттардан секундтарға дейін жояды.
Неліктен бірдей әдістер екі жаққа да кесіледі?
Бұл жасанды интеллект қауіпсіздік нұсқаулығындағы ыңғайсыз шындық - шабуылдаушылар мен қорғаушылар көбінесе бірдей негізгі мүмкіндіктерді қарама-қарсы мақсаттарға пайдаланады. Сенімді фишингтік электрондық пошта жазатын табиғи тілдегі модельдеу - күдікті электрондық поштаны оқып, оны дұрыс жіктейтін технология. Зиянды бағдарламаның құм жәшігінен айналып өтуіне мүмкіндік беретін үлгіні тану архитектуралық тұрғыдан зиянды бағдарламаның әрекетін бастапқыда аномальды деп белгілейтін үлгіні тануға ұқсас. Екі тараптың да технологияға монополиясы жоқ, яғни артықшылық оны нақты жұмыс процесіне толығымен біріктіретін адамға беріледі, ал озық үлгіге қол жеткізе алатын адамға емес.
Киберқауіпсіздіктегі жасанды интеллект қорғаныс жағында өз тәуекелдерін тудыруының себебі де осы симметрия болып табылады. Жасанды интеллект жүйелері дұрыс реттелмеген жағдайда шуға нақты сигналды көметін жалған оң нәтижелер тудыруы, толық емес оқыту деректерінен ауытқуды мұра етуі және нәтижесінде қауіптердің барлық кластарын жіберіп алуы мүмкін, және шабуылдаушы әдейі анықтау моделіне адастыратын деректерді беріп, оның белгілегенін өзгертеді, бұл кезде қарсыласу әдістері арқылы нысанаға алынуы мүмкін. Мұның ешқайсысы жасанды интеллекттен қорғаныс тұрғысынан аулақ болуға себеп емес. Бұл адамды сот шешімдері үшін циклде ұстауға және жасанды интеллект жүйесінің өзін бір рет орналастырып, шексіз сенетін нәрсе емес, бақылауды қажет ететін нәрсе ретінде қарастыруға себеп.
Бұл жасанды интеллект қауіпсіздік нұсқаулығы сіздің командаңыз үшін нені білдіреді
Киберқауіпсіздік саласындағы жасанды интеллекттен нақты пайда алатын топтарды жаңа құрал қосқан топтардан бес қадам бөліп тұр:
- Қорғанысқа инвестиция салудан бұрын «жасанды интеллектпен жұмыс істейтін» шабуылдардың көпшілікке айналуын күтпеңіз. Жоғарыдағы фишинг деректері азшылық тактикасының қаншалықты тез басым тактикаға айнала алатынын көрсетеді. Анықтау мүмкіндігін өсу кезінде емес, одан бұрын арттырыңыз.
- Тек периметріңізге ғана емес, алдымен сұрыптау кезегіңізге жасанды интеллектті бағыттаңыз. Көптеген командалар үшін ең жылдам және ең өлшенетін жеңіс - жаңа анықтау қабатын қосу емес, аналитиктің қолмен тазалауы керек жалған оң нәтижелер көлемін азайту.
- Терең жалған ақпарат тарату және дауысты клондау қаупін технологиялық мәселе емес, процесс мәселесі ретінде қарастырыңыз. Ешқандай анықтау құралы Arup стиліндегі алшақтықты толығымен жабады. Ақша қозғалысына немесе тіркелгі деректерінің өзгеруіне қатысты кез келген сұраныс үшін диапазоннан тыс тексеру.
- Сол жасанды интеллектке негізделген мінез-құлық ойлауын кодқа және pipelines, тек желілік трафик емес. Шабуылдаушылар бағдарламалық жасақтама жеткізу тізбегін тікелей нысанаға алуда (зиянды пакеттер, галлюцинацияланған тәуелділіктер, тексерілмеген агент нұсқаулары), бұл өзіндік динамикасы бар тәуекел санаты, ол біздің жасанды интеллект жеткізу тізбегінің қауіпсіздігі бойынша нұсқаулықта егжей-тегжейлі қарастырылған.
- Адамды жасанды интеллект шешімдері үшін жауапты етіңіз. Автоматтандырылған жауап беру жылдамдығымен құнды, сондықтан бірдеңе дұрыс болмаған кезде нақты эскалация жолын қажет етеді.
Киберқауіпсіздік саласындағы жасанды интеллект қайда бара жатыр
Алдағы бірнеше жылды екі ауысым анықтайды. Біріншіден, шабуылдаушы тарап көптеген дөрекі тактикалардың орнына аз, сенімдірек тактикаларға шоғырлануда: жасанды интеллект жасаған фишинг және терең фейктер кеңірек тор емес; олар өткір ілмек. Екіншіден, қорғаушы тарап «адамды анықтау және ескерту» дегеннен «билет пайда болғанға дейін анықтау, бағалау және әрекет ету» дегенге ауысуда, бұл көптеген SOC-тар кездесетін 2,992 күнделікті ескерту мен нақты көрінетіндердің үлесі арасындағы алшақтықты жояды. Алға жылжып келе жатқан ұйымдар - бұл ауысымды жасанды интеллект өз ортасына тиетін барлық жерде, соның ішінде әзірлеушілері жіберетін кодты қоса алғанда, желі периметрі бойынша өтетін трафикті ғана емес, қолданады.
Xygeni пікірі: Жасанды интеллект қауіпсіздігі тек кіріс жәшігін ғана емес, кодты да қамтуы керек
Киберқауіпсіздіктегі жасанды интеллекттің көп бөлігі SOC-та тоқтайды: фишинг, зиянды бағдарламалар, желілік ауытқулар. Бұл қажет, бірақ сонымен бірге толық емес, себебі жасанды интеллектпен байланысты тәуекелдің өсіп келе жатқан үлесі қазір бағдарламалық жасақтаманы әзірлеу өмірлік циклінің өзінде жатыр, мұнда SOC құралдары көрінбейді.
Xygeni's CoreAI осы нұсқаулықта сипатталған мінез-құлыққа, аномалияға негізделген ойлауды қолданба қауіпсіздігіне қолданады: бар сканерлеріңіздегі нәтижелерді өзара байланыстырады (тек қана емес) Xygeni's меншікті), командаларды шикі дабыл көлемімен толтырудың орнына, нақты пайдалануға болатын нәрсені бағалау, берілген тәуекелдің неліктен маңызды екенін түсіндіру және қалпына келтіру шараларын жасау pull request тағы бір артта қалған билеттің орнына. DevAI сол қорғаныс позициясын шабуыл бетінің ең жаңа бөлігіне де кеңейтеді: жасанды интеллект кодтау агенттері мен көмекшілері, дағдылар файлдары мен агент нұсқауларын тексеру және зиянды орнатуды агент әрекет етпес бұрын бұғаттау. Мақсат - осы нұсқаулық SOC деңгейінде дәлелдейтін мақсатпен бірдей, қолданылатын pipeline: жасанды интеллекттің дыбыс деңгейі мен жылдамдығына қарағандағы артықшылығын шабуылдаушының орнына қорғаушының артықшылығына айналдыру.
Тегін бастаңыз. Sign up with GitHub, GitLab немесе Google арқылы айына 25 репозиторийге және 50 жасанды интеллект сканерлеуге тегін, несие картасын қажет етпей-ақ көрінуге мүмкіндік алыңыз.
FAQ
Киберқауіпсіздікте жасанды интеллект дегеніміз не?
Киберқауіпсіздіктегі жасанды интеллект - бұл қауіпсіздіктің шабуылдаушы және қорғанысшы тараптарында машиналық оқытуды, табиғи тілді өңдеуді және үлкен тілдік модельдерді пайдалану. Шабуылдаушылар оны сенімді фишингтік мазмұнды, терең жалған ақпаратты және бейімделгіш зиянды бағдарламаларды жасау үшін пайдаланады; қорғаушылар аномалияларды анықтау, дабыл сұрыптау және автоматтандырылған жауап беру үшін бірдей негізгі әдістерді пайдаланады.
Жасанды интеллект шабуыл құралы ретінде қауіптірек пе, әлде қорғаныс құралы ретінде пайдалырақ па?
Екі тараптың да тұрақты артықшылығы жоқ, себебі екеуі де бірдей негізгі мүмкіндіктерге негізделген. Тәуекелге ұшыраған ұйымдар - жасанды интеллектті қорғаныста әлі қолданбаған ұйымдар, шабуылдаушылар оны шабуылда қолданған қарқынмен, ал технологиялық олқылыққа тап болған ұйымдар емес.
ЖСҚ-да жасанды интеллект адами аналитиктерді толығымен алмастыра ала ма?
Жоқ, және тырысу тәуекелдері (нашар бапталған модельдерден алынған жалған оң нәтижелер, толық емес оқыту деректерінен алынған бейімділік және анықтау жүйесінің өзін қарама-қайшы манипуляциялау) адамның бақылауының қажеттілігінің дәл себебі болып табылады. Жасанды интеллекттің нақты құндылығы - талдаушылар әлі де адамды қажет ететін шешімдерге назар аудара алатындай етіп, кезекті тазарту.
Бағдарламалық жасақтаманы әзірлеу топтары үшін жасанды интеллект негізіндегі шабуыл қаупі қалай ерекшеленеді?
Фишинг пен терең фейктерден басқа, әзірлеуші топтар жасанды интеллектке тән қауіптерге тап болады SDLC өзі: галлюцинацияланған немесе зиянды тәуелділіктерді орнататын жасанды интеллект кодтау агенттері, дағдылар файлдарындағы тексерілмеген агент нұсқаулары және қатты кодталған құпияларды қайталайтын жасанды интеллект жасаған код. Киберқауіпсіздіктегі жасанды интеллекттің бұл жағы біздің мақаламызда тереңірек қарастырылады. Жасанды интеллект жеткізу тізбегінің қауіпсіздігі бойынша нұсқаулық.
