Инженердик фирманын каржы кызматкери Аруп видео чалууга кошулду бир нече кесиптештери, анын ичинде компаниянын каржы директору менен. Алардын ар бири жасалма интеллект тарабынан түзүлгөн терең фейк болгон. Чалуу чабуулчуларга 25 миллион доллар которулуп берилиши менен аяктады. Зыяндуу программа, фишинг шилтемеси жок, алсыздыкты пайдалануу жок: жөн гана жасалма интеллект, калганын ишеним гана жасай тургандай ишенимдүү колдонулган. Бул бир окуя киберкоопсуздуктагы жасалма интеллект эмне үчүн тармактагы аныктоочу темага айланганын көрсөтүп турат. Ошол эле терең фейкти түзгөн технология тармактын башка жерлеринде аны токтото турган аномалияны аныктап жатат. Бул жасалма интеллект коопсуздугу боюнча колдонмо эки тарапты тең камтыйт: жасалма интеллект кантип чабуул жасайт, жасалма интеллект кантип коргойт жана бул коопсуздук топтору кийинки кезекте кайда көңүл бурушу керек дегенди билдирет.
Киберкоопсуздуктагы жасалма интеллект, бир абзацта
Киберкоопсуздуктагы жасалма интеллект бир эле күрөштүн эки тарабында тең машиналык окутууну, табигый тилди иштетүүнү жана чоң тил моделдерин колдонууну билдирет: чабуулдарды баштоо жана аларды аныктоо жана токтотуу. Чабуулчулар фишинг контентин ишенимдүү түрдө түзүү, үндөрдү жана жүздөрдү клондоо жана системаларды адам командасына караганда тезирээк текшерүү үчүн жасалма интеллектти колдонушат. Коргоочулар аномалияларды аныктоо, эскертүүчү ызы-чууну жоюу жана зыян келтирилгенге чейин жооп берүү үчүн ошол эле негизги ыкмаларды (чоң көлөмдөгү маалыматтардын арасынан үлгүнү таануу, табигый тилди түшүнүү, жүрүм-турумдук моделдөө) колдонушат. Натыйжада, бир тармактын ичинде чындап кош максаттуу технология пайда болот, ошондуктан киберкоопсуздуктагы жасалма интеллект "жакшы" жана "жаман" жактары бар категория эмес. Бул мүмкүнчүлүк, жана ким аны колдонсо, ал тезирээк жана көбүрөөк...cisЭли учурда артыкчылыкка ээ.
Кол салуу вектору катары жасалма интеллект
- Өнөр жай масштабында жасалма интеллект тарабынан түзүлгөн фишинг. Фишингди мурда өзүнүн үндөрүнөн кармоого мүмкүн болчу: ыңгайсыз фразалар, жалпы саламдашуулар, ачыктан-ачык жасалма домендер. Жасалма интеллект бул үндөрдөн көбүн алып салган. Хоксханттын 2026-жылдагы фишинг тенденциялары жөнүндө отчет, Жасалма интеллект тарабынан түзүлгөн фишинг 2025-жылдын ноябрындагы бардык катталган фишинг аракеттеринин 4% дан 2025-жылдын декабрында 56% га чейин өскөн, бул бир айдын ичинде 14 эсеге көп жана 2026-жылдын ортосуна чейин катталган бардык фишинг аракеттеринин болжол менен 40% ын ээлеп келген. Натыйжалуулук айырмасы ошондой эле кескин: а Гарвард Кеннеди мектебинин изилдөөчүлөрүнүн адам менен изилдөөсү толугу менен жасалма интеллект менен автоматташтырылган найза фишинг электрондук каттары 54% чыкылдатуу көрсөткүчүнө жетишип, тажрыйбалуу адам эксперттерине тең келип, контролдук топтун жалпы фишинг электрондук каттарынын 12% чыкылдатуу көрсөткүчүнөн алда канча ашып түшкөнүн аныкташкан. Жасалма интеллект жөн гана көбүрөөк фишинг электрондук каттарын жазбайт. Ал иштегендерди жазат.
- Инфраструктурага эмес, ишенимге багытталган Deepfakes. The Arup иши Жогорудагы нерсе мындан ары четтөөчү эмес; бул шаблон. Жасалма интеллект тарабынан түзүлгөн үн жана видео түз эфирдеги чалууда чыныгы жетекчи катары көрүнүүгө жетиштүү деңгээлде ынандырарлык, социалдык инженерияны "кимдир бирөөнү чыкылдатууга алдоодон" "кимдир бирөөнү өзүнүн каржы директорун карап жатат деп ишендирүүгө алдоодон" айландырат. Бул коопсуздук жөнүндө маалымдуулукту жогорулатуу боюнча окутуу үчүн чечүү үчүн түп-тамырынан бери татаалыраак маселе, анткени алдоо техникалык деңгээлде эмес, кабылдоо деңгээлинде болот.
- Тезирээк чалгындоо жана адаптивдүү зыяндуу программа. Социалдык инженериядан тышкары, жасалма интеллект "чабуулчунун идеясы бар" жана "чабуулчунун иштеп жаткан эксплуатациясы бар" дегендердин ортосундагы аралыкты кыскартат. Чоң тил моделдери бутага карата коомчулукка ачык кодго жана инфраструктурага карата аялуу жактарын изилдөөнү тездете алат, ал эми адаптивдүү зыяндуу программа, эгерде ал кумкоргондо талданып жатканын аныктаса, анын жүрүм-турумун аткаруу учурунда өзгөртө алат, бул мүмкүнчүлүк мурда тажрыйбалуу адам операторунун реалдуу убакытта байкоосун талап кылчу.
- Машинанын ылдамдыгында ишеним грамоталарына кол салуулар. Агып кеткен ишеним грамоталарынын топтомдорун адамдар сырсөз менен "акылдуу" болуп жатам деп ойлогондо чындыгында колдонгон үлгүлөрдү үйрөнүү үчүн моделге киргизүү, "божомолдоо жана текшерүү" функциясын алдын ала айтууга жакыныраак нерсеге айландырат. Бул автоматтык түрдө ишеним грамоталарын толтуруу менен айкалышып, мурда жай, ызы-чуулуу чабуул болгон нерсени тез жана тынч нерсеге кысып коёт.
Коргонуу куралы катары жасалма интеллект
- Адамдар тең келе албаган масштабда аномалияларды аныктоо. Жасалма интеллекттин негизги коргонуу баалуулугу тармактык трафиктин көлөмүн иштетүү болуп саналат, login иш-аракеттерди жана эч бир аналитиктер тобу кол менен карап чыга албаган системалык журналдарды жана белгиленген баштапкы чекиттен эмне четтеп кеткенин белгилейт. Бул нөлдүк күндөрдү жана эрежеге негизделген эскертүүнү иштетпей турган инсайдердик кыянаттыктарды камтыган азырынча белгисиз кол тамгалары бар чабуулдарды кармайт.
- Эскертүү кезегин толуктоо эмес, кесип салуу. Бул жерде киберкоопсуздуктагы жасалма интеллект эң тез арада операциялык натыйжа берет жана тармакта дагы эле жасала турган реалдуу иштер бар. Vectra AI компаниясынын 2026-жылдагы изилдөөсү уюмдар күнүнө орто эсеп менен 2,992 коопсуздук эскертүүсүн алаары, алардын 63%ы иликтенбей калаары жана Microsoft жана Omdia's SOCтун абалы: Азыр бириктириңиз же кийинчерээк төлөңүз билдирүү бардык эскертүүлөрдүн 46% жалган оң натыйжалар болуп чыгаарын жана 42% толугу менен иликтенбей калаарын аныкташкан. Жасалма интеллект менен башкарылган триаж бул үймөккө дагы бир детекторду кошуп койбойт. Жакшы жасалгандыктан, ал байланыштуу эскертүүлөрдү бир окуяга байланыштырат, адамдын көңүлүн бурууга татыктуу нерсени эсептейт жана аналитиктерге калганын кол менен жабуунун ордуна, чыныгы тобокелдикти билдирген эскертүүлөрдүн бир бөлүгүнө убакыт коротууга мүмкүндүк берет.
- Зыяндуу программалык камсыздоо жана жүрүм-турумдук классификация белгилүү кол тамгалардан тышкары. Тармактын аномалдуу активдүүлүгүн белгилеген ошол эле жүрүм-турумдук анализ ыкмасы файлдарда жана пакеттерде да иштейт: белгилүү жаман кол тамгалардын тизмеси менен дал келүүнүн ордуна, жасалма интеллект орнотуу убактысындагы жүрүм-турумду, адаттан тыш системалык чакырууларды жана башаламандык үлгүлөрүн баалап, мурда эч качан көрүлбөгөн зыяндуу программаларды манжа изи алынгандан кийин эмес, пайда болгон учурда кармай алат.
- Автоматташтырылган, камтылган жооп. Эч кандай аракетсиз аныктоо жөн гана убакытты жылдырат. Жасалма интеллект менен башкарылган жооп таасир эткен түзмөктү обочолонтуп, шектүү трафикти бөгөттөп, автоматтык түрдө токтотууну баштап, эң маанилүү учурларда "биз көрдүк" жана "биз токтоттук" деген сөздөрдүн ортосундагы ажырымды сааттардан секунддарга чейин жаап коё алат.
Эмне үчүн бир эле ыкмалар эки тарапты тең кесип өтөт?
Бул AI коопсуздук колдонмосундагы ыңгайсыз чындык, чабуулчулар жана коргоочулар көп учурда карама-каршы максаттарда бир эле негизги мүмкүнчүлүктү колдонушат. Ишенимдүү фишинг электрондук катын жазган табигый тилдеги моделдөө - бул шектүү электрондук катты окуп, аны туура классификациялаган технология. Зыяндуу программанын кумкоргондон качуусуна мүмкүндүк берген үлгүнү таануу архитектуралык жактан зыяндуу программанын жүрүм-турумун башында эле аномалдуу деп белгилеген үлгүнү таанууга окшош. Эки тарап тең технологияга монополияга ээ эмес, демек, артыкчылык аны өзүнүн чыныгы жумуш агымына толугу менен интеграциялаган адамга берилет, ал эми өнүккөн моделге мүмкүнчүлүгү бар адамга эмес.
Дал ушул симметрия киберкоопсуздукта жасалма интеллекттин коргонуу жагында өзүнүн тобокелдиктерин жаратышынын себеби болуп саналат. Жасалма интеллект системалары начар жөндөлгөн учурда чыныгы сигналды ызы-чууга көмгөн жалган позитивдерди жаратышы, толук эмес окутуу маалыматтарынан бир жактуулукту мурастап алышы жана натыйжада коркунучтардын бүтүндөй класстарын өткөрүп жибериши мүмкүн жана өздөрү атаандаштык ыкмалары аркылуу бутага алынышы мүмкүн, мында чабуулчу атайылап аныктоо моделине адаштыруучу маалыматтарды берип, ал белгилеген нерсени манипуляциялайт. Мунун бири да жасалма интеллекттен коргонуу жагынан качууга себеп эмес. Бул адамды соттук чечимдер үчүн байланышта кармоо жана жасалма интеллект системасынын өзүн бир жолу орнотуп, чексиз ишенген нерсе катары эмес, көзөмөлдөөнү талап кылган нерсе катары кароонун себеби.
Бул AI коопсуздук боюнча колдонмо сиздин командаңыз үчүн эмнени билдирет
Киберкоопсуздукта жасалма интеллекттен чыныгы пайда алып жаткан командаларды жаңы эле башка куралды кошкон командалардан бөлүп турган беш кадам бар:
- Коргонууга инвестиция салуудан мурун, "жасалма интеллект менен иштеген" чабуулдардын көпчүлүккө айланышын күтпөңүз. Жогорудагы фишинг маалыматтары азчылык тактикасынын канчалык тездик менен үстөмдүк кыла аларын көрсөтүп турат. Аныктоо мүмкүнчүлүгүн анын кескин өсүшү учурунда эмес, ага чейин түзүңүз.
- Алгач жасалма интеллектти кезегиңизге багыттаңыз, жөн гана периметриңизге эмес. Көпчүлүк командалар үчүн эң тез жана өлчөнүүчү жеңиш - бул аналитик кол менен тазалоого тийиш болгон жалган позитивдердин көлөмүн азайтуу, жаңы аныктоо катмарын кошуу эмес.
- Терең жасалмалоо жана үн клонунун коркунучун технологиялык көйгөй эмес, процесстик көйгөй катары караңыз. Эч бир аныктоо куралы Arup стилиндеги боштукту толугу менен жабат. Акча кыймылына же ишеним грамоталарын өзгөртүүгө байланыштуу ар кандай суроо-талап үчүн диапазондон тышкары текшерүү.
- Ошол эле AI тарабынан башкарылган жүрүм-турумдук ой жүгүртүүнү кодго жана pipelines, жөн гана тармактык трафик эмес. Чабуулчулар программалык камсыздоо чынжырын түздөн-түз бутага алышат (зыяндуу пакеттер, галлюцинацияланган көз карандылыктар, каралбаган агент көрсөтмөлөрү), бул өзүнчө динамикасы бар тобокелдик категориясы, биздин AI камсыздоо чынжырынын коопсуздугу боюнча колдонмобузда кеңири баяндалган.
- Адамды жасалма интеллекттин чечимдери үчүн жоопкерчиликтүү кылыңыз. Автоматташтырылган жооп берүү дал ошол тез болгондуктан баалуу, ошондуктан бир нерсе туура эмес болуп калганда так эскалация жолун талап кылат.
Киберкоопсуздуктагы жасалма интеллект кайда баратат
Кийинки бир нече жылды эки жылыш аныктайт. Биринчиден, чабуулчу тарап көп сандаган одоно тактикалардын ордуна азыраак, ишенимдүүрөөк тактикалардын айланасында биригип жатат: жасалма интеллект тарабынан түзүлгөн фишинг жана терең фейктер кеңири тор эмес; алар курчураак илмек. Экинчиден, коргоочу тарап "адамды аныктоо жана эскертүү" дегенден "билеттер пайда боло электе аныктоо, баалоо жана аракет кылуу" дегенге өтүп жатат, бул дал ушул жылыш көпчүлүк SOC туш болгон 2,992 күнүмдүк эскертүү менен чыныгы көрүнүшкө ээ болгондордун үлүшүнүн ортосундагы ажырымды жоюп салат. Алдыда келе жаткан уюмдар бул өзгөрүүнү жасалма интеллект алардын чөйрөсүнө тийген бардык жерде, анын ичинде иштеп чыгуучулары жөнөткөн коддо, тармактын периметри боюнча өтүп жаткан трафикте гана эмес, колдонот.
Xygeni компаниясынын пикири: Жасалма интеллект коопсуздугу электрондук почтаны гана эмес, кодду да камтышы керек
Киберкоопсуздуктагы жасалма интеллекттин көпчүлүк камтуусу SOC менен гана чектелет: фишинг, зыяндуу программалар, тармактык аномалиялар. Бул зарыл жана ал толук эмес, анткени жасалма интеллект тарабынан башкарылган тобокелдиктердин өсүп жаткан үлүшү азыр программалык камсыздоону иштеп чыгуу циклинин өзүндө, ал эми SOC куралдары көрүнбөгөн жерде жатат.
Xygeni's CoreAI ушул колдонмодо сүрөттөлгөн жүрүм-турумдук, аномалияга негизделген ой жүгүртүүнү тиркемелердин коопсуздугуна да колдонот: табылган маалыматтарды учурдагы сканерлериңиз аркылуу гана эмес, Xygeni's өз), командаларды чийки эскертүүлөрдүн көлөмү менен толтуруунун ордуна, чындыгында эмнени пайдаланууга болорун баалоо, берилген тобокелдиктин эмне үчүн маанилүү экенин түшүндүрүү жана калыбына келтирүү чараларын көрүү pull request дагы бир артта калган билеттин ордуна. DevAI ошол эле коргонуу позициясын чабуул бетинин эң жаңы бөлүгүнө жайылтат: жасалма интеллект коддоочу агенттер жана жардамчылар, көндүм файлдарын жана агенттин көрсөтмөлөрүн текшерүү жана агент ага каршы аракет кыла электе зыяндуу орнотууну бөгөттөө. Максат - бул колдонмо SOC деңгээлинде жактаган максат менен бирдей, ага карата колдонулат. pipeline: жасалма интеллекттин көлөм жана ылдамдык боюнча артыкчылыгын чабуулчунун ордуна коргоочунун артыкчылыгына айландыруу.
Акысыз баштаңыз. Sign up with GitHub, GitLab же Google аркылуу айына 25ке чейин репозиторийге жана 50гө чейин жасалма интеллект сканерлөөсүнө акысыз, кредиттик карта талап кылынбайт.
FAQ
Киберкоопсуздукта AI деген эмне?
Киберкоопсуздуктагы жасалма интеллект - бул коопсуздуктун чабуулчу жана коргонуучу тараптарында машиналык окутууну, табигый тилди иштетүүнү жана чоң тил моделдерин колдонуу. Чабуулчулар аны ишенимдүү фишинг контентин, терең жасалмаларды жана адаптивдүү зыяндуу программаларды түзүү үчүн колдонушат; коргоочулар аномалияларды аныктоо, эскертүүлөрдү сорттоо жана автоматташтырылган жооп берүү үчүн ошол эле негизги ыкмаларды колдонушат.
Жасалма интеллект чабуул куралы катары кооптуураакпы же коргонуу куралы катары пайдалуураакпы?
Эки тарап тең бирдей негизги мүмкүнчүлүктөргө негизделгендиктен, туруктуу артыкчылыкка ээ эмес. Чоң тобокелчиликке кабылган уюмдар - бул чабуулчулар колдонгон темпте жасалма интеллектти коргонуу максатында колдоно элек уюмдар, ал эми технологиялык боштукка туш болгон уюмдар эмес.
ЖКда жасалма интеллект адам аналитиктерин толугу менен алмаштыра алабы?
Жок, жана аракет кылуунун тобокелдиктери (начар жөндөлгөн моделдерден алынган жалган оң натыйжалар, толук эмес окутуу маалыматтарынан келип чыккан бир жактуулук жана аныктоо системасынын өзүнүн атаандаштык манипуляциясы) дал ушул себептен адамдык көзөмөл зарыл бойдон калууда. Жасалма интеллекттин чыныгы баалуулугу - аналитиктер дагы эле адамга муктаж болгон чечимдерге көңүл бура алышы үчүн кезекти тазалоо.
Программалык камсыздоону иштеп чыгуучу топтор үчүн жасалма интеллект менен башкарылган чабуул коркунучу эмнеси менен айырмаланат?
Фишинг жана терең фейктерден тышкары, иштеп чыгуу топтору жасалма интеллектке мүнөздүү тобокелдиктерге туш болушат SDLC өзү: галлюцинацияланган же зыяндуу көз карандылыктарды орноткон ИИ коддоочу агенттер, көндүм файлдарындагы каралбаган агент көрсөтмөлөрү жана катуу коддолгон сырларды кайра чыгарган ИИ тарабынан түзүлгөн код. Киберкоопсуздуктагы ИИнин бул жагы бизде кененирээк камтылган. Жасалма интеллект менен камсыздоо чынжырынын коопсуздугу боюнча колдонмо.
