Фінансавы супрацоўнік інжынернай фірмы Аруп далучыўся да відэазванка з некалькімі калегамі, у тым ліку фінансавым дырэктарам кампаніі. Кожны з іх быў глыбокім фэйкам, згенераваным штучным інтэлектам. Званок завяршыўся тым, што зламыснікам было пералічана 25 мільёнаў долараў. Ніякага шкоднаснага праграмнага забеспячэння, ніякіх фішынгавых спасылак, ніякіх выкарыстаных уразлівасцей: толькі штучны інтэлект, выкарыстаны дастаткова пераканаўча, каб давер зрабіў астатняе. Гэты адзіны інцыдэнт адлюстроўвае, чаму штучны інтэлект у кібербяспецы стаў вызначальнай тэмай у гэтай галіне. Тая ж тэхналогія, на якой быў пабудаваны гэты глыбокі фэйк, цяпер і ў іншых галінах ловіць анамалію, якая магла б яго спыніць. Гэта кіраўніцтва па бяспецы штучнага інтэлекту ахоплівае абодва бакі: як штучны інтэлект атакуе, як штучны інтэлект абараняе і што гэта азначае для таго, на чым павінны засяродзіцца каманды бяспекі далей.
Штучны інтэлект у кібербяспецы, адным абзацам
Штучны інтэлект у кібербяспецы азначае выкарыстанне машыннага навучання, апрацоўкі натуральнай мовы і мадэляў вялікіх моў з абодвух бакоў адной барацьбы: для запуску нападаў, іх выяўлення і спынення. Зламыснікі выкарыстоўваюць штучны інтэлект для стварэння пераканаўчага фішынгавага кантэнту, кланавання галасоў і твараў, а таксама для даследавання сістэм хутчэй, чым гэта зрабіла б каманда людзей. Абаронцы выкарыстоўваюць тыя ж асноўныя метады (распазнаванне шаблонаў сярод велізарных аб'ёмаў дадзеных, разуменне натуральнай мовы, мадэляванне паводзін), каб выяўляць анамаліі, праразаць шум трывогі і рэагаваць да таго, як пашкоджанне пагоршыцца. У выніку атрымліваецца сапраўды тэхналогія двайнога прызначэння ў адной галіне, таму штучны інтэлект у кібербяспецы не з'яўляецца катэгорыяй з выразна акрэсленымі «добрымі» і «дрэннымі» бакамі. Гэта здольнасць, і той, хто ўжывае яе хутчэй і больш дакладна.cisЭлі зараз мае перавагу.
Штучны інтэлект як вектар атакі
- Фішынг, згенераваны штучным інтэлектам, у прамысловых маштабах. Раней фішынг можна было выкрыць па яго падказках: нязграбныя фразы, агульныя прывітанні, відавочна падробленыя дамены. Штучны інтэлект выдаліў большасць з гэтых падказак. Паводле Хоксханта Справаздача аб тэндэнцыях фішынгу за 2026 годФішынг, згенераваны штучным інтэлектам, падскочыў з 4% усіх зарэгістраваных спроб фішынгу ў лістападзе 2025 года да 56% у снежні 2025 года, што ў 14 разоў больш за адзін месяц, і да сярэдзіны 2026 года ён складаў каля 40% усіх зарэгістраваных спроб фішынгу. Разрыў у эфектыўнасці гэтак жа вялікі: a даследаванне на людзях, праведзенае даследчыкамі Гарвардскай школы Кенэдзі Высветлілася, што цалкам аўтаматызаваныя з дапамогай штучнага інтэлекту фішынгавыя электронныя лісты дасягнулі 54% клікабельнасці, што адпавядае кваліфікаваным экспертам-людзям і значна пераўзыходзіць 12% клікабельнасці звычайных фішынгавых лістоў кантрольнай групы. Штучны інтэлект не проста піша больш фішынгавых лістоў. Ён піша тыя, якія працуюць.
- Дыпфэйкі, якія нацэлены на давер, а не на інфраструктуру. ,en Справа Арупа Вышэйзгаданае ўжо не з'яўляецца выключэннем; гэта шаблон. Голас і відэа, згенераваныя штучным інтэлектам, дастаткова пераканаўчыя, каб сысці за рэальнага кіраўніка падчас жывой размовы, ператвараючы сацыяльную інжынерыю з «падману кагосьці, каб ён націснуў» у «падман кагосьці, каб ён паверыў, што глядзіць на свайго фінансавага дырэктара». Гэта прынцыпова больш складаная праблема для навучання па павышэнні дасведчанасці аб бяспецы, таму што падман адбываецца на перцэптыўным узроўні, а не на тэхнічным.
- Хутчэйшая разведка і адаптыўнае шкоднаснае праграмнае забеспячэнне. Акрамя сацыяльнай інжынерыі, штучны інтэлект скарачае адлегласць паміж «у зламысніка ёсць ідэя» і «у зламысніка ёсць працоўны эксплойт». Мадэлі вялікіх моў могуць паскорыць даследаванне ўразлівасцяў у агульнадаступным кодзе і інфраструктуры мэты, а адаптыўнае шкоднаснае праграмнае забеспячэнне можа змяніць сваю ўласную паводзіны падчас выканання, калі выявіць, што яно аналізуецца ў пясочніцы, што раней патрабавала назірання кваліфікаванага аператара-чалавека ў рэжыме рэальнага часу.
- Атакі на ўліковыя дадзеныя з машыннай хуткасцю. Увод уцечак набораў уліковых дадзеных у мадэль для вывучэння шаблонаў, якія людзі насамрэч выкарыстоўваюць, калі думаюць, што яны «хітра паводзяць сябе» з паролем, ператварае здагадку і праверку ў нешта больш блізкае да прагназавання. У спалучэнні з аўтаматызаваным запаўненнем уліковых дадзеных гэта сціскае тое, што раней было павольнай і шумнай атакай, у нешта хуткае і ціхае.
Штучны інтэлект як інструмент абароны
- Выяўленне анамалій у маштабе, недаступным для людзей. Асноўная абарончая каштоўнасць штучнага інтэлекту заключаецца ў апрацоўцы аб'ёмаў сеткавага трафіку, login актыўнасць і сістэмныя журналы, якія ніводная каманда аналітыкаў не магла б праверыць уручную, і пазначаць тое, што адхіляецца ад усталяванага базавага ўзроўню. Гэта тое, што выяўляе атакі без вядомай сігнатуры, у тым ліку атакі нулявога дня і злоўжыванне інсайдэрамі, якія не выклікалі б папярэджанне на аснове правілаў.
- Прабіваючы чаргу папярэджанняў, а не дадаючы яе ў чаргу. Менавіта тут штучны інтэлект у кібербяспецы мае найбольш неадкладную аперацыйную аддачу, і дзе галіны яшчэ ёсць над чым працаваць. Даследаванне Vectra AI за 2026 год высветлілася, што арганізацыі атрымліваюць у сярэднім 2,992 папярэджанні аб бяспецы ў дзень, прычым 63% застаюцца нерасследаванымі, і Microsoft і Omdia Стан SOC: аб'яднацца зараз ці плаціць пазней паведамляць Высветлілася, што 46% усіх папярэджанняў аказваюцца ілжыва станоўчымі, а 42% застаюцца зусім не расследаванымі. Сартаванне з дапамогай штучнага інтэлекту не проста дадае яшчэ адзін дэтэктар да гэтай кучы. Пры добрай рабоце яно суадносіць звязаныя папярэджанні ў адзін інцыдэнт, ацэньвае тое, што сапраўды варта ўвагі чалавека, і дазваляе аналітыкам марнаваць свой час на тую частку папярэджанняў, якія ўяўляюць рэальную рызыку, замест таго, каб уручную закрываць астатнія.
- Класіфікацыя шкоднасных праграм і паводзін па-за межамі вядомых сігнатур. Той жа падыход паводніцкага аналізу, які пазначае анамальную сеткавую актыўнасць, працуе і з файламі і пакетамі: замест супастаўлення са спісам вядомых шкоднасных сігнатур, штучны інтэлект можа ацэньваць паводзіны падчас усталёўкі, незвычайныя сістэмныя выклікі і шаблоны заблытвання, каб выявіць шкоднаснае праграмнае забеспячэнне, якое ніколі раней не сустракалася, у момант яго з'яўлення, а не пасля таго, як яно атрымала адбітак пальца.
- Аўтаматызаваны, стрыманы адказ. Выяўленне без дзеянняў проста зрушвае час. Рэакцыя на аснове штучнага інтэлекту можа ізаляваць пацярпелую прыладу, блакаваць падазроны трафік і аўтаматычна пачаць стрымліванне, скарачаючы разрыў паміж «мы гэта бачылі» і «мы гэта спынілі» з гадзін да секунд у найбольш важных выпадках.
Чаму адны і тыя ж метады рэжуць у абодва бакі?
Непрыемная праўда ў гэтым кіраўніцтве па бяспецы штучнага інтэлекту заключаецца ў тым, што зламыснікі і абаронцы часта выкарыстоўваюць адну і тую ж базавую магчымасць для розных мэтаў. Мадэляванне натуральнай мовы, якое стварае пераканаўчы фішынгавы ліст, — гэта тая ж тэхналогія, якая счытвае падазроны ліст і правільна класіфікуе яго як такі. Распазнаванне шаблонаў, якое дазваляе шкоднасным праграмам адаптавацца, каб абысці пясочніцу, архітэктурна падобна на распазнаванне шаблонаў, якое пазначае паводзіны шкоднаснага праграмнага забеспячэння як анамальныя. Ні адзін з бакоў не мае манаполіі на тэхналогію, што азначае, што перавага надаецца таму, хто больш поўна інтэгруе яе ў свой рэальны працоўны працэс, а не таму, хто мае доступ да больш прасунутай мадэлі.
Гэтая сіметрыя таксама з'яўляецца прычынай таго, што штучны інтэлект у кібербяспецы ўносіць свае ўласныя рызыкі ў абароне. Сістэмы штучнага інтэлекту могуць генераваць ілжывыя спрацоўванні, якія хаваюць рэальны сігнал у шуме, калі ён дрэнна настроены, успадкоўваць прадузятасць з-за няпоўных навучальных дадзеных і ў выніку прапускаць цэлыя класы пагроз, а таксама самі могуць стаць мішэнню з дапамогай метадаў барацьбы, калі зламыснік наўмысна падае мадэлі выяўлення ілжывыя дадзеныя, каб маніпуляваць тым, што яна пазначае. Нішто з гэтага не з'яўляецца прычынай пазбягаць штучнага інтэлекту ў абароне. Гэта прычына трымаць чалавека ў курсе падзей для прыняцця рашэнняў і ставіцца да самой сістэмы штучнага інтэлекту як да чагосьці, што патрабуе маніторынгу, а не як да чагосьці, што вы разгортваеце адзін раз і давяраеце бясконца.
Што гэта кіраўніцтва па бяспецы штучнага інтэлекту азначае для вашай каманды
Пяць крокаў аддзяляюць каманды, якія атрымліваюць рэальную карысць ад штучнага інтэлекту ў кібербяспецы, ад каманд, якія толькі што дадалі яшчэ адзін інструмент:
- Не чакайце, пакуль атакі з выкарыстаннем штучнага інтэлекту стануць большасцю, перш чым укладваць сродкі ў абарону. Прыведзеныя вышэй дадзеныя па фішынгу паказваюць, як хутка тактыка меншасці можа стаць дамінуючай. Нарошчвайце магчымасці выяўлення да ўсплёску, а не падчас яго.
- Спачатку накіруйце штучны інтэлект на чаргу на трыяж, а не толькі на перыметр. Найхутчэйшы і найбольш вымерны выйгрыш для большасці каманд — гэта скарачэнне колькасці ілжывых спрацоўванняў, якія аналітык павінен выдаляць уручную, а не даданне новага ўзроўню выяўлення.
- Разглядайце рызыку глыбокіх фэйкаў і кланавання голасу як праблему працэсу, а не тэхналогічную. Ніякі інструмент выяўлення не можа цалкам ліквідаваць прабел у стылі Arup. Пазапалосная праверка для любога запыту, які тычыцца перамяшчэння грошай або змены ўліковых дадзеных.
- Пашырыць тое ж самае паводніцкае мысленне, заснаванае на штучным інтэлекце, на код і pipelineс, а не толькі сеткавы трафік. Зламыснікі ўсё часцей атакуюць непасрэдна ланцужок паставак праграмнага забеспячэння (шкоднасныя пакеты, ілюзійныя залежнасці, неправераныя інструкцыі агентаў), што з'яўляецца катэгорыяй рызыкі са сваёй уласнай дынамікай, падрабязна апісанай у нашым кіраўніцтве па бяспецы ланцужкоў паставак штучнага інтэлекту.
- Трымайце чалавека адказным за рашэнні штучнага інтэлекту. Аўтаматызаваны адказ каштоўны менавіта сваёй хуткасцю, таму ён таксама павінен мець выразны шлях эскалацыі ў выпадку непаладкі.
Куды рухаецца штучны інтэлект у кібербяспецы
Два зрухі вызначаць наступныя некалькі гадоў. Па-першае, бок атакуючага кансалідуецца вакол меншай колькасці больш пераканаўчых тактык, а не вакол больш шматлікіх грубых: фішынг і глыбокія фэйкі, згенераваныя штучным інтэлектам, — гэта не больш шырокая сетка; яны больш востры кручок. Па-другое, бок абаронцы пераходзіць ад «выяўлення і папярэджання чалавека» да «выяўлення, ацэнкі і дзеянняў да з'яўлення запыту», і гэта менавіта той зрух, які скарачае разрыў паміж 2,992 штодзённымі папярэджаннямі, з якімі сутыкаецца большасць SOC, і доляй тых, хто калі-небудзь атрымлівае рэальны погляд. Арганізацыі, якія выходзяць наперад, — гэта тыя, хто ўжывае гэты зрух усюды, дзе штучны інтэлект ужо датыкаецца з іх асяроддзем, у тым ліку з кодам, які адпраўляюць іх распрацоўшчыкі, а не толькі з трафікам, які перасякае перыметр іх сеткі.
Меркаванне Xygeni: бяспека штучнага інтэлекту павінна ахопліваць код, а не толькі паштовую скрыню
Большая частка агляду ўплыву штучнага інтэлекту ў кібербяспецы абмяжоўваецца SOC: фішынг, шкоднасныя праграмы, анамаліі ў сетцы. Гэта неабходна, і гэта таксама няпоўна, таму што ўсё большая доля рызык, выкліканых штучным інтэлектам, цяпер знаходзіцца ўнутры самога жыццёвага цыклу распрацоўкі праграмнага забеспячэння, куды інструменты SOC не ўлічваюцца.
Ксігені CoreAI ужывае тое ж паводніцкае, заснаванае на анамаліях мысленне, апісанае ў гэтым кіраўніцтве, да бяспекі прыкладанняў у прыватнасці: суадносіны вынікаў паміж вашымі існуючымі сканерамі (не толькі Ксігені уласныя), ацэньваючы тое, што сапраўды можна выкарыстоўваць, замест таго, каб засыпаць каманды неапрацаваным аб'ёмам папярэджанняў, тлумачачы, чаму пэўная рызыка важная, і ствараючы карэкцыйныя меры pull request замест чарговага запыту на адкладзеныя справы. DevAI пашырае тую ж абарончую пазіцыю на найноўшую частку паверхні атакі: агентаў і памочнікаў, якія кадуюць на аснове штучнага інтэлекту, правяраюць файлы навыкаў і інструкцыі агентаў, а таксама блакуюць усталёўку шкоднаснай праграмы, перш чым агент пачне дзейнічаць. Мэта тая ж, што і ў гэтым кіраўніцтве на ўзроўні SOC, але прымененая да pipeline: ператварыць перавагу штучнага інтэлекту над аб'ёмам і хуткасцю ў перавагу абаронцы, а не нападніка.
Пачніце бясплатна. Sign up with GitHub, GitLab або Google і атрымлівайце доступ да 25 рэпазіторыяў і 50 сканаванняў штучнага інтэлекту ў месяц бясплатна, без неабходнасці падпіскі крэдытнай карты.
Часта задаваныя пытанні
Што такое штучны інтэлект у кібербяспецы?
Штучны інтэлект у кібербяспецы — гэта выкарыстанне машыннага навучання, апрацоўкі натуральнай мовы і мадэляў вялікіх моў як на атакуючым, так і на абарончым баках бяспекі. Зламыснікі выкарыстоўваюць яго для стварэння пераканаўчага фішынгавага кантэнту, глыбокіх фэйкаў і адаптыўнага шкоднаснага праграмнага забеспячэння; абаронцы выкарыстоўваюць тыя ж асноўныя метады для выяўлення анамалій, трыяжу папярэджанняў і аўтаматызаванага рэагавання.
Ці з'яўляецца штучны інтэлект больш небяспечным як інструмент атакі ці больш карысным як інструмент абароны?
Ні адзін з бакоў не мае трывалай перавагі, бо абодва бакі маюць адны і тыя ж базавыя магчымасці. Большай рызыцы падвяргаюцца арганізацыі, якія яшчэ не ўжывалі штучны інтэлект у абароне з той жа хуткасцю, з якой зламыснікі ўжывалі яго ў наступе, а не тыя, якія сутыкнуліся з тэхналагічнай разынкай, якую яны не могуць ліквідаваць.
Ці можа штучны інтэлект цалкам замяніць аналітыкаў-людзей у SOC?
Не, і рызыкі спробаў (ілжыва спрацоўваючыя вынікі з-за дрэнна настроеных мадэляў, прадузятасць з-за няпоўных навучальных дадзеных і маніпуляцыі самой сістэмай выяўлення) — менавіта тое, чаму чалавечы кантроль застаецца неабходным. Сапраўдная каштоўнасць штучнага інтэлекту заключаецца ў ачыстцы чаргі, каб аналітыкі маглі засяродзіцца на рашэннях, якія ўсё яшчэ патрабуюць удзелу чалавека.
Чым адрозніваецца рызыка атак, выкліканых штучным інтэлектам, менавіта для каманд распрацоўшчыкаў праграмнага забеспячэння?
Акрамя фішынгу і глыбокіх фэйкаў, каманды распрацоўшчыкаў сутыкаюцца з рызыкамі, звязанымі са штучным інтэлектам, унутры... SDLC сам па сабе: агенты-кадысты штучнага інтэлекту, якія ўсталёўваюць галюцынаваныя або шкоднасныя залежнасці, неправераныя інструкцыі агентаў у файлах навыкаў і код, згенераваны штучным інтэлектам, які прайгравае жорстка закадаваныя сакрэты. Гэты бок штучнага інтэлекту ў кібербяспецы больш падрабязна разглядаецца ў нашай Кіраўніцтва па бяспецы ланцужкоў паставак штучнага інтэлекту.
