Инженерийн компанийн санхүүгийн ажилтан Аруп видео дуудлагад нэгдсэн Тус компанийн Санхүүгийн захирал зэрэг хэд хэдэн хамт ажиллагсадтайгаа хамт. Тэд бүгд хиймэл оюун ухаанаар үүсгэгдсэн гүн хуурамч байсан. Дуудлага нь халдагчид 25 сая доллар шилжүүлснээр өндөрлөв. Хортой програм хангамж, фишинг холбоос, ашигласан эмзэг байдал байхгүй: зөвхөн хиймэл оюун ухааныг хангалттай итгэл үнэмшилтэйгээр ашигласан. Энэ ганцхан явдал нь кибер аюулгүй байдлын салбарт хиймэл оюун ухаан яагаад энэ салбарын гол сэдэв болсныг харуулж байна. Тэрхүү гүн хуурамчыг бүтээсэн технологи нь салбарын бусад хэсэгт үүнийг зогсоох байсан гажуудлыг илрүүлж байна. Энэхүү хиймэл оюун ухааны аюулгүй байдлын гарын авлага нь хоёр талыг хамардаг: хиймэл оюун ухаан хэрхэн дайрдаг, хиймэл оюун ухаан хэрхэн хамгаалдаг, аюулгүй байдлын багууд дараа нь хаана анхаарлаа хандуулах ёстой вэ гэсэн үг юм.
Кибер аюулгүй байдлын хиймэл оюун ухаан, нэг догол мөрд
Кибер аюулгүй байдлын салбарт хиймэл оюун ухаан гэдэг нь халдлага эхлүүлэх, илрүүлэх, зогсоохын тулд нэг тэмцлийн хоёр талд машин сургалт, байгалийн хэлний боловсруулалт, том хэлний загваруудыг ашиглахыг хэлнэ. Халдагчид хиймэл оюун ухааныг ашиглан итгэл үнэмшилтэй фишинг контент үүсгэх, дуу хоолой, царайг хуулбарлах, хүний багтай харьцуулахад системийг шалгах боломжтой. Хамгаалагчид аномалийг илрүүлэх, дохиоллын чимээг таслах, хохирол учруулахаас өмнө хариу арга хэмжээ авахын тулд ижил үндсэн аргуудыг (асар их хэмжээний өгөгдөл дэх хэв маягийг таних, байгалийн хэлний ойлголт, зан үйлийн загварчлал) ашигладаг. Үр дүн нь нэг салбарын дотор жинхэнэ давхар хэрэглээний технологи юм, тиймээс кибер аюулгүй байдлын хиймэл оюун ухаан нь тодорхой "сайн" ба "муу" талтай ангилал биш юм. Энэ бол чадвар бөгөөд хэн үүнийг илүү хурдан, илүү урьдчилан хэрэгжүүлдэг вэ?cisЭли одоогоор давуу талтай.
Хиймэл оюун ухаан халдлагын вектор болгон ашигладаг
- Аж үйлдвэрийн хэмжээнд хиймэл оюун ухаанаар үүсгэгдсэн фишинг. Фишинг нь өмнө нь эвгүй хэллэг, ерөнхий мэндчилгээ, илэрхий хуурамч домэйнууд гэх мэт мэдээллээр нь илрүүлж болдог байсан. Хиймэл оюун ухаан эдгээр мэдээллийн ихэнхийг нь арилгасан. Хоксхантын 2026 оны фишинг чиг хандлагын тайланХиймэл оюун ухаанаар үүсгэгдсэн фишинг 2025 оны 11-р сард бүртгэгдсэн бүх фишинг оролдлогын 4%-иас 2025 оны 12-р сард 56% болж өссөн нь нэг сарын хугацаанд 14 дахин өссөн үзүүлэлт бөгөөд 2026 оны дунд үе хүртэл бүртгэгдсэн бүх фишинг оролдлогын 40 орчим хувийг эзэлж байна. Үр нөлөөний зөрүү мөн адил мэдэгдэхүйц байна: а Харвардын Кеннедигийн сургуулийн судлаачдын хүн дээр хийсэн судалгаа Бүрэн хиймэл оюун ухаанаар автоматжуулсан жадтай фишинг имэйлүүд нь 54%-ийн товшилтын түвшинд хүрсэн нь чадварлаг хүний мэргэжилтнүүдтэй харьцуулж, хяналтын бүлгийн ерөнхий фишинг имэйлүүдийн 12%-ийн товшилтын түвшингээс хамаагүй илүү байгааг тогтоожээ. Хиймэл оюун ухаан зүгээр л илүү олон фишинг имэйл бичдэггүй. Энэ нь ажилладаг имэйлүүдийг бичдэг.
- Дэд бүтцийг биш, итгэлцлийг онилсон Deepfakes. The Арупын хэрэг Дээрх нь цаашид гажуудал биш болсон; энэ бол загвар болсон. Хиймэл оюун ухаанаар үүсгэгдсэн дуу хоолой, видео нь шууд дуудлага дээр жинхэнэ гүйцэтгэх захирал мэт харагдахад хангалттай итгэл үнэмшилтэй болсон бөгөөд нийгмийн инженерчлэлийг "хэн нэгнийг товшиход хуурах"-аас "хэн нэгнийг санхүүгийн захирал руугаа харж байна гэж итгүүлэх" болгон хувиргасан. Энэ нь аюулгүй байдлын мэдлэг олгох сургалтын хувьд шийдвэрлэхэд үндсэндээ илүү хэцүү асуудал юм, учир нь хууран мэхлэлт нь техникийн түвшинд биш, харин ойлголтын түвшинд явагддаг.
- Илүү хурдан тагнуул болон дасан зохицох хортой програм хангамж. Нийгмийн инженерчлэлээс гадна хиймэл оюун ухаан нь "халдагч санаатай" ба "халдагч ажиллаж байгаа мөлжлөг" гэсэн хоёрын хоорондох зайг богиносгодог. Том хэлний загварууд нь байны олон нийтэд нээлттэй код болон дэд бүтцийн эсрэг эмзэг байдлын судалгааг хурдасгаж чаддаг бөгөөд дасан зохицох хортой програм нь хамгаалагдсан орчинд шинжилж байгааг илрүүлбэл гүйцэтгэлийн дундуур өөрийн зан төлөвийг өөрчилж чаддаг бөгөөд энэ чадвар нь өмнө нь чадварлаг хүний операторыг бодит цаг хугацаанд ажиглахыг шаарддаг байсан.
- Машины хурдаар итгэмжлэлийн халдлага. Алдагдсан итгэмжлэлийн багцуудыг хүмүүс нууц үгээр "ухаалаг" ажиллаж байна гэж бодох үедээ ашигладаг хэв маягийг сурах загвар болгон оруулах нь таах ба шалгах аргыг таамаглалтай илүү ойр зүйл болгон хувиргадаг. Энэ нь автоматжуулсан итгэмжлэлийн чихмэлтэй хослуулан өмнө нь удаан, чимээ шуугиантай байсан халдлагыг хурдан бөгөөд чимээгүй зүйл болгон шахдаг.
Хиймэл оюун ухаан нь хамгаалалтын хэрэгсэл болгон ашигладаг
- Хүний харьцуулж чадахгүй хэмжээнд аномалийг илрүүлэх. Хиймэл оюун ухааны гол хамгаалалтын үнэ цэнэ нь сүлжээний урсгалын хэмжээг боловсруулах явдал юм. login үйл ажиллагаа, ямар ч шинжээчийн баг гараар хянаж чадахгүй системийн бүртгэлүүд болон тогтоосон суурь шугамаас юу хазайж байгааг тэмдэглэдэг. Энэ нь тэг өдрийн болон дүрэмд суурилсан сэрэмжлүүлгийг алдагдуулахгүй дотоод хэрэглэгчийн буруу хэрэглээ зэрэг хараахан мэдэгдээгүй гарын үсэгтэй халдлагыг илрүүлдэг зүйл юм.
- Сэрэмжлүүлгийн дарааллыг таслах, нэмэхгүй. Кибер аюулгүй байдлын салбарт хиймэл оюун ухаан хамгийн хурдан үйл ажиллагааны үр дүнг авчирдаг бөгөөд энэ салбарт хийх бодит ажил байсаар байгаа газар юм. Vectra хиймэл оюун ухааны 2026 оны судалгаа байгууллагууд өдөрт дунджаар 2,992 аюулгүй байдлын сэрэмжлүүлэг хүлээн авдаг бөгөөд үүний 63% нь шалгагдаагүй болохыг тогтоожээ. Майкрософт болон Омдиагийн SOC-ийн байдал: Одоо нэгтгэх эсвэл дараа төлөх тайлан Бүх сэрэмжлүүлгийн 46% нь хуурамч эерэг үр дүн гарч, 42% нь бүрэн шалгагдаагүй болохыг тогтоожээ. Хиймэл оюун ухаанаар удирддаг ангилах нь энэ овоолгод өөр нэг илрүүлэгч нэмдэггүй. Сайн хийгдсэн тохиолдолд холбогдох сэрэмжлүүлгийг ганц тохиолдолтой холбож, хүний анхаарлыг татахуйц зүйлийг үнэлж, шинжээчдэд үлдсэнийг нь гараар хаахын оронд бодит эрсдэлийг илэрхийлж буй сэрэмжлүүлгийн багахан хэсэгт цагаа зарцуулах боломжийг олгодог.
- Мэдэгдэж буй гарын үсгээс давсан хортой програм хангамж болон зан үйлийн ангилал. Сүлжээний хэвийн бус үйл ажиллагааг тэмдэглэдэг зан үйлийн шинжилгээний арга нь файл болон багцууд дээр ч бас ажилладаг: мэдэгдэж буй муу гарын үсгийн жагсаалттай харьцуулахын оронд хиймэл оюун ухаан нь суулгах хугацааны зан төлөв, ер бусын системийн дуудлага, төөрөгдөл зэргийг үнэлж, өмнө нь хэзээ ч харж байгаагүй хортой програм хангамжийг хурууны хээгээр дарсны дараа биш харин гарч ирэх үед нь илрүүлж чаддаг.
- Автоматжуулсан, хяналттай хариу үйлдэл. Үйлдэлгүйгээр илрүүлэх нь цагийг хөдөлгөдөг. Хиймэл оюун ухаанаар удирдуулсан хариу үйлдэл нь нөлөөлөлд өртсөн төхөөрөмжийг тусгаарлаж, сэжигтэй урсгалыг хааж, автоматаар хязгаарлалтыг эхлүүлж, хамгийн чухал тохиолдолд "бид үүнийг харсан" болон "бид үүнийг зогсоосон" гэсэн хоёрын хоорондох зайг хэдэн цагаас секунд хүртэл арилгадаг.
Яагаад ижил техникүүд хоёр талыг огтолдог вэ?
Энэхүү хиймэл оюун ухааны аюулгүй байдлын гарын авлагад байгаа таагүй үнэн бол халдагчид болон хамгаалагчид эсрэг зорилгод хүрэхийн тулд ижил үндсэн чадварыг байнга ашигладаг явдал юм. Итгэмээр фишинг имэйл бичдэг байгалийн хэлний загварчлал нь сэжигтэй имэйлийг уншиж, зөв ангилдаг технологитой адил юм. Хортой програм хангамжийг хамгаалагдсан хязгаараас зайлсхийхэд дасан зохицох боломжийг олгодог хэв маягийг таних нь архитектурын хувьд хортой програм хангамжийн зан үйлийг анхнаасаа хэвийн бус гэж тэмдэглэдэг хэв маягийг танихтай төстэй юм. Аль ч тал энэ технологид монополь эрхгүй бөгөөд энэ нь илүү дэвшилтэт загварт хандах эрхтэй хүн биш, харин үүнийг бодит ажлын урсгалдаа илүү бүрэн нэгтгэсэн хүн давуу талтай гэсэн үг юм.
Энэхүү тэгш хэм нь кибер аюулгүй байдлын салбарт хиймэл оюун ухаан хамгаалалтын тал дээр өөрийн гэсэн эрсдэлийг бий болгодог шалтгаан юм. Хиймэл оюун ухааны системүүд нь муу тохируулсан тохиолдолд бодит дохиог чимээ шуугианд булдаг хуурамч эерэг үр дүнг үүсгэж, дутуу сургалтын өгөгдлөөс алдааг өвлөж, улмаар аюул заналын бүх ангиллыг алдаж, халдагч нь илрүүлэх загварт санаатайгаар төөрөгдүүлсэн өгөгдлийг өгч, тэмдэглэсэн зүйлээ өөрчилдөг сөрөг арга техникээр өөрсдийгөө бай болгож чаддаг. Эдгээрийн аль нь ч хиймэл оюун ухаанаас хамгаалалтын хувьд зайлсхийх шалтгаан биш юм. Энэ нь хүнийг шүүмжлэлд өртөхөөс сэргийлж, хиймэл оюун ухааны системийг өөрөө хянах шаардлагатай зүйл гэж үзэх шалтгаан бөгөөд нэг удаа байршуулж, хязгааргүй итгэдэг зүйл биш юм.
Энэхүү хиймэл оюун ухааны аюулгүй байдлын гарын авлага танай багт юу гэсэн үг вэ
Кибер аюулгүй байдлын чиглэлээр хиймэл оюун ухаанаас бодит үнэ цэнийг авч буй багуудыг саяхан өөр нэг хэрэгсэл нэмсэн багуудаас тусгаарлаж буй таван алхам:
- Хамгаалалтын хөрөнгө оруулалт хийхээсээ өмнө "хиймэл оюун ухаанаар ажилладаг" халдлагууд дийлэнх болохыг хүлээх хэрэггүй. Дээрх фишинг өгөгдөл нь цөөнхийн тактик хэр хурдан давамгайлах тактик болж болохыг харуулж байна. Илрүүлэх чадавхийг өсөлтийн үеэр биш, харин өсөлтийн өмнө бий болго.
- Зөвхөн периметр дээрээ биш, эхлээд ангилах дараалалдаа хиймэл оюун ухааныг чиглүүл. Ихэнх багуудын хувьд хамгийн хурдан бөгөөд хамгийн хэмжигдэхүйц ялалт бол шинжээчийн гараар арилгах ёстой хуурамч эерэг үр дүнгийн хэмжээг бууруулах явдал бөгөөд шинэ илрүүлэлтийн давхарга нэмэхгүй.
- Deepfake болон дуу хоолойг хуулбарлах эрсдэлийг технологийн асуудал биш, харин үйл явцын асуудал гэж үзэх. Ямар ч илрүүлэх хэрэгсэл нь Arup маягийн зайг бүрэн хаадаггүй. Мөнгөний хөдөлгөөн эсвэл итгэмжлэлийн өөрчлөлттэй холбоотой аливаа хүсэлтийн хувьд хамрах хүрээнээс гадуурх баталгаажуулалт.
- Код болон бусад зүйлд хиймэл оюун ухаанаар удирдуулсан зан үйлийн сэтгэлгээг өргөжүүлэх pipelineзөвхөн сүлжээний урсгал биш. Халдагчид програм хангамжийн хангамжийн сүлжээг (хортой багцууд, хий үзэгдэлтэй хамаарал, хянагдаагүй агентын зааварчилгаа) шууд чиглүүлэх нь нэмэгдэж байгаа бөгөөд энэ нь өөрийн гэсэн динамиктай эрсдэлийн ангилал бөгөөд үүнийг бидний хиймэл оюун ухааны хангамжийн сүлжээний аюулгүй байдлын гарын авлагад дэлгэрэнгүй авч үзсэн болно.
- Хиймэл оюун ухааны шийдвэрийн төлөө хүнийг хариуцлагатай байлга. Автомат хариу үйлдэл нь хурдан учраас үнэ цэнэтэй бөгөөд ямар нэгэн зүйл буруу болсон үед тодорхой өсөх зам хэрэгтэй байдаг.
Кибер аюулгүй байдлын салбарт хиймэл оюун ухаан хаашаа чиглэж байна вэ
Дараагийн хэдэн жилийг хоёр ээлж тодорхойлно. Нэгдүгээрт, халдагчийн тал олон тооны бүдүүлэг тактикийн оронд цөөн, илүү итгэл үнэмшилтэй тактикийн эргэн тойронд нэгдэж байна: хиймэл оюун ухаанаар үүсгэгдсэн фишинг болон гүнзгий хуурамч мэдээлэл нь илүү өргөн хүрээтэй тор биш; тэд илүү хурц дэгээ юм. Хоёрдугаарт, хамгаалагч тал нь "хүнийг илрүүлж, сэрэмжлүүлэх"-ээс "торгууль гарахаас өмнө илрүүлж, оноож, арга хэмжээ авах" руу шилжиж байгаа нь ихэнх SOC-ууд өдөр бүр авдаг 2,992 сэрэмжлүүлэг болон жинхэнэ харагдуулдаг хүмүүсийн хоорондох зөрүүг арилгаж буй яг энэ шилжилт юм. Урагшлах байгууллагууд бол зөвхөн сүлжээнийхээ периметрийг дайрч өнгөрдөг урсгал төдийгүй, хиймэл оюун ухаан аль хэдийн хүрээлэн буй орчиндоо хүрсэн бүх газарт, түүний дотор хөгжүүлэгчдийн илгээсэн код зэрэг энэ шилжилтийг хэрэгжүүлдэг байгууллагууд юм.
Xygeni-ийн байр суурь: Хиймэл оюун ухааны аюулгүй байдал нь зөвхөн ирсэн имэйлийг төдийгүй кодыг хамрах ёстой
Кибер аюулгүй байдлын ихэнх хиймэл оюун ухааны хамрах хүрээ нь SOC дээр зогсдог: фишинг, хортой програм хангамж, сүлжээний гажиг. Энэ нь зайлшгүй шаардлагатай бөгөөд бас бүрэн бус, учир нь хиймэл оюун ухаанаар удирдуулсан эрсдэлийн өсөн нэмэгдэж буй хувь нь одоо програм хангамжийн хөгжлийн мөчлөгийн дотор оршдог бөгөөд SOC хэрэгслүүд харагдахгүй байна.
Xygeni's CoreAI Энэхүү гарын авлагад дурдсан зан үйлийн, аномалид суурилсан сэтгэлгээг програмын аюулгүй байдалд тусгайлан хэрэгжүүлдэг: таны одоо байгаа сканнеруудын олдворуудыг хооронд нь уялдуулах (зөвхөн ... биш) Xygeni's өөрийн), багуудыг түүхий сэрэмжлүүлгийн хэмжээгээр дүүргэхийн оронд бодитоор ашиглаж болох зүйлийг оноож, өгөгдсөн эрсдэл яагаад чухал болохыг тайлбарлаж, нөхөн сэргээлт хийх pull request өөр нэг хоцрогдсон тасалбарын оронд. DevAI Халдлагын гадаргуугийн хамгийн шинэ хэсэгт ижил хамгаалалтын байрлалыг өргөжүүлдэг: хиймэл оюун ухааны кодчилолын агентууд болон туслахууд, ур чадварын файлууд болон агентын зааврыг баталгаажуулах, агент үйлдэл хийхээс өмнө хортой суулгалтыг хаах. Зорилго нь энэхүү гарын авлагад SOC түвшинд баримталж буйтай адил юм. pipeline: хиймэл оюун ухааны хэмжээ болон хурдаас давуу талыг довтлогчийн оронд хамгаалагчийн давуу тал болгон хувиргах.
Үнэгүй эхэл. Sign up with GitHub, GitLab эсвэл Google ашиглан сард 25 хүртэлх репозитор болон 50 хүртэлх хиймэл оюун ухааны сканнерыг үнэ төлбөргүй, кредит карт шаардлагагүйгээр үзэх боломжтой.
тусламж
Кибер аюулгүй байдалд хиймэл оюун ухаан гэж юу вэ?
Кибер аюулгүй байдлын салбарт хиймэл оюун ухаан нь аюулгүй байдлын довтолгоо болон хамгаалалтын аль алинд нь машин сургалт, байгалийн хэлний боловсруулалт, том хэлний загваруудыг ашиглах явдал юм. Халдагчид үүнийг ашиглан итгэл үнэмшил төрүүлэхүйц фишинг контент, гүнзгий хуурамч мэдээлэл, дасан зохицох хортой програм хангамж үүсгэдэг; хамгаалагчид аномали илрүүлэх, сэрэмжлүүлгийн ангилалт, автомат хариу үйлдэл үзүүлэхэд ижил үндсэн аргуудыг ашигладаг.
Хиймэл оюун ухаан нь довтолгооны хэрэгсэл болгон илүү аюултай юу эсвэл хамгаалалтын хэрэгсэл болгон илүү ашигтай юу?
Аль ч тал нь ижил үндсэн чадавхи дээр суурилсан тул удаан хугацааны давуу талгүй. Илүү их эрсдэлтэй байгууллагууд нь хиймэл оюун ухааныг хамгаалалтын хувьд хараахан хэрэгжүүлээгүй байгууллагууд бөгөөд халдагчид довтлохдоо ашиглаж байсан хурдаар хэрэгжүүлж байгаа байгууллагууд болохоос технологийн цоорхойгоо арилгаж чадахгүй байгууллагууд биш юм.
Хиймэл оюун ухаан нь SOC-д хүний шинжээчдийг бүрэн орлож чадах уу?
Үгүй ээ, мөн оролдох эрсдэлүүд (муу тохируулсан загваруудаас гарсан хуурамч эерэг үр дүн, дутуу сургалтын өгөгдлөөс үүдэлтэй алдаа, илрүүлэх системийг өөрөө сөргөлдөөнтэй байдлаар өөрчлөх) нь хүний хяналт зайлшгүй хэвээр байгаагийн шалтгаан юм. Хиймэл оюун ухааны жинхэнэ үнэ цэнэ нь шинжээчид хүн хэрэгтэй хэвээр байгаа шийдвэр гаргахад анхаарлаа төвлөрүүлэхийн тулд дарааллыг цэвэрлэх явдал юм.
Програм хангамж хөгжүүлэлтийн багуудын хувьд хиймэл оюун ухаанаар удирдуулсан халдлагын эрсдэл юугаараа ялгаатай вэ?
Фишинг болон гүн хуурамч мэдээллээс гадна хөгжүүлэлтийн багууд хиймэл оюун ухаанд хамааралтай эрсдэлтэй тулгардаг. SDLC өөрөө: хий үзэгдэлтэй эсвэл хортой хамаарлыг суулгадаг хиймэл оюун ухааны кодчилолын агентууд, ур чадварын файлууд дахь хянаж үзээгүй агентын зааварчилгаа, хатуу кодлогдсон нууцыг хуулбарладаг хиймэл оюун ухаанаар үүсгэгдсэн код. Кибер аюулгүй байдлын хиймэл оюун ухааны энэ талыг манай нийтлэлд илүү гүнзгий авч үзсэн болно. Хиймэл оюун ухааны хангамжийн сүлжээний аюулгүй байдлын гарын авлага.
