Ինժեներական ընկերության ֆինանսական աշխատակից Արուպը միացավ տեսազանգին մի քանի գործընկերների հետ, այդ թվում՝ ընկերության ֆինանսական տնօրենի։ Նրանցից յուրաքանչյուրը արհեստական բանականության կողմից ստեղծված խորը ֆեյք էր։ Զանգն ավարտվեց հարձակվողներին 25 միլիոն դոլար փոխանցելով։ Ոչ մի վնասակար ծրագիր, ոչ մի ֆիշինգային հղում, ոչ մի շահագործված խոցելիություն. միայն արհեստական բանականություն, որն օգտագործվել է բավականաչափ համոզիչ կերպով, որպեսզի վստահությունը կատարի մնացածը։ Այդ մեկ միջադեպը ցույց է տալիս, թե ինչու է արհեստական բանականությունը կիբերանվտանգության մեջ դարձել ոլորտի որոշիչ թեման։ Նույն տեխնոլոգիան, որը ստեղծել է խորը ֆեյքը, ոլորտի այլուր բռնում է այն անոմալիան, որը կկանգնեցներ այն։ Այս արհեստական բանականության անվտանգության ուղեցույցը ներառում է երկու կողմերն էլ՝ ինչպես է արհեստական բանականությունը հարձակվում, ինչպես է արհեստական բանականությունը պաշտպանվում, և ինչ է դա նշանակում այն բանի համար, թե որտեղ պետք է կենտրոնանան անվտանգության թիմերը հաջորդը։
Արհեստական բանականությունը կիբերանվտանգության մեջ՝ մեկ պարբերությամբ
Կիբերանվտանգության մեջ արհեստական բանականությունը վերաբերում է մեքենայական ուսուցման, բնական լեզվի մշակման և մեծ լեզվական մոդելների օգտագործմանը նույն պայքարի երկու կողմերում՝ հարձակումներ սկսելու, դրանք հայտնաբերելու և կասեցնելու համար։ Հարձակվողները արհեստական բանականություն են օգտագործում համոզիչ ֆիշինգային բովանդակություն ստեղծելու, ձայներ և դեմքեր կլոնավորելու, ինչպես նաև համակարգերը ավելի արագ զոնդավորելու համար, քան մարդկային թիմը կարող էր։ Պաշտպանները օգտագործում են նույն հիմնական տեխնիկաները (տվյալների հսկայական ծավալների միջոցով օրինաչափությունների ճանաչում, բնական լեզվի ըմբռնում, վարքային մոդելավորում)՝ անոմալիաները հայտնաբերելու, տագնապի աղմուկը կտրելու և վնասի ավելացումից առաջ արձագանքելու համար։ Արդյունքը իրականում կրկնակի օգտագործման տեխնոլոգիա է մեկ ոլորտի ներսում, այդ իսկ պատճառով կիբերանվտանգության մեջ արհեստական բանականությունը այն կատեգորիան չէ, որն ունի հստակ «լավ» և «վատ» կողմեր։ Դա հնարավորություն է, և ով այն կիրառի ավելի արագ և ավելի նախապես,...cisԷլին այս պահին առավելություն ունի։
Արհեստական բանականությունը որպես հարձակման վեկտոր
- Արհեստական մասշտաբով արհեստական ինտելեկտի կողմից ստեղծված ֆիշինգ։ Ֆիշինգը նախկինում որսելի էր իր ազդանշաններով՝ անհարմար արտահայտություններ, ընդհանուր ողջույններ, ակնհայտ կեղծված դոմեյններ: Արհեստական բանականությունը հեռացրել է այդ ազդանշանների մեծ մասը: Հոքսհանտի 2026 թվականի ֆիշինգի միտումների զեկույցԱրհեստական բանականության կողմից ստեղծված ֆիշինգը 2025 թվականի նոյեմբերին գրանցված բոլոր ֆիշինգի փորձերի 4%-ից աճել է մինչև 56% 2025 թվականի դեկտեմբերին, ինչը 14 անգամ ավելի է մեկ ամսվա ընթացքում, և մինչև 2026 թվականի կեսերը պահպանել է գրանցված բոլոր ֆիշինգի փորձերի մոտ 40%-ը։ Արդյունավետության տարբերությունը նույնքան ակնհայտ է. Հարվարդի Քենեդիի դպրոցի հետազոտողների կողմից մարդկային սուբյեկտի ուսումնասիրություն պարզվել է, որ լիովին արհեստական ինտելեկտով ավտոմատացված ֆիշինգային էլ.փոստերը հասել են 54% սեղմման մակարդակի, որը համապատասխանում է հմուտ մարդկային փորձագետների ցուցանիշներին և զգալիորեն գերազանցում է վերահսկիչ խմբի ընդհանուր ֆիշինգային էլ.փոստերի 12% սեղմման մակարդակին: Արհեստական ինտելեկտը ոչ միայն ավելի շատ ֆիշինգային էլ.փոստեր է գրում, այլև գրում է աշխատող էլ.փոստեր:
- Դիփֆեյքեր, որոնք թիրախավորում են վստահությունը, այլ ոչ թե ենթակառուցվածքները։ Արուպի դեպքը Վերը նշվածը այլևս բացառություն չէ, այլ ձևանմուշ։ Արհեստական բանականության կողմից ստեղծված ձայնը և տեսանյութը բավականաչափ համոզիչ են, որպեսզի իրական ղեկավարի տպավորություն թողնեն ուղիղ զանգի ժամանակ՝ սոցիալական ինժեներիան «մեկին սեղմելու համար խաբելուց» վերածելով «մեկին համոզելու համար խաբելուց» մինչև «մեկին հավատալ, որ նա նայում է իր ֆինանսական տնօրենին»։ Սա հիմնարար առումով ավելի դժվար խնդիր է անվտանգության իրազեկման ուսուցման համար, քանի որ խաբեությունը տեղի է ունենում ընկալման մակարդակում, այլ ոչ թե տեխնիկական։
- Ավելի արագ հետախուզություն և հարմարվողական վնասակար ծրագրեր։ Սոցիալական ինժեներիայից զատ, արհեստական բանականությունը կրճատում է «հարձակվողն ունի գաղափար» և «հարձակվողն ունի գործող շահագործում» միջև եղած հեռավորությունը։ Մեծ լեզվական մոդելները կարող են արագացնել թիրախի հանրային կոդի և ենթակառուցվածքի դեմ խոցելիության հետազոտությունը, իսկ ադապտիվ վնասակար ծրագիրը կարող է փոխել իր սեփական վարքագիծը կատարման ընթացքում, եթե հայտնաբերի, որ այն վերլուծվում է ավազարկղում, մի հնարավորություն, որը նախկինում պահանջում էր հմուտ մարդ-օպերատորի հսկողություն իրական ժամանակում։
- Հավատարմագրերի հարձակումներ մեքենայի արագությամբ։ Արտահոսած մուտքագրման տվյալները մոդելի մեջ մտցնելով՝ մարդիկ իրականում օգտագործում են այն օրինաչափությունները, երբ կարծում են, որ «խելացի» են գաղտնաբառի հետ, գուշակության և ստուգման գործընթացը վերածում է կանխատեսմանը մոտ մի բանի։ Մուտքագրման ավտոմատ լրացման հետ միասին սա սեղմում է այն, ինչը նախկինում դանդաղ, աղմկոտ հարձակում էր, վերածում արագ և լուռ մի բանի։
Արհեստական բանականությունը որպես պաշտպանության գործիք
- Անոմալիաների հայտնաբերում այնպիսի մասշտաբով, որը մարդիկ չեն կարող համեմատել։ Արհեստական բանականության հիմնական պաշտպանական արժեքը ցանցային երթևեկության ծավալների մշակումն է, login գործունեության և համակարգի գրանցամատյաններ, որոնք ոչ մի վերլուծաբան թիմ չէր կարող ձեռքով վերանայել և նշել, թե ինչն է շեղվում սահմանված բազային գծից: Սա է այն, ինչը հայտնաբերում է դեռևս հայտնի ստորագրություն չունեցող հարձակումները, այդ թվում՝ զրոյական օրերը և ներքին չարաշահումը, որոնք կանոնների վրա հիմնված ահազանգ չեն արձակի:
- Ծանուցումների հերթը կտրելը, այլ ոչ թե դրանում ավելացնելը։ Սա նաև այն կետն է, որտեղ կիբերանվտանգության ոլորտում արհեստական բանականությունն ունի ամենաանմիջական գործառնական արդյունքը, և որտեղ ոլորտը դեռ իրական աշխատանք ունի անելու։ Vectra AI-ի 2026 թվականի հետազոտությունը պարզվել է, որ կազմակերպությունները օրական միջինում ստանում են 2,992 անվտանգության ահազանգ, որոնցից 63%-ը մնում է չհետաքննված, և Microsoft-ը և Omdia-ն SOC-ի վիճակը. միավորվեք հիմա կամ վճարեք ավելի ուշ հաշվետվություն պարզվել է, որ բոլոր ահազանգերի 46%-ը կեղծ դրական է լինում, իսկ 42%-ը ընդհանրապես չի հետաքննվում: Արհեստական բանականության վրա հիմնված տեսակավորումը պարզապես ևս մեկ դետեկտոր չի ավելացնում այդ կույտին: Լավ կատարված՝ այն կապակցված ահազանգերը կապում է մեկ միջադեպի հետ, գնահատում է, թե ինչն է իրականում արժանի մարդու ուշադրությանը և թույլ է տալիս վերլուծաբաններին իրենց ժամանակը ծախսել իրական ռիսկ ներկայացնող ահազանգերի այն մասի վրա, այլ ոչ թե ձեռքով փակել մնացածը:
- Վնասակար ծրագրեր և վարքային դասակարգում հայտնի ստորագրություններից այն կողմ։ Նույն վարքային վերլուծության մոտեցումը, որը նշում է աննորմալ ցանցային ակտիվությունը, գործում է նաև ֆայլերի և փաթեթների վրա. հայտնի վատ ստորագրությունների ցանկի հետ համեմատելու փոխարեն, արհեստական բանականությունը կարող է գնահատել տեղադրման ժամանակ վարքագիծը, անսովոր համակարգային կանչերը և խեղաթյուրման օրինաչափությունները՝ հայտնաբերելու համար նախկինում երբեք չտեսնված վնասակար ծրագիրը՝ այն պահին, երբ այն հայտնվում է, այլ ոչ թե մատնահետքից հետո։
- Ավտոմատացված, զսպված արձագանք։ Հայտնաբերումն առանց որևէ գործողության պարզապես շարժում է ժամանակը։ Արհեստական բանականության կողմից կառավարվող արձագանքը կարող է մեկուսացնել տուժած սարքը, արգելափակել կասկածելի երթևեկությունը և ավտոմատ կերպով սկսել զսպումը, «մենք տեսանք դա» և «մենք կանգնեցրինք դա» պատասխանների միջև ընկած ժամանակահատվածը ժամերից կրճատելով մինչև վայրկյաններ՝ ամենակարևոր դեպքերում։
Ինչո՞ւ են նույն տեխնիկաները կտրում երկու կողմերն էլ։
Այս արհեստական ինտելեկտի անվտանգության ուղեցույցում անհարմար ճշմարտությունն այն է, որ հարձակվողներն ու պաշտպանները հաճախ օգտագործում են նույն թաքնված հնարավորությունը հակառակ նպատակներով: Բնական լեզվի մոդելավորումը, որը գրում է համոզիչ ֆիշինգային էլ. նամակ, նույն տեխնոլոգիան է, որը կարդում է կասկածելի էլ. նամակը և ճիշտ դասակարգում այն որպես կասկածելի: Կաղապարների ճանաչումը, որը թույլ է տալիս վնասակար ծրագրերին հարմարվել՝ խուսափելու ավազարկղից, ճարտարապետականորեն նման է կաղապարների ճանաչմանը, որը նշում է վնասակար ծրագրերի վարքագիծը որպես աննորմալ ի սկզբանե: Կողմերից ոչ մեկը մենաշնորհ չունի տեխնոլոգիայի նկատմամբ, ինչը նշանակում է, որ առավելությունը տրվում է նրան, ով այն ավելի լիարժեքորեն է ինտեգրում իր իրական աշխատանքային հոսքի մեջ, այլ ոչ թե նրան, ով հասանելիություն ունի ավելի առաջադեմ մոդելի:
Այդ համաչափությունն է նաև պատճառը, որ կիբերանվտանգության ոլորտում արհեստական բանականությունը ներկայացնում է իր սեփական ռիսկերը պաշտպանական կողմում: Արհեստական բանականության համակարգերը կարող են կեղծ դրական արդյունքներ առաջացնել, որոնք իրական ազդանշանը կթաքնեն աղմուկի մեջ, եթե վատ կարգավորված լինեն, ժառանգեն անավարտ մարզման տվյալներից առաջացած շեղում և, որպես արդյունք, բաց թողնեն սպառնալիքների ամբողջ դասեր, և կարող են իրենք թիրախավորվել հակառակորդական տեխնիկաների միջոցով, որտեղ հարձակվողը դիտավորյալ հայտնաբերման մոդելին մոլորեցնող տվյալներ է մատակարարում՝ այն մանիպուլյացիայի ենթարկելու համար, ինչը նա նշում է: Սա պատճառ չէ պաշտպանական նպատակներով արհեստական բանականությունից խուսափելու համար: Սա պատճառ է մարդուն տեղեկացված պահելու դատողությունների վերաբերյալ և արհեստական բանականության համակարգին վերաբերվելու որպես մոնիթորինգի կարիք ունեցող մի բանի, այլ ոչ թե մի բանի, որին դուք մեկ անգամ եք տեղակայում և անորոշ ժամանակով վստահում:
Ի՞նչ է նշանակում այս արհեստական բանականության անվտանգության ուղեցույցը ձեր թիմի համար
Հինգ քայլ է առանձնացնում կիբերանվտանգության ոլորտում արհեստական բանականությունից իրական արժեք ստացող թիմերը այն թիմերից, որոնք նոր են ավելացրել ևս մեկ գործիք.
- Մի սպասեք, որ «արհեստական բանականությամբ» հզորացված հարձակումները դառնան մեծամասնություն, նախքան պաշտպանողական ներդրումներ կատարելը։ Վերը նշված ֆիշինգի տվյալները ցույց են տալիս, թե որքան արագ կարող է փոքրամասնության մարտավարությունը դառնալ գերիշխող։ Զարգացրեք հայտնաբերման կարողությունները մինչև ալիքի ալիքը, այլ ոչ թե դրա ընթացքում։
- Արհեստական բանականությունն նախ ուղղեք ձեր տեսակավորման հերթի վրա, այլ ոչ թե միայն ձեր պարագծի վրա։ Թիմերի մեծ մասի համար ամենաարագ և ամենաչափելի հաղթանակը վերլուծաբանի կողմից ձեռքով մաքրվող կեղծ դրական արդյունքների ծավալի կրճատումն է, այլ ոչ թե նոր հայտնաբերման շերտի ավելացումը։
- Դիփֆեյքի և ձայնային կլոնավորման ռիսկը դիտարկեք որպես գործընթացային խնդիր, այլ ոչ թե տեխնոլոգիական։ Ոչ մի հայտնաբերման գործիք լիովին չի լրացնում Arup-ի ոճով բացը: Գումարի տեղաշարժի կամ հավատարմագրերի փոփոխության հետ կապված ցանկացած հարցման համար անհրաժեշտ է արտաքին ստուգում:
- Նույն արհեստական բանականության վրա հիմնված վարքային մտածողությունը տարածել կոդի և pipelines, ոչ միայն ցանցային երթևեկությունը։ Հարձակվողները ավելի ու ավելի հաճախ են անմիջականորեն թիրախավորում ծրագրային ապահովման մատակարարման շղթան (վնասակար փաթեթներ, հալյուցինացված կախվածություններ, չվերանայված գործակալի հրահանգներ), որը ռիսկի կատեգորիա է՝ իր սեփական դինամիկայով, որը մանրամասնորեն լուսաբանվում է մեր արհեստական բանականության մատակարարման շղթայի անվտանգության ուղեցույցում։
- Մարդուն պատասխանատու պահեք արհեստական բանականության որոշումների համար։ Ավտոմատացված արձագանքը արժեքավոր է հենց այն պատճառով, որ այն արագ է, և այդ իսկ պատճառով այն կարիք ունի հստակ էսկալացիայի ուղու, երբ ինչ-որ բան սխալ է լինում։
Ուր է գնում արհեստական բանականությունը կիբերանվտանգության ոլորտում
Երկու տեղաշարժ կորոշի հաջորդ մի քանի տարիները։ Նախ, հարձակվող կողմը համախմբվում է ավելի քիչ, ավելի համոզիչ մարտավարությունների շուրջ, այլ ոչ թե ավելի շատ կոպիտ մարտավարությունների. արհեստական բանականության կողմից ստեղծված ֆիշինգը և խորը կեղծիքները ավելի լայն ցանց չեն, դրանք ավելի սուր որս են։ Երկրորդ, պաշտպանող կողմը «մարդու հայտնաբերումից և տեղեկացնելուց» անցնում է «հայտնաբերելու, գնահատելու և գործելու նախքան տուգանքի գոյությունը» մակարդակին, որը հենց այն տեղաշարժն է, որը կրճատում է բացը SOC-ների մեծ մասի կողմից օրական ստացվող 2,992 ահազանգերի և իրական տեսք ստացածների մի մասի միջև։ Առաջ շարժվող կազմակերպություններն են, որոնք կիրառում են այդ փոփոխությունը ամենուր, որտեղ արհեստական բանականությունն արդեն իսկ դիպչում է իրենց միջավայրին, այդ թվում՝ իրենց մշակողների կողմից ուղարկվող կոդին, այլ ոչ թե միայն իրենց ցանցի պարագծին հատող երթևեկությանը։
Xygeni-ի տեսակետը. արհեստական բանականության անվտանգությունը պետք է ներառի կոդը, այլ ոչ թե միայն էլեկտրոնային փոստարկղը։
Արհեստական բանականության կիբերանվտանգության ոլորտում լուսաբանման մեծ մասը կանգ է առնում ծրագրային ապահովման մշակման ցիկլի (SOC) վրա՝ ֆիշինգ, վնասակար ծրագրեր, ցանցային անոմալիաներ: Սա անհրաժեշտ է, բայց նաև թերի, քանի որ արհեստական բանականության կողմից առաջացած ռիսկերի աճող մասն այժմ գտնվում է ծրագրային ապահովման մշակման կենսացիկլի ներսում, որտեղ SOC գործիքակազմը չի երևում:
Քսիգենիի CoreAI կիրառում է նույն վարքային, անոմալիաների վրա հիմնված մտածողությունը, որը նկարագրված է այս ուղեցույցում, մասնավորապես՝ կիրառական անվտանգության համար՝ համեմատելով ձեր առկա սկաներների արդյունքները (ոչ միայն Քսիգենիի սեփական), գնահատելով, թե ինչն է իրականում շահագործելի՝ թիմերը հում ահազանգերի ծավալով ողողելու փոխարեն, բացատրելով, թե ինչու է տվյալ ռիսկը կարևոր և ստեղծելով շտկման միջոց pull request մեկ այլ կուտակված գործի տոմսի փոխարեն։ DevAI Նույն պաշտպանական դիրքորոշումը տարածվում է հարձակման մակերեսի ամենանոր մասի վրա՝ արհեստական բանականության կողմից կոդավորելով գործակալներին և օգնականներին, ստուգելով հմտությունների ֆայլերը և գործակալի հրահանգները, և արգելափակելով վնասակար տեղադրումը, նախքան գործակալը երբևէ կգործի դրա վրա: Նպատակը նույնն է, ինչ այս ուղեցույցը պնդում է SOC մակարդակում, կիրառված pipelineարհեստական բանականության առավելությունը ծավալի և արագության նկատմամբ վերածում է պաշտպանի առավելության՝ հարձակվողի փոխարեն։
Սկսեք անվճար։ Sign up with GitHub, GitLab կամ Google և ստացեք ամսական մինչև 25 պահոցների և 50 արհեստական բանականության սկանավորման տեսանելիություն՝ անվճար, առանց վարկային քարտի անհրաժեշտության։
ՀՏՀ
Ի՞նչ է արհեստական բանականությունը կիբերանվտանգության մեջ։
Կիբերանվտանգության մեջ արհեստական բանականությունը մեքենայական ուսուցման, բնական լեզվի մշակման և մեծ լեզվական մոդելների օգտագործումն է անվտանգության թե՛ հարձակողական, թե՛ պաշտպանողական կողմերում: Հարձակվողները այն օգտագործում են համոզիչ ֆիշինգային բովանդակություն, խորը կեղծիքներ և ադապտիվ վնասակար ծրագրեր ստեղծելու համար. պաշտպանները նույն հիմքում ընկած տեխնիկաներն են օգտագործում անոմալիաների հայտնաբերման, ահազանգերի տեսակավորման և ավտոմատացված արձագանքի համար:
Արհեստական բանականությունն ավելի վտանգավոր է որպես հարձակման գործիք, թե՞ ավելի օգտակար՝ որպես պաշտպանության գործիք։
Կողմերից ոչ մեկը կայուն առավելություն չունի, քանի որ երկուսն էլ կառուցված են նույն հիմքում ընկած կարողությունների վրա: Ավելի մեծ ռիսկի ենթարկվող կազմակերպությունները նրանք են, որոնք դեռևս չեն կիրառել արհեստական բանականությունը պաշտպանողականորեն նույն տեմպերով, ինչ հարձակվողները կիրառել են այն հարձակողականորեն, այլ ոչ թե նրանք, որոնք բախվում են տեխնոլոգիական բացի, որը չեն կարող լրացնել:
Կարո՞ղ է արհեստական բանականությունը լիովին փոխարինել մարդ վերլուծաբաններին SOC-ում։
Ոչ, և փորձելու ռիսկերը (վատ կարգավորված մոդելներից ստացված կեղծ դրական արդյունքներ, թերի մարզման տվյալներից ստացված կողմնակալություն և հայտնաբերման համակարգի հակառակորդական մանիպուլյացիա) հենց այն պատճառն են, որ մարդկային վերահսկողությունը մնում է անհրաժեշտ: Արհեստական բանականության իրական արժեքը հերթը մաքրելն է, որպեսզի վերլուծաբանները կարողանան կենտրոնանալ այն դատողությունների վրա, որոնք դեռևս մարդու կարիք ունեն:
Ինչո՞վ է արհեստական բանականության կողմից պայմանավորված հարձակման ռիսկը տարբերվում հատկապես ծրագրային ապահովման մշակման թիմերի համար։
Ֆիշինգից և խորը ֆեյքերից զատ, մշակողների թիմերը բախվում են արհեստական բանականությանը հատուկ ռիսկերի ներսում։ SDLC ինքն իրեն. արհեստական բանականության կոդավորող գործակալներ, որոնք տեղադրում են հալյուցինացված կամ չարամիտ կախվածություններ, չվերանայված գործակալի հրահանգներ հմտությունների ֆայլերում և արհեստական բանականության կողմից ստեղծված կոդ, որը վերարտադրում է կոշտ կոդավորված գաղտնիքները: Կիբերանվտանգության մեջ արհեստական բանականության այդ կողմը ավելի մանրամասնորեն լուսաբանված է մեր հոդվածում: Արհեստական բանականության մատակարարման շղթայի անվտանգության ուղեցույց։
