Հարցրեք անվտանգության մասնագետին, թե քանի՞ արհեստական բանականության գործիքներ են այս պահին շփվում ընկերության տվյալների հետ, և դուք կստանաք վստահ թիվ։ Դա սխալ կլինի, և ոչ թե այն պատճառով, որ ինչ-որ մեկը ինչ-որ բան թաքցնում է։ Ստվերային արհեստական բանականության մեծ մասը ոչինչ չի թողնում գտնելու համար. ո՛չ տեղադրում, ո՛չ լիցենզիա, ո՛չ տողային տարր։ Զննարկչի ներդիր և անձնական... login բավարար են։ Ձեր քաղաքականության կողմից ծածկվող արհեստական բանականության և ձեր կազմակերպության կողմից իրականում գործարկվող արհեստական բանականության միջև եղած այդ բացն է, որը հանգեցնում է ստվերային արհեստական բանականության ռիսկի առաջացմանը, և այն ՏՏ ծանոթագրությունից վերածվել է AppSec-ի ամենաարագ զարգացող կատեգորիաներից մեկի։ Այս ուղեցույցը ներկայացնում է, թե ինչպես գործնականում հայտնաբերել և վերացնել ստվերային արհեստական բանականությունը՝ հայտնաբերման ազդանշաններով և կառավարման քայլերով, որոնք մնում են ուժի մեջ աուդիտի ավարտից հետո։
Ստվերային արհեստական բանականության ռիսկը մեկ պարբերությամբ
Ստվերային արհեստական բանականությունը (Stover AI) ցանկացած արհեստական բանականության գործիք, մոդել, գործակալ կամ API կանչ է, որը գործում է ձեր կազմակերպության ներսում՝ առանց անվտանգության կամ ՏՏ ստուգման։ Այն ստվերային ՏՏ-ի անմիջական իրավահաջորդն է, բայց ավելի դժվար է բռնել. ստվերային ՏՏ-ն սովորաբար թողնում էր գնումների գրանցամատյան կամ ցանցային ստորագրություն, որի հետ CASB-ը կարող էր համեմատվել: Ստվերային արհեստական բանականությունը հաճախ չի թողնում ո՛չ մեկը, ո՛չ էլ մյուսը: Աշխատակիցը պայմանագիր է տեղադրում անձնական հաշվով մուտք գործած չաթբոտի մեջ, կամ մշակողը մոդելի մատակարարից API բանալին ուղղակիորեն միացնում է սկրիպտի մեջ, և դրանցից ոչ մեկը չի վերաբերում մատակարարի գույքագրմանը: Երկու անկախ հրապարակված թվեր ցույց են տալիս, թե որքան ստվերային արհեստական բանականության ռիսկ է արդեն կուտակվել. Unseen Security-ի «Ստվերային արհեստական բանականության 2026 թվականի վիճակը» զեկույցի համաձայն՝ աշխատողների 80%-ը օգտագործում է արհեստական բանականության գործիքներ, որոնք իրենց կազմակերպությունը չի հաստատել, և կազմակերպությունների 86%-ը նշում է, որ իրենք չունեն տեսանելիություն այն մասին, թե ինչպես են տվյալները իրականում հոսում դեպի և դեպի արդեն օգտագործվող արհեստական բանականության գործիքները:
Ինչու՞ ստվերային արհեստական բանականության ռիսկը գերազանցեց ստվերային տեղեկատվական տեխնոլոգիաների ռիսկը
Երեք տեղաշարժ է բացատրում, թե ինչու է ստվերային արհեստական բանականության ռիսկը շարժվում ավելի արագ, քան ստվերային տեղեկատվական տեխնոլոգիաները բռնելու համար ստեղծված կառավարումը, և դրանցից ոչ մեկը շրջելի չէ։
- Արհեստական բանականությունը դադարեց տեղադրման կարիք ունենալուց։ Ստվերային ՏՏ-ն սահմանող գործիքները (չարտոնված SaaS, խարդախ բրաուզերի ընդլայնումներ) ապացույցներ թողեցին ակտիվների գույքագրման մեջ: Բրաուզերի ներդիրում բացված արհեստական բանականության օգնականը կամ անձնական քարտով կանչված մոդելային API-ն ոչինչ չեն թողնում վերջնակետերի մոնիթորինգի կամ գնումների համար, որոնք կարող են նշվել:
- Արհեստական բանականությունը տեղափոխվել է ձեր արդեն հաստատված գործիքների ներսում։ Երկրորդ օդաչուի ոճի գործառույթներն այժմ ներդրված են արդեն թույլատրվածների ցանկում գտնվող հարթակներում: Հարթակը վերանայվել է: Արհեստական բանականության հնարավորությունները աննկատ միացել են դրա ներսում, բայց սովորաբար այդպես չէին լինում:
- Ծավալը մարդու կողմից ակտիվացվողից անցավ մեքենայական մասշտաբի։ Zscaler-ի ThreatLabz թիմը վերլուծել է արհեստական բանականության և մեքենայական ուսուցման 536.5 միլիարդ գործարքներ։ իր ամպային ծառայությունների միջոցով և գրանցել է 3,464.6% տարեկան աճ enterprise Արհեստական բանականության/մեքենայական ուսուցման տրաֆիկ։ Փոփոխության հենց այդ մասշտաբն է պատճառը, որ մեկ տարի առաջ կատարված ստվերային արհեստական բանականության ռիսկի գնահատումն արդեն հնացած է, և թե ինչու են ժամանակին կատարվող աուդիտները շարունակում են վնասել այն խնդրին, որը ամեն ամիս խորանում է։
Որտեղ է իրականում թաքնվում ստվերային արհեստական բանականությունը
Անվտանգության թիմերը, որոնք ստվերային արհեստական բանականության ռիսկեր են փնտրում ստվերային ՏՏ գործիքներով, սովորաբար վերադառնում են թերի ցուցակով, քանի որ թաքստոցները տարբեր են.
- Բրաուզերի վրա հիմնված գործիքներ՝ առանց վերջնակետային հետքի։ Արհեստական բանականությունն ամբողջությամբ աշխատում է ներդիրում։ Ոչ մի գործակալ չի հայտնաբերվում, ոչ էլ որևէ բան է տեղադրվում։
- Արհեստական բանականության գործառույթներ, որոնք ներդրված են թույլատրված հարթակներում։ Հարթակը վերանայվեց։ Ավելի ուշ դրա մեջ ներառված արհեստական ինտելեկտի գործառույթը սովորաբար վերանայված չէր։
- API-ի օգտագործման անձնական ծախսեր։ Մշակողը մոդելային API-ը տեղադրում է անձնական քարտի վրա և անմիջապես կոդից կանչում այն։ Այն երբեք չի հասնում գնումների բաժին, հետևաբար՝ երբեք չի հասնում գույքագրման բաժին։
- Չվերանայված գործակալի հրահանգներ և հմտությունների ֆայլեր։ Գործակալական կոդավորման գործիքները ավելի ու ավելի հաճախ են հետևում պահոցում անմիջապես գրված հրահանգներին (հմտությունների ֆայլեր, գործակալի կանոններ), և այդ ֆայլերը կարող են գործակալին կապել այնպիսի մոդելի, տվյալների բազմության կամ MCP սերվերի հետ, որից ոչ ոք չի գրանցվել։
Ինչպես հայտնաբերել և վերացնել ստվերային արհեստական բանականությունը
Իմանալ, թե ինչպես հայտնաբերել և վերացնել ստվերային արհեստական բանականությունը, նշանակում է այն դիտարկել որպես երկու առանձին խնդիրներ, որոնք պետք է միասին լուծվեն՝ գտնել արդեն իսկ առկաը և համոզվել, որ այն չի վերադառնա առանց կառավարման։
Հայտնաբերել այն. երեք ազդանշաններ, որոնք միասին են աշխատում
Ոչ մի առանձին սկանավորում չի գտնում ստվերային արհեստական ինտելեկտի ամբողջ ռիսկը, քանի որ վերևում գտնվող յուրաքանչյուր թաքստոց տարբեր հետք է թողնում։
- Ցանցի և պրոքսիի գրանցամատյաններ։ Ձեր firewall-ի, proxy-ի և DNS գրանցամատյանները արդեն իսկ գրանցում են AI մատակարարի վերջնակետերին ուղղված ելքային զանգերը, անկախ նրանից, թե գործիքը հաստատվել է, թե ոչ: Մեկ հոսթից բարձր հաճախականության API զանգերը, մեծ ելքային բեռները կամ ոչ աշխատանքային ժամերին ավտոմատացված երթևեկությունը դեպի մոդելային վերջնակետ՝ այն օրինաչափություններն են, որոնք արժե հաշվի առնել:
- Նույնականացման և մուտքի ազդանշաններ։ Ցանցային գրանցամատյանները ցույց են տալիս, որ գործիքն օգտագործվում է. ձեր նույնականացման մատակարարը ցույց է տալիս, թե ով է կանգնած դրա հետևում և որքան մուտքի իրավունք է տրամադրել: Ուշադրություն դարձրեք չվերանայված արհեստական բանականության հավելվածներին OAuth տրամադրելուն, արհեստական բանականության գործիքներ մուտք գործելուն անձնական, այլ ոչ թե կորպորատիվ հաշիվներով, և ծառայության հաշվի API գործունեությանը, որը ոչ ոք չի կարող բացատրել:
- Ակտիվների և կոդի մակարդակի հայտնաբերում։ Սա շերտն է standard Shadow-IT գործիքակազմը բաց է թողնում, և այն կապված է նրան հետ, թե ինչպես է արհեստական բանականությունը դրսևորվում ծրագրային ապահովման մեջ՝ մոդելներ, տվյալների հավաքածուներ, եզրակացության վերջնակետեր, գործակալներ, MCP սերվերներ և արհեստական բանականության կոդավորման գործիքներ, որոնք ուղղակիորեն հղում են կատարում պահոցներում, pipelines և հմտությունների ֆայլեր, ոչ միայն բրաուզերի երթևեկության մեջ։ Առանց այս շերտի, դուք կարող եք տեսնել Որ կանչվել է մոդելի API; դուք չեք կարող տեսնել որը գործակալը կոչեց այն, սկսած որը pipelineկամ թե ինչի հետ է այն կապված, որը հենց այն է, որտեղ Ստվերային արհեստական ինտելեկտի ռիսկը վերածվում է մատակարարման շղթայի միջադեպի այլ ոչ թե քաղաքականության խախտում։
Վերացրեք այն. չորս քայլ, որոնք այն կպչուն կդարձնեն
Հայտնաբերումը ցույց է տալիս, թե ինչն է արդեն աշխատում։ Դա կայուն ինչ-որ բանի վերածելը պահանջում է չորս քայլ, այն պետք է իրականացվի որպես ցիկլ, այլ ոչ թե որպես միանվագ աուդիտ, քանի որ ստվերային արհեստական բանականության ռիսկը փոխվում է ավելի արագ, քան ցանկացած տարեկան վերանայում կարող է հետևել։
- Կառուցեք մեկ գույքագրում, ոչ թե երեք։ Ավանդական ակտիվներ (ռեպոներ, pipelines, կոնտեյներներ) և արհեստական բանականության ակտիվները (մոդելներ, տվյալների հավաքածուներ, գործակալներ, MCP սերվերներ, կոդավորման գործիքներ) պետք է գտնվեն նույն տեսադաշտում՝ դրանց միջև եղած հարաբերությունները քարտեզագրված։ Ինքնին անվնաս թվացող արհեստական բանականության գործիքը կարող է իրական բացահայտում լինել, երբ տեսնեք, թե որ տվյալների հավաքածուն է այն սնուցում և որ վերջնակետի հետ է այն կապվում։
- Դասակարգեք նախքան քաղաքականություն գրելը։ «Արհեստական բանականության գործիքներում զգայուն տվյալները» արգելող կանոնը ոչինչ չի նշանակում, եթե ոչ ոք չի կարող ասել, թե որ տվյալներն են կարևոր։ Իմացեք, թե որտեղ են գտնվում կարգավորվող և գաղտնի տվյալները, և թող այդ դասակարգումը որոշի, թե արհեստական բանականության որ դեպքերն են ընդունելի, և որոնք երբեք չեն լքի շենքը։
- Թիմերին տվեք ավելի արագ հաստատված ուղի, այլ ոչ թե ավելի երկար արգելքների ցուցակ։ Մարդիկ դիմում են ստվերային արհեստական բանականությանը, քանի որ թույլատրված տարբերակն ավելի դանդաղ է, քան իրենց առջև արդեն բացված պատուհանը։ Հաստատված մոդելների և գործակալների կարգավորվող կատալոգը, որտեղ մշակողներից վերցված են լիազորագրերը, վերացնում է քաղաքականությունը շրջանցելու պատճառը։
- Կիրառեք այն վայրերում, որտեղ իրականում գործում է ռիսկը՝ տեղադրումը և զանգը։ Փաստաթղթում մոդելի արգելափակումը չի խանգարում գործակալին տեղադրել այն։ Կիրառումը պետք է տեղի ունենա այն պահին, երբ փաթեթը տեղադրվում է կամ API-ն կանչվում է, որպեսզի արգելափակված գործողությունը ավտոմատ կերպով ձախողվի, այլ ոչ թե կախված լինի կանոնը հիշելուց։
Ի՞նչ է նշանակում ստվերային արհեստական բանականության ռիսկը AppSec-ի, ոչ միայն ՏՏ-ի համար
Ստվերային արհեստական բանականության ուղեցույցների մեծ մասը սա դիտարկում է որպես տվյալների կորստի կանխարգելման խնդիր, և տվյալների կորստի կանխարգելման խնդիրը դրա իրական մասն է կազմում։ Սակայն ստվերային արհեստական բանականության ռիսկի աճող մասնաբաժինը ընդհանրապես չի երևում զննարկիչում. այն երևում է որպես հալյուցինացված փաթեթ, որը գործակալը փորձել է տեղադրել, MCP սերվեր, որը ոչ ոք չի ստուգել, կամ կոդավորման օգնական, որն ունի մշտական մուտք դեպի այն պահոցը, որին երբեք չի թույլատրվել դիպչել։ Սա ստվերային տեղեկատվական տեխնոլոգիաների ոլորտ չէ՝ արհեստական բանականության պիտակով։ Սա ծրագրային ապահովման մատակարարման շղթայի ռիսկի նոր կատեգորիա է, և այն կարիք ունի նույն կարգապահությանը, որը AppSec-ն արդեն կիրառում է ցանկացած այլ կախվածության նկատմամբ. իմանալ, թե ինչ կա այնտեղ, ստուգել այն և ավտոմատացնել ստուգումը՝ փոխարենը հուսալու, որ յուրաքանչյուր մշակող կհիշի ստուգել։
Դադարեցրեք արհեստական բանականության կառավարումը աղյուսակից
Բացը ջանքերի մեջ չէ, այլ տեսանելիության մեջ. թիմերի մեծ մասը բացակայում է մեկ տեղից, որտեղ արհեստական բանականության ակտիվները, կոդը և pipelineմիասին են հայտնվում, ինչը հենց այն հեռավորությունն է, որը կա «մենք ունենք ստվերային արհեստական ինտելեկտի քաղաքականություն» և «մենք իրականում կարող ենք այն կիրառել» միջև։
Դա է խնդիրը Քսիգենի Արհեստական բանականության անվտանգությունը կառուցված է։ Արհեստական բանականության գույքագրումը անընդհատ և ավտոմատ կերպով հայտնաբերում է ձեր պահոցներում արհեստական բանականության յուրաքանչյուր ակտիվ, pipelineև մշակողների միջավայրեր՝ մոդելներ, շրջանակներ, տվյալների հավաքածուներ, եզրակացության վերջնակետեր, գործակալներ, MCP սերվերներ և արհեստական բանականության կոդավորման գործիքներ, ինչպիսիք են Copilot-ը, Cursor-ը կամ Claude Code-ը, որոնք քարտեզագրվում են որպես հարաբերությունների գրաֆիկ՝ յուրաքանչյուր սկանավորման ժամանակ գեներացվող AI-BOM-ով։ DevAI աշխատում է որպես ակտիվ պաշտպանիչ ցանկապատ նույն միջավայրերում, ստուգելով հմտությունների ֆայլերը և գործակալի հրահանգները և արգելափակելով վնասակար տեղադրումները նախքան գործակալի գործողությունը, առանց որևէ հուշման անհրաժեշտության։ Եվ քանի որ CoreAI Ձեր առկա սկաներների արդյունքների վրա կիրառում է նույն արհեստական բանականության վրա հիմնված փոխհարաբերությունը և կառավարումը, ինչ որ անում է Xygeni-ի սեփականի վրա, ստվերային արհեստական բանականության ռիսկը չի անհետանում ևս մեկ անջատված գործիքի մեջ. այն հայտնվում է նույն ռիսկի տեսանկյունից, ինչ ձեր մնացած ամեն ինչ։ SDLC.
Սկսեք անվճար։ Sign up with GitHub, GitLab կամ Google և ստացեք ամսական մինչև 25 պահոցների և 50 արհեստական բանականության սկանավորման տեսանելիություն՝ անվճար, առանց վարկային քարտի անհրաժեշտության։
ՀՏՀ
Ի՞նչ է ստվերային արհեստական բանականության ռիսկը, պարզ ասած։
Ստվերային արհեստական բանականության ռիսկը կազմակերպության ներսում անվտանգության ստուգման չենթարկվող արհեստական բանականության գործիքների, մոդելների, գործակալների կամ API զանգերի կողմից ստեղծված ազդեցությունն է։ Քանի որ դրա մեծ մասը չի թողնում տեղադրման և գնումների գրառում, ռիսկը աննկատ կուտակվում է մինչև ինչ-որ մեկը դիտավորյալ չփնտրի այն։
Ինչպե՞ս եք գործնականում հայտնաբերում և վերացնում ստվերային արհեստական բանականությունը։
Հայտնաբերումը կատարվում է միասին աշխատող երեք ազդանշանների հիման վրա (ցանցի և պրոքսիի գրանցամատյաններ, նույնականացման և մուտքի ազդանշաններ և կոդ/pipeline-մակարդակի ակտիվների հայտնաբերում) և վերացումը չորս քայլից բաղկացած ցիկլ է՝ ստեղծել մեկ միասնական գույքագրում, դասակարգել տվյալները քաղաքականություն գրելուց առաջ, թիմերին տրամադրել ավելի արագ հաստատված ուղի և կիրառել տեղադրման կամ API կանչի պահին, այլ ոչ թե փաստաթղթում։
Ստվերային արհեստական բանականությունը նույնն է, ինչ ստվերային տեղեկատվական տեխնոլոգիան։
Կապակցված, ոչ նույնական։ Shadow IT-ն սովորաբար թողնում էր հետք (տեղադրում, լիցենզիա, ցանցային ստորագրություն)։ Shadow AI-ն հաճախ դրանցից ոչինչ չի թողնում. դիտարկիչի ներդիր և անձնական login բավարար են, և արհեստական բանականության գործառույթներն այժմ ներդրված են արդեն հաստատված հարթակներում։
Կարո՞ղ է CASB կամ DLP գործիքը ինքնուրույն բռնել ստվերային արհեստական ինտելեկտի ռիսկը։
Միայն մասամբ։ Այդ գործիքները մշակվել են որոշակի հետք ունեցող չարտոնված ծրագրակազմը որսալու համար։ Կոդից անմիջապես կանչված մոդելը կամ հաստատված հարթակի ներսում միացված արհեստական բանականության գործառույթը չեն առաջացնում այն ազդանշաններից ոչ մեկը, որը CASB-ը կարգավորել է նշելու համար։ Ստվերային արհեստական բանականության ռիսկի լիարժեք կառավարումը պահանջում է ինքնություն, ցանց և կոդ/pipeline-մակարդակի տեսանելիությունը միասին։
Որտե՞ղ է ստվերային արհեստական բանականությունը առավել հաճախ դրսևորվում ծրագրային ապահովման մշակման մեջ։
Բրաուզերի վրա հիմնված չաթբոտերից այն կողմ, այն երևում է որպես API բանալիներ, որոնք կոշտ կոդավորված են սկզբնական կոդի մեջ, բաց կոդով մոդելներ, որոնք ներառված են նախագծում՝ առանց անվտանգության սկանավորման, և գործակալի հմտությունների ֆայլեր կամ MCP սերվերի կապեր, որոնք ավելացվել են պահոցին՝ առանց վերանայման, հենց այն շերտը, որը ընդհանուր ստվերային IT գործիքակազմը չի ստուգում։
