Հմտությունների ֆայլ։ Կանոնների ֆայլ։ MCP սերվերի կոնֆիգուրացիա։ Երեք տող պարզ տեքստ, commitստուգվել են ինչպես փաստաթղթեր, վերանայվել են ինչպես փաստաթղթեր, և դրանցից ոչ մեկը կոդի տեսք չունի։ Եվ այնուամենայնիվ, յուրաքանչյուրը կարող է լուռ վերաշարադրել այն, ինչ ձեր արհեստական բանականության օգնականին հանձնարարված է անել և ինչին է թույլատրվում հասնել։ Սա է արհեստական բանականության անվտանգության հետևում թաքնված անհարմար ճշմարտությունը։ ի 2026Արդյունաբերությունը երկու տարի անհանգստանում էր այն մասին, թե ինչ է պարունակում արհեստական բանականության կողմից ստեղծված կոդը։ Ավելի դժվար խնդիրը հենց արհեստական բանականության մատակարարման շղթան էր՝ մոդելները, գործակալները, MCP սերվերները և կարգավորման ֆայլերը, որոնք այժմ գտնվում են ձեր սկզբնական կոդի և բաց կոդով կախվածությունների կողքին՝ մեծ մասամբ չգույքագրված և չվերանայված։ Հենց սա է պատճառը, որ արհեստական բանականության մատակարարման շղթայի անվտանգությունը դարձել է ինքնուրույն առարկա, և ինչու է արհեստական բանականության անվտանգության ճիշտ ընկերության ընտրությունը նույնքան կարևոր, որքան ճիշտ սկաների ընտրությունը։
Հարձակման մակերես, որի համար ոչ ոք բյուջե չի նախատեսել
Ծրագրային ապահովումը նախկինում ուներ մի քանի վայրեր, որտեղ հարձակվողը կարող էր հայտնվել՝ կոդը, կախվածությունները, pipelineԱրհեստական բանականությունը ավելացրեց ևս երկուսը, և երկուսն էլ ուղղակիորեն մտնում են արհեստական բանականության մատակարարման շղթայի մեջ։
Մոդելը և գործակալը։ Գործիքների թունավորում, արագ ներարկում, գործակալի ինքնավարություն, որը գերազանցում է ցանկացած մեկի մտադրությունները: MCP սերվերի նկարագրության մեջ թաքնված հրահանգը կարող է աննկատելիորեն վերահղել երկրորդ օդաչուի գործողությունները, և մշակողը երբեք չի տեսնում դա տեղի ունենալ:
Մշակողի սեփական միջավայրը։ IDE-ներ, արհեստական ինտելեկտի երկրորդ օդաչուներ, MCP սերվերներ, գործակալների CLI-ներ: Անտեսանելի են հնացած AppSec սկաներների համար, որոնք չգիտեն, թե ինչ է մոդելը, և անտեսանելի են EDR-ի համար, որը հետևում է օպերացիոն համակարգին և պատկերացում չունի, թե ինչ է կախվածությունը կամ MCP կանչը:
Սրանցից ոչ մեկը տեսական չէ։ Վերջին տասնութ ամիսների ընթացքում՝
- Թաքնված Unicode «կանոնների ֆայլերի հետևի դուռը» թույլ էր տալիս հարձակվողներին անտեսանելի հրահանգներ ներարկել Copilot-ի և Cursor-ի կողմից կարդացված կոնֆիգուրացիայի ֆայլերի մեջ՝ աննկատելիորեն ներխուժելով օգնականի կողմից գեներացված կոդը: GitHub-ը դրա համար նախազգուշացում ավելացրեց 2025 թվականին:
- Հայտնի MCP կամրջի (CVSS 9.6) հրամանի ներարկման թերությունը շտկելուց առաջ ավելի քան 400,000 ներբեռնում ունեցավ, ինչը առաջին փաստաթղթավորված դեպքն էր, երբ հեռակա կոդի լրիվ կատարումը ակտիվացավ պարզապես անվստահելի MCP սերվերին միանալու միջոցով։
- Ինքնաբազմացող npm որդը մշակողներին վերածեց մատակարարման մեխանիզմի, և հաջորդ ամիսներին նույն օրինաչափությունը մեծ մասշտաբով կրկնվեց այլ էկոհամակարգերում՝ դասագրքային արհեստական բանականության մատակարարման շղթայի անվտանգության ձախողման օրինակով։
- Հետազոտողները պարզել են, որ իրավագիտության բակալավրիատի կողմից խորհուրդ տրվող փաթեթների զգալի մասը ընդհանրապես գոյություն չունի՝ «անփույթ նստած» անուններ, որոնք հարձակվողը գրանցում է նախքան իրական մշակողը մոդելին խնդրելը ներմուծել դրանք։
Արհեստական բանականության ծրագրային ապահովման մատակարարման շղթայի անվտանգության վերաբերյալ Google-ի սեփական հետազոտությունը նմանատիպ եզրակացության է հանգել՝ այլ տեսանկյունից. 2023 և 2024 թվականներին շրջանառվող մոդելները թվում էին օրինական, մինչդեռ կրում էին կոդ, որը կարող էր արտահոսել տվյալներ կամ ներբեռնելուց հետո «հետին դուռ» տեղադրել, և լուծումը ոչ թե գործիքի նոր կատեգորիա էր, այլ մատակարարման շղթայի կարգապահության կիրառում, ինչպիսիք են ծագումը և ստորագրությունը, այն արտեֆակտների վրա, որոնց նախկինում ոչ ոք չէր հետևել: Սա է արհեստական բանականության մատակարարման շղթայի անվտանգության խնդիրը մեկ նախադասությամբ. արտեֆակտները նոր են, բայց նրանց անհրաժեշտ կարգապահությունը՝ ոչ:
Ինչու՞ են ձեր առկա գործիքները սպառվում
SAST կարդում է կոդը։ SCA կարդում է կախվածությունների մանիֆեստը: Ոչ մեկը չգիտի, թե ինչ է մոդելը, ինչ է բացահայտում MCP սերվերը կամ ինչ է հրահանգում հմտությունների ֆայլը գործակալին անել: Հենց այդ բացն է, որտեղ տեղի են ունենում արհեստական բանականության դարաշրջանի հարձակումները՝ «մենք սկանավորում ենք կոդը» և «մենք աննկատ ընդունում ենք արհեստական բանականությունը» միջև ընկած տարածությունում:
Արդյունքը ստվերային արհեստական բանականության կատեգորիա է՝ ոչ CISԱյս պահին O-ն կարող է պատասխանել հետևյալ հարցերին՝ ինչ մոդելներ ենք մենք օգտագործում, որ գործակալները ինչի՞ կարող են հասնել, և որ MCP սերվերին է ինչ-որ մեկը միացել անցյալ երեքշաբթի՝ առանց որևէ մեկին տեղեկացնելու: Այդ հարցին լավ պատասխանելը արհեստական բանականության մատակարարման շղթայի անվտանգության գործն է, և սա է պատճառը, որ ընդհանուր AppSec գործիքակազմը այստեղ շարունակում է թերի լինել:
Ի՞նչ է իրականում նշանակում արհեստական բանականության անվտանգությունը
Քսիգենի արհեստական բանականության անվտանգության ընկերությունն է, որը սա դիտարկում է որպես երեք փոխկապակցված շարժումներ SDLC: հայտնաբերել, հայտնաբերել և կիրառել։
Բացահայտեք. իմացեք, թե իրականում ինչ արհեստական բանականություն ունեք
Ձեր պահոցներում անընդհատ, ավտոմատ հայտնաբերումը բացահայտում է արհեստական բանականության յուրաքանչյուր ակտիվ՝ մոդելներ, շրջանակներ, տվյալների հավաքածուներ, եզրակացության վերջնակետեր, գործակալներ, MCP սերվերներ, հմտություններ, հուշումներ, guardrailsև ձեր մշակողների կողմից իրականում օգտագործվող արհեստական բանականության կոդավորման գործիքները։ Հարցումներ չկան։ Ինքնազեկուցում չկա։ Եթե այն հետք է թողել պահոցում, այն երևում է գույքացուցակում, որը իրական արհեստական բանականության մատակարարման շղթայի անվտանգության առաջին և ամենակարևոր պահանջն է։
Այնուհետև արհեստական բանականության գրաֆիկը քարտեզագրում է, թե ինչպես են այդ ակտիվները կապված միմյանց հետ. որ մոդելն է տվյալների հավաքածուն մատակարարում, որ գործակալն է կանչում որ գործիքը, որ MCP սերվերն է գտնվում որ օգնականի հետևում: Առանձին ակտիվը քիչ բան է ասում: Գրաֆիկը ցույց է տալիս, թե որտեղ է կենտրոնացած ռիսկը:
Նույն հայտնագործությունից Xygeni-ն ստեղծում է AI-BOMՁեր ծրագրաշարում արհեստական բանականության հետ կապված ամեն ինչի աուդիտի համար պատրաստ, մեքենայական ընթեռնելի ցանկ: Երբ կարգավորող մարմինը, աուդիտորը կամ հաճախորդը հարցնում է, թե ինչ արհեստական բանականություն եք օգտագործում, պատասխանը դառնում է ներբեռնում, այլ ոչ թե երեքշաբաթյա պայքարի արդյունք:
Հայտնաբերել. ռիսկերը, որոնք սովորական սկաներները չեն կարող տեսնել
Նվիրված արհեստական ինտելեկտի սկաները փնտրում է արհեստական ինտելեկտի համակարգերին բնորոշ խափանման ռեժիմներ՝ արագ ներարկում, գործիքի ներարկում և անվստահ գործիքի կանչ, տվյալների արտահոսք վերականգնման միջոցով, համակարգի արագ հուշումների շրջանցում, չափազանց մեծ ազդեցություն: Յուրաքանչյուր գտածո համապատասխանում է… OWASP-ի լավագույն 10-յակը LLM դիմումների համար և մատնանշում է բացահայտումը ստեղծող ճշգրիտ ֆայլը և տողը, այլ ոչ թե անորոշ «վերանայեք ձեր արհեստական ինտելեկտի օգտագործումը» զգուշացումը։
Նույն հայտնաբերման շերտը հմտությունների ֆայլերը, կանոնների ֆայլերը և MCP կոնֆիգուրացիաները դիտարկում է որպես անվտանգության արտեֆակտներ, այլ ոչ թե որպես անվնաս փաստաթղթեր: Այն նշում է չարամիտ կամ թունավորված հմտությունները, ստուգում է MCP սերվերի կոնֆիգուրացիաները գործիքային թունավորման համար և ցուցադրում է ձեր արհեստական բանականության աշխատանքային բեռները իրականում առաջ մղող հուշումները:
Առաջնահերթություն տվեք՝ աղմուկը կրճատող ձագարին, այլ ոչ թե անկյուններին
Յուրաքանչյուր գտածո աստիճանաբար ֆիլտրվում է՝ մինչև ծրագրային կոդում հասանելի լինելը, այնուհետև՝ իրականում շահագործելի լինելը, ապա՝ ձեր թիմի կողմից ակտիվորեն մշակվող կոդում առկաը։ Մշակողի հերթում հայտնվում է այն կարճ ցուցակը, որը իրականում սպառնում է արտադրությանը՝ կից շրջանակի հղումով, ազդեցության պատուհանով և մեղմացման ուղեցույցով։
Կիրառել. կանգնեցնել այն, նախքան այն գործարկվի
Shield քաղաքականության կիրառումը հասցնում է մշակողի սեփական վերջնակետին. այն արգելափակում է չարտոնված և չարամիտ տեղադրումները, չհաստատված մոդելները և չհաստատված MCP սերվերները՝ նախքան որևէ բանի գործարկումը: Դրա տակ գտնվում է Xygeni-ի Վնասակար ծրագրերի վաղ նախազգուշացում (MEW), որը բռնում է վնասակար փաթեթները նախքան ստորագրության գոյությունը, հեղինակության վրա հիմնված շերտի գործիքները դեռևս վստահելի են, քանի որ դեռ ոչ ոք չի հաղորդել փաթեթի մասին: Սա արհեստական բանականության մատակարարման շղթայի անվտանգության կիրառման կեսն է. հայտնաբերումն ու հայտնաբերումը ձեզ կասեն, թե ինչն է խնդիրը, Shield սա է իրականում կանգնեցնում այն։
Ձեր արհեստական ինտելեկտի ազդեցությունը միայն ձեր արհեստական ինտելեկտի կոդում չէ
Արհեստական բանականության մատակարարման շղթայի անվտանգության ամբողջական պատկերը պահանջում է ոչ միայն մոդելային գույքագրում, և հազվադեպ է լինում միայն աչքի ընկնող բաները.
- Արհեստական բանականության մատակարարի հավատարմագրեր մնացել է հուշման ֆայլերում, գործակալի կարգավորումներում կամ pipeline Գրանցամատյանները գաղտնիքներ են ինչպես մյուս բոլորը, և Xygeni-ի գաղտնիքների հայտնաբերման համակարգը բռնում է դրանք նախքան դրանք հանրային գրանցամատյան հասնելը։
- Խոցելի արհեստական բանականության և մեքենայական ուսուցման կախվածություններ կրում են սովորական CVE-ներ, որոնք բացահայտվում են նույն ծրագրային կազմի վերլուծության միջոցով, որն արդեն իսկ ներառում է ձեր մնացած մասը: Արհեստական բանականության ներդրման վերաբերյալ երրորդ կողմի հետազոտությունները ցույց են տվել, որ ժամանակակից արհեստական բանականության փաթեթի մեծ մասը կազմում են արտաքին աղբյուրներից ստացված փաթեթները և թաքնված բաղադրիչները, ինչը հենց այն է, ինչ ծրագրային կազմի մակերեսային վերլուծությունը մշակվել է ծածկելու համար:
- Վնասակար փաթեթներ հրապարակվել է ցանկացած խորհրդատվական ծառայությունից ավելի արագ pipeline կարող եք կատալոգավորել դրանք, երբ դրանք բռնագրավվում են նախնական ստորագրումից հետո, նույն MEW հնարավորությունը պաշտպանում է ձեր մատակարարման շղթայի մնացած մասը։
Գործակալային շերտ՝ DevAI և CoreAI
Հայտնաբերումն ու հայտնաբերումը ներառում են այն, ինչ արդեն իսկ կա ձեր պահոցներում։ DevAI աշխատում է այնտեղ, որտեղ ստեղծվում է ռիսկը. IDE-ի ներսում, որպես անընդհատ, նախաձեռնողական շերտ, որը սկանավորում է մարդկանց և արհեստական բանականության կողմից ստեղծված կոդը գրելու ընթացքում, առանց որևէ հուշման անհրաժեշտության: Այն բացատրում է հայտնաբերման հետևում գտնվող ամբողջական շահագործման ուղին և առաջարկում է MCP-ով հաստատված շտկումներ, որոնք մշակողը կարող է կիրառել վստահությամբ՝ առանց կառուցվածքը խափանելու:
CoreAI գտնվում է առանձին սկաներներից վերև՝ որպես հետախուզական շերտ. այն կապում է կոդը, կախվածությունը, pipelineև դիրքի տվյալները միավորում է մեկ ռիսկի մոդելի մեջ, պատասխանում է հարցերին բնական լեզվով և ստեղծում է գործադիրի համար պատրաստ հաշվետվություն, որը անվտանգության ղեկավարին անհրաժեշտ է ցույց տալու համար, որ կառավարումն իրականում տեղի է ունենում, այլ ոչ թե պարզապես հայտարարվում է։
Ընդլայնեք ձեր ունեցածը AI Security-ում։ Ոչինչ մի՛ պոկեք։
Նոր անվտանգության կատեգորիայի վերաբերյալ ամենատարածված առարկությունն այն է, որ «մենք արդեն բավարար գործիքներ ունենք»։ Որպես արհեստական բանականության անվտանգության ընկերություն՝ Xygeni-ն չի խնդրում ձեզ որևէ բան փոխարինել. նույն տեսակավորումը, բացատրությունը և առաջնահերթությունը, որը կիրառվում է իր սեփական արդյունքների նկատմամբ, հավասարապես կիրառվում է նաև ձեր առկա արդյունքների վրա։ SAST, SCAև երրորդ կողմի սկաներներ։ Ձեր ներկայիս ստեկը դառնում է մուտքային մաս, այլ ոչ թե զոհ, և ձեր արհեստական բանականության մատակարարման շղթայի անվտանգության վիճակը բարելավվում է առանց դրան կցված «պատռել և փոխարինել» նախագծի։
Ինչու է սա կարևոր հիմա, ոչ թե հետո
Կարգավորող մարմինները տարբեր ուղղություններից համընկնում են նույն սպասումների շուրջ. ԵՄ արհեստական բանականության մասին օրենքը, NIS2-ը և Իսպանիայի ENS-ը բոլորը ձգտում են արհեստական բանականության համակարգերի գույքագրմանը և հետագծելիությանը, նույն ապացույցներին, որոնք AI-BOM-ը ստեղծում է: Ուղղությունը հստակ է նույնիսկ այն դեպքերում, երբ ճշգրիտ համապատասխանության մեխանիզմները դեռևս կայուն են. դուք չեք կարող վկայել այն արհեստական բանականության մասին, որը երբեք չեք գույքագրել, և չեք կարող պնդել արհեստական բանականության մատակարարման շղթայի անվտանգության մասին, եթե մատակարարման շղթան ինքնին անտեսանելի է ձեզ համար:
Արհեստական բանականության անվտանգության ընկերություն ընտրելը
Ոչ բոլոր արհեստական բանականության անվտանգության ընկերություններն են իրենց սահմանները գծում նույն տեղում: Որոշները կանգ են առնում ձեր սեփական արհեստական բանականության կողմից ստեղծված կոդը սկանավորելով: Մյուսները կանգ են առնում վերջնակետում: Արհեստական բանականության մատակարարման շղթայի անվտանգության հարցն ավելի մեծ է, քան յուրաքանչյուր հատված առանձին վերցրած. այն ընդգրկում է մոդելը, գործակալը, MCP սերվերը, հմտության ֆայլը և դրանց տակ գտնվող սովորական կախվածությունը: Այդ ամբողջական կյանքի ցիկլի տեսքը՝ հայտնաբերումից մինչև կիրառում, մեկ կոնսոլում՝ ձեր AppSec-ի մնացած արդյունքների հետ միասին, այն է, ինչին պետք է ուշադրություն դարձնել արհեստական բանականության անվտանգության ընկերությունը գնահատելիս, այլ ոչ թե մեկ կետային գործիք:
Ոչ ոք չէր վերանայում ֆայլերը, որոնք դարձան ներս մտնելու միջոցը։ Արհեստական բանականության անվտանգությունը դրանց վերանայման առարկան է, իսկ արհեստական բանականության մատակարարման շղթայի անվտանգությունն է, որը այդ առարկան դարձնում է կայուն՝ սկզբից մինչև վերջ, նույն հարթակում, որտեղ դուք արդեն վերանայում եք մնացած ամեն ինչ։
Տեսեք, թե իրականում ինչ է թույլատրվում անել ձեր արհեստական բանականությունը։ Սկսեք անվճար or ժամանակացույցի ցուցադրություն.
ՀՏՀ
Xygeni-ի կոդը երբևէ դուրս կգա՞ իմ ենթակառուցվածքից։
Ոչ։ Սկանավորումները կատարվում են ձեր սեփական միջավայրում, և սկզբնական կոդը երբեք չի վերբեռնվում Xygeni-ի սերվերներ։ Արհեստական բանականության ինվենտարը և AI-BOM-ը կառուցվում են սկաների կողմից տեղական տեսածից, այլ ոչ թե արտաքինից ուղարկված պատճենից։
Ի՞նչ տարբերություն կա AI Security-ի, DevAI-ի և CoreAI-ի միջև։
AI Security-ն հայտնաբերում և հայտնաբերում է. այն կառուցում է AI ինվենտարը, AI-BOM-ը, և գտնում է ռիսկեր, ինչպիսիք են արագ ներարկումը կամ թունավորված հմտությունների ֆայլերը: DevAI-ն աշխատում է IDE-ի ներսում, մինչ մշակողները գրում են կոդ՝ առաջարկելով լուծումներ դրանց ընթացքում: CoreAI-ն երկուսից էլ վեր է կանգնած՝ համեմատելով ամբողջ հարթակի արդյունքները և բնական լեզվով պատասխանելով ձեր անվտանգության դիրքորոշման վերաբերյալ հարցերին:
Ո՞ր արհեստական բանականության անվտանգության շրջանակների հետ է Xygeni-ն համատեղվում։
Արդյունքները համընկնում են OWASP-ի լավագույն 10-ի հետ՝ LLM դիմումների համար, OWASP-ի լավագույն 10-ի՝ MCP-ի համար, և OWASP-ի լավագույն 10-ի՝ գործակալական հմտությունների համար, ինչպես նաև NIST SP 800-218A-ի և CISԱրհեստական բանականության նյութերի ցանկերի վերաբերյալ A/G7 ուղեցույց: Այդ քարտեզագրումն է, որ AI-BOM-ը դարձնում է համապատասխանության ապացույց, այլ ոչ թե պարզապես գույքագրման:
Սա արդյո՞ք յուրաքանչյուր արհեստական բանականության գրադարան կամ մոդել կհամարի ռիսկային։
Ոչ։ Առաջնահերթությունների որոշման ձագարը նեղացնում է արդյունքները մինչև այն, ինչը հասանելի է ծրագրի կոդում, իսկապես շահագործելի է և գտնվում է ակտիվ մշակման փուլում, ուստի մշակողի տեսած ցանկը կարճ է, այլ ոչ թե հայտնաբերված յուրաքանչյուր արհեստական բանականության ակտիվի ամբողջական ցանկ։
