TL. DR
Գրեթե յուրաքանչյուր ինժեներական թիմ օգտագործում է արհեստական բանականության կոդավորման օգնականներ։ Գրեթե ոչ ոք չի կարող գույքագրել, թե իրականում ինչ արհեստական բանականություն են օգտագործում։ Gartner-ը իր 2025 թվականի տվյալների անվտանգության Hype Cycle-ում արհեստական բանականության անվտանգության կեցվածքի կառավարումը սահմանել է որպես կատեգորիա, քանի որ այդ բացը իրական է. մոդելները, գործակալները, MCP սերվերները և տվյալների հավաքածուները հարձակման մակերեսին արհեստական բանականության ակտիվներ են, և կազմակերպությունների մեծ մասը կառուցվածքային եղանակ չունի դրանք տեսնելու համար։
Հայտնագործությունն առանց շտկման պարզապես dashboard. Արհեստական բանականության կողմից ստեղծված կոդի մոտավորապես 40%-ը պարունակում է անվտանգության խոցելիություններ: Արհեստական բանականության օգնականները վերարտադրում են անապահով օրինաչափություններ այնպիսի ծավալով, որի համար ձեռքով վերանայում չի մշակվել: Արհեստական բանականության առկա ակտիվների իմացությունը լուծում է խնդրի միայն կեսը. մյուս կեսը ռիսկերի գնահատումն ու կոդի շտկումն է նախքան դրա ուղարկումը, նույն աշխատանքային հոսքում, որտեղ այն գրվել է:
Հարձակման մակերեսը ավելի լայն է, քան կոդը։ Փաստագրված հարձակումներն արդեն իսկ թիրախավորում են կոդը շրջապատող ակտիվները. կանոնների ֆայլերում թաքնված Unicode-ը, որը ստիպում է օգնականներին արտանետել հետին դռնով արգելափակված արդյունք, MCP գործիքների թունավորում և կոդի լրիվ հեռակա կատարում լայնորեն օգտագործվող MCP կամրջի միջոցով (437,000+ ներբեռնում), և անփույթ կերպով գրանցվող փաթեթների անունները, որոնք արհեստական բանականության մոդելները վիճակագրորեն հավանաբար հալյուցինացիաներ կունենան: Ավանդական հարձակումներ: SAST և SCA սրանից ոչինչ չտեսնել։
Լուծումը մեկ օղակ է, այլ ոչ թե եռակետ գործիքներ։ Արհեստական բանականություն-SPM կառուցում է գույքագրումը և AI-BOM-ը։ AI անվտանգություն ռիսկի գնահատականներ է ստանում OWASP-ի լավագույն 10 LLM դիմումների համեմատ։ DevAI Ուղղում է IDE-ի ներսում առկա խոցելի կոդը այնպես, ինչպես այն գրվում է, ընդգրկում է ինչպես արհեստական բանականության կողմից ստեղծված, այնպես էլ մարդու կողմից գրված կոդը, և ընդհատում է այլ գործակալների կողմից անելիքները, նախքան նրանք դա անեն։ Այն վերաբերում է Xygeni-ի սեփական սկաներներից ստացված արդյունքներին և առկա գործիքներից արդեն իսկ ստացված ամեն ինչին։ — չի պահանջում պատռել և փոխարինել։
Գրեթե յուրաքանչյուր ինժեներական թիմ ընդունել է արհեստական բանականության կոդավորման օգնականներ: Նրանցից գրեթե ոչ մեկը չի կարող պատասխանել մի պարզ հարցի. իրականում որ արհեստական բանականության մոդելները, գործակալները և MCP սերվերներն ենք օգտագործում, և ինչ ռիսկ է պարունակում յուրաքանչյուրը: Այդ բացն այժմ անուն ունի: Gartner-ը պաշտոնապես սահմանեց արհեստական բանականության անվտանգության կեցվածքի կառավարումը: (Արհեստական բանականություն-SPM) որպես կատեգորիա իր մեջ 2025 թվականի տվյալների անվտանգության գովազդային ցիկլը — նույն տոհմածառը, որը ստեղծել է CSPM-ը և DSPM-ը։ Այս կատեգորիան գոյություն ունի, քանի որ թվերը կոնկրետ են. արհեստական բանականության կողմից ստեղծված կոդի մոտավորապես 40%-ը պարունակում է անվտանգության խոցելիություններ, արհեստական բանականությունն այժմ հարձակման մակերեսի մի մասն է, այլ ոչ թե պարզապես մշակողների կողմից օգտագործվող գործիք, և կազմակերպությունների մեծ մասը չունի իրենց կողմից օգտագործվող արհեստական բանականության ակտիվների կառուցվածքային գույքագրում։
Սա նաև այն թեման է, որը մենք քննարկելու ենք տեղում OWASP AppSec Days Պորտուգալիա 2026սեպտեմբերի 23-24-ը Պորտուում, որտեղ Xygeni-ն ոսկե հովանավոր էԱվելին այդ մասին վերջում, բայց եթե ուզում եք առաջ անցնել, ստացեք ձեր տոմսը այստեղ.
Խնդիրը. արհեստական բանականության կողմից ստեղծված կոդը կրում է իր սեփական ռիսկի պրոֆիլը
Արհեստական բանականության կողմից ստեղծված կոդի մոտավորապես 40%-ը պարունակում է անվտանգության խոցելիություններ: Արհեստական բանականության կոդավորման օգնականների վերաբերյալ անկախ հետազոտությունները ցույց են տվել, որ դրանց դեմ ձախողման մակարդակը կայուն բարձր է: OWASP-ի լավագույն 10-յակը, որոշակի թերությունների կատեգորիաներով, ինչպիսին է միջկայքային սկրիպտավորումը, որոնք հայտնվում են ստեղծված նմուշների մեծ մասում: Արհեստական բանականության օգնականները ոչ միայն ավելի արագ են գրում կոդ: Նրանք նաև ավելի արագ են վերարտադրում անապահով կաղապարները, անապահով կախվածությունները և անապահով կոնֆիգուրացիաները, և դա անում են այնպիսի ծավալով, որի համար չի մշակվել որևէ ձեռքով վերանայման գործընթաց:
Հարձակման մակերեսը չի սահմանափակվում օգնականի գրած կոդով։ Այն տարածվում է նաև այն արհեստական բանականության ակտիվների վրա, որոնք ձեր թիմերն արդեն օգտագործում են և հազվադեպ են գույքագրում. մոդելներ, տվյալների հավաքածուներ, գործակալներ և MCP սերվերներ։ Նրանցից յուրաքանչյուրն արդեն իսկ իրականացրել է իրական, փաստաթղթավորված հարձակումներ։
- Կանոնների ֆայլի հետևի դուռ. Հարձակվողները թաքցնում են հրահանգները՝ օգտագործելով անտեսանելի Unicode նիշեր կանոնների և կոնֆիգուրացիայի ֆայլերի մեջ, որոնք կարդացվում են GitHub Copilot-ի և Cursor-ի նման գործիքների կողմից, ինչի հետևանքով օգնականը արձակում է գաղտնի կոդ՝ առանց դրա մասին երբևէ հիշատակելու։ Կատալոգացված է որպես MITRE ATLAS դեպքի ուսումնասիրություն։
- MCP գործիքների թունավորում և հեռակա կոդի կատարում. Լայնորեն օգտագործվող MCP կամրջի կրիտիկական խոցելիությունը, որը ներբեռնվել է ավելի քան 437,000 անգամ, թույլ էր տալիս հեռակա կոդի լրիվ կատարում այն պահին, երբ հաճախորդը միանում էր անվստահելի MCP սերվերի։
- Ծալքավոր նստացույց: Լայնածավալ ակադեմիական հետազոտությունը տասնվեց իրավաբանության մագիստրատուրայի ուսանողների համար ստեղծել է ավելի քան երկու միլիոն կոդի նմուշներ և պարզել, որ առաջարկվող փաթեթների գրեթե հինգից մեկը ընդհանրապես գոյություն չունի՝ անուններ, որոնք հարձակվողները կարող են նախապես գրանցել և զենք դարձնել։
Այս ամենը ավանդականում չի երևում SAST or SCA սկանավորում։ Այդ գործիքները հասկանում են կոդը։ Դրանք չեն հասկանում, թե ինչ է մոդելը, ինչ է անում MCP սերվերը կամ արդյոք գործակալի կոնֆիգուրացիայի ֆայլը կեղծվել է։
Թիմերի մեծ մասը լուծում է խնդրի կեսը
Բնազդային արձագանքը գործիքների միացումն է՝ մեկը մոդելի սկանավորման համար, մյուսը՝ գործարկման ժամանակի հուշումների firewall-ների, երրորդը՝ IDE օգնականներՆույն սխալն է, որը թույլ տվեց AppSec-ը SAST, SCAև տասնհինգ տարի առաջ գաղտնի տվյալների սկանավորումը, և դա հանգեցնում է նույն արդյունքին՝ մասնատված տեսանելիություն, տագնապի աղմուկ և մեկ միասնական տեղ չկա, որտեղ կարելի է պատասխանել «ի՞նչ արհեստական բանականություն ենք մենք իրականում օգտագործում և արդյո՞ք այն անվտանգ է» հարցին։
Հայտնաբերումը առանց վերականգնման պարզապես ցույց է տալիս, թե որտեղ է հրդեհը։ Վերականգնումը առանց հայտնաբերման նշանակում է, որ դուք շտկում եք կոդը, մինչդեռ ստվերային MCP սերվերները և չհաստատված գործակալները անվերահսկելիորեն աշխատում են դրա կողքին։ Արհեստական բանականության անվտանգությունը պետք է ծածկի երկուսն էլ՝ նույն հարթակում, հակառակ դեպքում դա դիրքի կառավարում չէ։ Դա dashboard.
Ավելի լավ միջոց. Արհեստական ինտելեկտի անվտանգության կեցվածքի կառավարում, որը հայտնաբերում, հայտնաբերում և շտկում է սխալները
Քսիգենի AI անվտանգություն փակում է այս օղակը ամբողջ արհեստական բանականության դարաշրջանում SDLC, մոդելից և MCP սերվերից մինչև մշակողի վերջնակետը։
- Բացահայտեք: AI-SPM-ը կազմակերպությունում արհեստական բանականության յուրաքանչյուր ակտիվի՝ մոդելների, տվյալների հավաքածուների, գործակալների, MCP սերվերների, իրական գույքագրում է կազմում։ Այն ապացուցում է, որ գույքագրումը ԱԻ-ԲՈՄ, ապացույցների բազայի աուդիտորներն ու կարգավորող մարմինները ավելի ու ավելի են պահանջում, լինի դա ԵՄ արհեստական բանականության մասին օրենքի համաձայն բարձր ռիսկային համակարգերի տեխնիկական փաստաթղթեր, թե Իսպանիայի ENS-ի նման շրջանակներով պահանջվող ակտիվների գույքագրումներ։
- Հայտնաբերել։ AI Security-ն գնահատում է յուրաքանչյուր ակտիվ՝ համեմատած իրական ռիսկի հետ՝ արագ ներարկում, անապահով MCP կոնֆիգուրացիաներ, տվյալների բացահայտում, համապատասխանեցված OWASP-ի լավագույն 10-յակը LLM դիմումների համարԳտածոները դասակարգվում են, այլ ոչ թե դասավորվում հերթում։
- Ուղղել, կետում կոդը գրված է։ Ահա թե որտեղ է արհեստական բանականության կողմից ստեղծված code security իրականում լուծվում է։ Xygeni DevAI աշխատում է որպես IDE-ի ներսում անընդհատ շերտ՝ սկանավորելով աստիճանաբար, քանի որ մշակողները աշխատում են մարդու կողմից գրված և արհեստական բանականության կողմից ստեղծված կոդի հետ։ Այն կատարում է գործակալական արհեստական բանականության խոցելիությունների հայտնաբերում, քարտեզագրում Արհեստական բանականության կողմից կառավարվող հարձակման ուղիներ ցույց տալու համար, թե ինչպես կարելի է իրականում շահագործել թերությունը, և տրամադրում է արհեստական բանականության կողմից ստեղծված անվտանգ շտկումներ, որոնք ստուգվում են շահագործելիության և խափանման ռիսկի տեսանկյունից, նախքան մշակողի կողմից դրանք կիրառելը։ Guardrails Ստուգեք փոփոխությունները անվտանգության և համապատասխանության քաղաքականությանը համապատասխան, նախքան դրանք CI-ին հասնելը, և նվիրված DevAI գործակալը կասեցնում է այն, ինչ մյուս գործակալները պատրաստվում են անել. վավերացրեք հմտությունների և կանոնների ֆայլերը, ստուգեք գործակալի կողմից տեղադրվող յուրաքանչյուր փաթեթ վնասակար ծրագրերի և անկանոն նստեցման օրինաչափությունների դեմ, և հետևեք MCP գործիքի վարքագծին թունավորումների առկայության համար՝ այս ամենը գործարկումից առաջ։
- Կիրառել։ Shield Նույն քաղաքականությունը տարածվում է մշակողի վերջնակետի վրա՝ արգելափակելով անվտանգ արհեստական բանականության գործունեությունը նախքան դրա գործարկումը։
Եվ քանի որ Արհեստական ինտելեկտի տեսակավորում, Բացատրությունը և Վերականգնումը վերաբերում են ոչ միայն Xygeni-ի սեփական գտածոներին, այլև արդեն իսկ առկա գործիքներից ստացված ամեն ինչին, թիմերը դա ստանում են առանց արդեն իսկ ներդրվածը կորցնելու։
Ծանոթացեք Xygeni-ի հետ OWASP AppSec Days Portugal 2026-ում
Մենք այս զրույցը տեղափոխում ենք Պորտո։ Քսիգենի ոսկե հովանավոր է OWASP AppSec Days Պորտուգալիա 2026, վազում Սեպտեմբեր 23-24 Fundação António Cupertino de Miranda-ում:
Մենք միջոցառմանը կքննարկենք արհեստական բանականության անվտանգության կեցվածքի կառավարումը գործնականում. ինչպես են թիմերը հայտնաբերում արհեստական բանականության այնպիսի ակտիվներ, որոնց մասին չգիտեին, ինչպես են արհեստական բանականության կողմից ստեղծված... code security տեղավորվում է արդեն իսկ գոյություն ունեցող AppSec ծրագրի մեջ, այլ ոչ թե դրա կողքին, և ինչպիսին է MCP-ի և գործակալային սպառնալիքների ներկայիս ալիքը իրականում։
Եթե դուք մասնակցում եք, Եկեք և գտեք Xygeni թիմին 12-րդ տաղավարում։ Եթե ձեր ճանապարհային քարտեզում արհեստական բանականության անվտանգության հետ կապված խնդիր կա, և դուք չեք կարող հասնել Պորտո, մենք ուրախ կլինենք անմիջապես ծանոթանալ դրան։ Նույն օրերին մենք նաև... Գերմանական OWASP օր 2026 Կարլսրուեում, խոսելով AI Security-ի միջոցով և Shieldմասնավորապես՝ ի կիրառման շերտը։
Պատվիրեք հանդիպում մեզ հետ!
ՀՏՀ
- Ի՞նչ է արհեստական բանականության անվտանգության կեցվածքի կառավարումը (AI-SPM):
Արհեստական բանականությունը (AI-SPM) կազմակերպության կողմից գործարկվող յուրաքանչյուր արհեստական բանականության ակտիվի՝ մոդելների, տվյալների հավաքածուների, գործակալների և MCP սերվերների, ռիսկի հայտնաբերման, գույքագրման և անընդհատ գնահատման ոլորտ է՝ նույն կերպ, ինչպես CSPM-ն է անում ամպային, իսկ DSPM-ն՝ տվյալների համար։ Gartner-ը այն սահմանել է որպես կատեգորիա իր 2025 թվականի տվյալների անվտանգության գովազդային ցիկլում։ Xygeni-ի AI-SPM-ը կառուցում է այդ գույքագրումը և այն հիմնավորում AI-BOM-ով՝ անվտանգության և համապատասխանության թիմերին տրամադրելով ապացույցներ, որոնք նրանք կարող են տրամադրել աուդիտորին։
- Ի՞նչն է դարձնում արհեստական բանականության կողմից ստեղծվածը code security ավանդականից տարբերվող SAST or SCA?
Ավանդական ստատիկ վերլուծությունը և կախվածությունների սկանավորումը մշակվել են կոդը և փաթեթները հասկանալու համար, այլ ոչ թե արհեստական ինտելեկտի հետ կապված ռիսկերը: Դրանք չեն տեսնում արագ ներարկում, չարամիտ կանոններ կամ հմտությունների ֆայլեր, MCP գործիքների թունավորում կամ անփույթ փաթեթների անուններ, որոնք արհեստական ինտելեկտի օգնականը կարող է տեղադրել: Արհեստական ինտելեկտի կողմից ստեղծված code security պետք է տեղակայված լինի նույն աշխատանքային հոսքի մեջ, որն արդեն օգտագործում են մշակողները՝ միասին սկանավորելով ինչպես մարդու կողմից գրված, այնպես էլ արհեստական բանականության կողմից ստեղծված կոդը, ինչը Xygeni DevAI-ն անում է IDE-ի ներսում։
- Ինչո՞ւ է արհեստական բանականության կողմից ստեղծված կոդի մոտ 40%-ը պարունակում խոցելիություններ։
Արհեստական ինտելեկտի կոդավորման օգնականները սովորում և վերարտադրում են իրենց մարզման տվյալների, այդ թվում՝ ոչ անվտանգ օրինաչափությունները, օրինաչափությունները, և նրանք կոդ են ստեղծում շատ ավելի արագ, քան ձեռքով վերանայումը կարող է հետևել դրան: Անկախ հետազոտությունները մշտապես հայտնաբերել են OWASP-ի 10 լավագույն խոցելիությունների բարձր մակարդակներ արհեստական ինտելեկտի կողմից ստեղծված նմուշներում, որտեղ որոշակի թերությունների կատեգորիաներ, ինչպիսին է խաչաձև սկրիպտավորումը, հայտնվել են թեստերի մեծ մասում:
- Արդյո՞ք AI-SPM-ը փոխարինում է մեր առկա AppSec գործիքներին։
Ոչ, և չպետք է փորձի դա անել։ Xygeni-ի արհեստական ինտելեկտի տեսակավորումը, բացատրությունը և վերականգնումը վերաբերում են Xygeni-ի սեփական սկաներներից ստացված արդյունքներին և արդեն իսկ առկա երրորդ կողմի գործիքներից ստացված արդյունքներին, ուստի թիմերը ստանում են արհեստական ինտելեկտի ռիսկերի միասնական ծածկույթ՝ առանց արդեն իսկ ներդրված միջոցների փոխարինման։
- Որտե՞ղ կարող եմ սա տեսնել գործողության մեջ։
Xygeni-ն OWASP AppSec Days Portugal 2026-ի ոսկե հովանավորն է։, սեպտեմբերի 23-24-ը Պորտուում, և թիմը տեղում կլինի կրպակ 12 խոսելով արհեստական բանականության (AI-SPM) միջոցով, արհեստական բանականության կողմից ստեղծված code securityև MCP-ի և գործակալների սպառնալիքների ներկայիս ալիքը։ Ստացեք ձեր տոմսը կամ կապվեք անմիջապես, եթե չեք կարողանում հասնել Պորտո։
Նույն շաբաթ մենք նաև Գերմանական OWASP օր 2026 Կարլսրուեում, կենտրոնանալով արհեստական բանականության անվտանգության և Shield-ի կիրառման շերտը։
