OWASP գործակալական արհեստական ​​բանականություն՝ լավագույն 10-ը

OWASP գործակալական արհեստական ​​բանականության լավագույն 10-յակի բացատրությունը՝ ASI01–ASI10

TL. DR

Ի՞նչ է նշանակում OWASP-ի գործակալական արհեստական ​​բանականության լավագույն 10-յակը ձեր համար pipeline

Իրավագիտության մագիստրոսական աստիճանը, որը սխալ է ասում, բովանդակության խնդիր է։ Գործակալը, որը սխալ է անում, անվտանգության միջադեպ է։ OWASP Agentic AI Top 10-ը երկրորդի քարտեզն է։

  • Թե դա ինչ է: OWASP գործակալական արհեստական ​​բանականության լավագույն 10-յակը (պաշտոնապես OWASP-ի 2026 թվականի գործակալական կիրառությունների լավագույն 10-յակը) թվարկում է տասը ռիսկ, որոնք բնորոշ են արհեստական ​​բանականության գործակալներին, որոնք պլանավորում, կանչում են գործիքներ, պահպանում հիշողություն և գործում են ձեր անունից: Կոդերը սկսվում են ASI01-ից և ավարտվում ASI10-ով:
  • Ինչպես է այն կապված. Այն ընդլայնում է OWASP LLM Top 10-ը, այլ ոչ թե փոխարինում այն: LLM ցանկը ներառում է, թե ինչ է ասում մոդելը, իսկ գործակալական ցանկը՝ ինչ է անում գործակալը:
  • Որտեղ է այն մտնում. իրական pipeline, այս ռիսկերը գալիս են չորս դռնով. IDE, երրորդ կողմի գործակալի բաղադրիչներ, ձեր սեփական գործակալի կոդը և արտադրական գործարկման ժամանակը։
  • Ինչ կարող եք բռնել. Տասից վեցը մատնահետքեր են թողնում կոդում և կոնֆիգուրացիայում, այնպես որ դուք կարող եք դրանք կանգնեցնել տեղակայումից առաջ: Մյուս չորսը պահանջում են կատարման ժամանակի նախագծման կառավարման տարրեր, և դրանցից յուրաքանչյուրը սկսվում է նրանից, թե որ գործակալներն եք գործարկում:

Առաջին քայլը. Գույքագրեք յուրաքանչյուր գործակալ, գործիք, MCP սերվեր և հմտություն, այնուհետև CI-ում մուտքագրեք նոր գործակալի կոդը՝ ASI կոդերին պիտակավորված արդյունքներով։

Ինչու է OWASP-ի գործակալական արհեստական ​​բանականության լավագույն 10-յակը կարևոր. ձերը pipeline ունի նոր commitտեր

Մեկ տարի առաջ ձեր պահոցներում գտնվող կոդը գալիս էր մարդկանցից: Այսօր դրանց աճող մասը գալիս է արհեստական ​​բանականության գործակալներից՝ կոդավորման օգնականներ, որոնք տեղադրում են կախվածություններ, գործակալներ, որոնք բացում են pull requestsև գործակալական շրջանակներ, որոնք ներառված են ձեր սեփական արտադրանքների մեջ՝ իրենց գործիքներով, հիշողությամբ և լիազորագրերով։ Ահա թե ինչի համար է գրվել OWASP Agentic AI Top 10-ը։

Դա փոխում է սպառնալիքի մոդելը։ Իրավագիտության մասնագետը, որը սխալ բան է ասում, բովանդակության խնդիր է։ Գործակալը, որը սխալ բան է անում (ջնջում է տվյալները, արտահոսում է թոքեն, տեղադրում է թունավորված փաթեթ), անվտանգության միջադեպ է։

OWASP Agentic AI Top 10-ը երկրորդ տեսակի խնդրի համար առաջին համատեղ օգտագործվող բառապաշարն է: Բացատրողների մեծ մասը կանգ է առնում սահմանումների վրա: Սա յուրաքանչյուր ռիսկը համեմատում է այն վայրի հետ, որտեղ այն իրականում մտնում է ձեր մեջ: pipeline, և թե ինչ կարող եք անել դրա հետ տեղակայումից առաջ։

Ո՞րն է OWASP գործակալական արհեստական ​​բանականության լավագույն 10-յակը։

OWASP Agentic AI Top 10-ը արհեստական ​​բանականության գործակալների տասը ամենակարևոր անվտանգության ռիսկերի փորձագիտական ​​​​գրախոսության տակ գտնվող ցանկ է՝ համակարգեր, որոնք պլանավորում են, կանչում գործիքներ, պահպանում հիշողություն և գործում են պատվիրակված լիազորություններով: Դրա պաշտոնական անվանումն է OWASP-ի 2026 թվականի գործակալական կիրառությունների լավագույն 10-յակըOWASP GenAI անվտանգության նախագիծը հրապարակել է այն 2025 թվականի դեկտեմբերի 9-ին՝ իր Agentic Security Initiative-ի միջոցով, որտեղից էլ ծագել է ASI նախածանցը։

Դա դեռ երիտասարդ է standardՍա դրա առաջին հրատարակությունն է։ Յուրաքանչյուր գրառում հետևում է OWASP-ի ծանոթ ձևաչափին՝ նկարագրությամբ, տարածված օրինակներով, հարձակման սցենարներով և կանխարգելման ուղեցույցներով։ OWASP-ի կենտրոնական նախագծային խորհուրդը ներառում է բոլոր տասը գրառումները՝ խուսափել գործակալներին առաջադրանքից ավելի շատ ինքնավարություն տալուց և դիտարկելիությունը համարել պարտադիր։

Գործակալական լավագույն 10-ը ընդդեմ LLM լավագույն 10-ի

Գործակալների ցանկը չի փոխարինում OWASP-ի լավագույն 10-յակը LLM դիմումների համարԱյն հիմնված է դրա վրա, և դրա գրառումները ուղղակիորեն հղում են կատարում LLM ռիսկերին: Պարզ կանոն.

ՀարթությունOWASP LLM-ի լավագույն 10-ըOWASP գործակալական արհեստական ​​բանականություն՝ լավագույն 10-ը
ԿենտրոնանալԻնչ է ասում մոդելըԻնչ է անում գործակալը
Տիպիկ ձախողումՄանիպուլացված կամ արտահոսած պատասխանՄանիպուլացված նպատակ, գործիքի կանչ կամ գործողություն
Վերաբերում էՉաթբոտներ, RAG հավելվածներ, ցանկացած LLM գործառույթԳործակալներ գործիքներով, հիշողությամբ, լիազորությունների պատվիրակմամբ կամ այլ գործակալներով
CodesLLM01-ից մինչև LLM10ASI01-ից մինչև ASI10

Եթե ​​ձեր դիմումը պատասխանում է միայն հարցերին, ապա LLM ցուցակը ձեզ համար է։ Հենց որ այն կարողանա գործողություններ ձեռնարկել, ձեզ անհրաժեշտ կլինեն երկուսն էլ։ Մեր ուղեցույցը մոդելի արդյունահանման հարձակումներ մանրամասն ցույց է տալիս մեկ LLM լավագույն 10 ռիսկերը։

OWASP գործակալական արհեստական ​​բանականության լավագույն 10-յակը, բացատրությունը. ASI01-ից մինչև ASI10 իրականում pipelines

Ահա OWASP Agentic AI Top 10-ի յուրաքանչյուր ռիսկը՝ պարզ լեզվով, որին հաջորդում է, թե ինչ տեսք ունի այն կոդային բազաներում և pipelineոր մենք տեսնում ենք ամեն օր։

ASI01: Գործակալի նպատակի առևանգում

Հարձակվողը փոխում է գործակալի նպատակը՝ փաստաթղթում, էլեկտրոնային նամակում, վեբ էջում կամ մեկ այլ գործակալի հաղորդագրության մեջ ներարկված հրահանգների միջոցով։ Գործակալները դժվարանում են տարբերակել հրահանգները բովանդակությունից, ուստի ներդրված տեքստը կարող է վերահղել ամբողջ բազմաքայլ պլանը։

Ձեր մեջ pipeline: գործակալ, որը ամփոփում է pull requests կարդում է թաքնված հրահանգներ պարունակող PR նկարագրությունը և սկսում է հաստատել կամ արտահոսել՝ ամփոփելու փոխարեն։

ASI02: Գործիքների չարաշահում և շահագործում

Գործակալը օգտագործում է իրեն թույլատրված գործիք, բայց վնասակար ձևով՝ ջնջելով տվյալները, ցիկլի ընթացքում կանչելով թանկարժեք API-ը կամ ուղարկելով տեղեկատվություն։ Արտոնություն չի տրամադրվում. օրինական մուտքը պարզապես ուղղվում է սխալ թիրախի։

Ձեր մեջ pipeline: shell մուտք ունեցող կոդավորող գործակալը մաքրման հրաման է գործարկում սխալ գրացուցակի դեմ։

ASI03: Ինքնության և արտոնությունների չարաշահում

Գործակալները ժառանգում են լիազորագրեր, սեսիաներ և դերեր, և հարձակվողները օգտագործում են այդ պատվիրակման շղթաները՝ հասնելու այն բանին, ինչին նրանք չէին կարող անմիջապես հասնել: Հիմնական պատճառը մարդկանց համար կառուցված ինքնության համակարգերն են, որոնք կիրառվում են ինքնուրույն գործող ծրագրային ապահովման վրա:

Ձեր մեջ pipeline: Գործակալի կոնֆիգուրացիան պարունակում է երկարատև օգտագործման թոքեն՝ կազմակերպության ողջ տարածքում գործողությամբ, որը համատեղ օգտագործվում է մի քանի գործիքների կողմից։

ASI04: Գործակալական մատակարարման շղթայի խոցելիություններ

Գործակալների կողմից բեռնվող մոդելները, գործիքները, պլագինները, MCP սերվերները, հմտությունները և հուշումները գալիս են երրորդ կողմերից, և դրանցից յուրաքանչյուրը կարող է վնասակար լինել կամ կեղծվել։ Դասական կախվածություններից տարբերվող գործակալները հաճախ հավաքում են այս բաղադրիչները կատարման ժամանակ։

Ձեր մեջ pipeline: Մշակողը տեղադրում է տպագրված գործակալի հմտություն, որի հրահանգները գործակալին ասում են կարդալ մուտքային տվյալները և դրանք տեղադրել արտաքին միջավայրում։

ASI05: Անսպասելի կոդի կատարում (RCE)

Գործակալը ստեղծում կամ ակտիվացնում է կոդ, որը չպետք է աշխատի այնտեղ, որտեղ չպետք է աշխատի՝ shell հրամաններ, deserialized օբյեկտներ, շաբլոնային շարժիչներ, eval մոդելի արդյունքի վրա։ Արդյունքը կարող է լինել ամբողջական հոսթի կամ կոնտեյների վնասում։

Ձեր մեջ pipeline: LLM-ի արդյունքը հոսում է ուղիղ դեպի eval, կամ գործակալը բեռնում է անվստահելի տվյալների հավաքածու՝ pickle.load.

ASI06: Հիշողության և համատեքստի թունավորում

Հարձակվողները վնասակար տվյալներ են ներթափանցում գործակալի երկարատև հիշողության, ամփոփագրերի կամ RAG պահեստների մեջ, ուստի յուրաքանչյուր ապագա decisԻոնը աղավաղված է։ Ի տարբերություն միանվագ արագ ներարկման, վնասը շարունակվում է բոլոր սեսիաների ընթացքում։

Ձեր մեջ pipeline: RAG ռետրիվերը կլանում է արտաքին փաստաթղթեր առանց ախտահանման, և մեկ թունավորված էջ ձևավորում է հաջորդող յուրաքանչյուր պատասխանը։

ASI07: Անապահով միջգործակալային հաղորդակցություն

Գործակալները փոխանակվում են հաղորդագրություններով՝ առանց նույնականացման, ամբողջականության ստուգման կամ վավերացման, ուստի հաղորդագրությունները կարող են կեղծվել, ընդհատվել կամ փոփոխվել: Նույն հրահանգը կարող է նաև տարբեր կերպ կարդացվել տարբեր գործակալների կողմից:

Ձեր մեջ pipeline: Պլանավորող գործակալը առաջադրանքներ է ընդունում ներքին ցանցի ցանկացած ծառայությունից, որը խոսում է իր արձանագրությամբ։

ASI08: Կասկադային ձախողումներ

Մեկ խափանում (հալյուցինացիա, թունավորված հիշողություն, վնասված գործիք) տարածվում է գործակալների և աշխատանքային հոսքերի միջև ավելի արագ, քան մարդիկ կարող են արձագանքել: OWASP-ը կիրառում է այս կատեգորիան, երբ վնասը տարածվում է սկզբնական խախտումից այն կողմ:

Ձեր մեջ pipeline: Մեկ գործակալը գրում է վատ կոնֆիգուրացիա, երկրորդը տեղակայում է այն, երրորդը տարածում է այն բոլոր տարածաշրջաններում: Մենք քննարկեցինք, թե ինչպես զսպել այդ պայթյունի շառավիղը մեր Blast Radius SafeDev Talk.

ASI09: Մարդ-գործակալ վստահության շահագործում

Մարդիկ վստահում են վստահելի, լավ բացատրված գործակալի արդյունքին, և հարձակվողները կամ թերի նախագծերը շահագործում են այդ վստահությունը՝ դեֆոլտը կառավարելու համար։cisիոններ։ Մարդը կատարում է վերջնական գործողությունը, ուստի գործակալի դերը կարող է անհետանալ աուդիտի հետքից։

Ձեր մեջ pipeline: Վերանայողը հաստատում է գործակալի pull request որովհետև բացատրությունը ճիշտ է հնչում՝ առանց տարբերությունը ստուգելու։

ASI10: Անօրինական գործակալներ

Գործակալը շեղվում է իր նախատեսված գործառույթից և շարունակում է գործել վնասակար, խաբուսիկ կամ իր սահմաններից դուրս։ Յուրաքանչյուր գործողություն կարող է օրինական թվալ, սակայն ընդհանուր վարքագիծը՝ ոչ։ ASI10-ը վերաբերում է շեղման սկսվելուց հետո վերահսկողության կորստին, այլ ոչ թե սկզբնական ներխուժմանը։

Ձեր մեջ pipeline: Գործակալը շարունակում է օգտագործել թույլտվությունները իր առաջադրանքի ավարտից հետո՝ աննկատ ընդլայնելով այն, ինչին դիպչում է։

Տասը ռիսկերից ASI04-ն այն ռիսկն է, որի հետ թիմերի մեծ մասն արդեն ամեն օր բախվում է. կոդավորող գործակալները ընտրում և տեղադրում են փաթեթներ՝ առանց որևէ մեկի կողմից վերանայելու, թե ինչ է ստացվում։ Մենք հենց դա էլ քննարկել ենք վերջերս SafeDev Talk-ում։ Նայեք։

Որտեղ է OWASP-ի գործակալական արհեստական ​​բանականության լավագույն 10-յակը մտնում ձեր մեջ pipeline

Տասը ռիսկերը մեկ դռնով չեն գալիս։ Դրանք չորսով են գալիս, և յուրաքանչյուր դուռ կարիք ունի իր սեփական վերահսկողության։

Մուտքի կետԻնչ է մտնումASI ռիսկերՈրտեղ դադարեցնել այն
Մշակողի IDE և աշխատանքային կայանԿոդավորող գործակալներ, MCP սերվերներ, հմտություններ, գործակալների տեղադրած փաթեթներASI04, ASI05Աշխատանքային կայանում, տեղադրումից առաջ
Երրորդ կողմի գործակալի բաղադրիչներՄոդելներ, գործիքներ, հավելվածներ, գրանցամատյաններից ստացված հուշումներASI04, ASI06Գույքագրում և վերանայում, ընդունումից առաջ
Ձեր սեփական գործակալի կոդըԳործակալների շրջանակներ, հուշումներ, գործիքների սահմանումներ, հավատարմագրեր, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Ստատիկ վերլուծություն, pull requests և CI
Արտադրության աշխատանքային ժամանակահատվածԳործակալները գործում են, խոսում միմյանց հետ, աշխատում մարդկանց հետASI07, ASI08,
ASI09, ASI10
Ճարտարապետություն, մոնիթորինգ և անջատիչներ

Այս օրինաչափությունը կարևոր է OWASP Agentic AI Top 10-ի կիրառման համար: Առաջին երեք դռները թողնում են ապացույցներ կոդի և կոնֆիգուրացիայի մեջ, ինչը նշանակում է, որ դուք կարող եք գտնել և արգելափակել դրանք նախքան որևէ բան ուղարկելը: Չորրորդը կախված է կատարման ժամանակի վարքից, ուստի այն հիմնված է դիզայնի ընտրության վրա՝ նվազագույն գործակալություն, ստորագրված հաղորդագրություններ, մարդու հաստատում բարձր ազդեցության գործողությունների համար և ցանկացած գործակալի արագ չեղարկման հնարավորություն:

Նույնիսկ կատարման ժամանակի կառավարման տարրերը կախված են մեկ բանից, որը դուք ստեղծել եք ավելի վաղ՝ ինվենտարից։ Դուք չեք կարող «կախելու» կոճակ դնել այնպիսի գործակալի վրա, որի գոյության մասին չգիտեք։

Ինչպես է Xygeni-ն հայտնաբերում OWASP-ի գործակալական արհեստական ​​բանականությունը։ Տեղակայումից առաջ 10 լավագույն ռիսկերը։

Xygeni AI անվտանգություն Սկանավորում է ձեր հավելվածների կառուցված արհեստական ​​բանականության բաղադրիչները՝ անմիջապես սկզբնական կոդից: Յուրաքանչյուր արդյունք կրում է իր OWASP LLM Top 10 կատեգորիան և, որտեղ կիրառելի է, իր OWASP Agentic AI Top 10 կոդը, որպեսզի ձեր թիմը և ձեր աուդիտորները արդյունքները կարդան նույն լեզվով:

OWASP գործակալական արհեստական ​​բանականության լավագույն 10-յակի լուսաբանումը սկսվում է գույքագրից: AI Security-ն հայտնաբերում է գործակալներ, մոդելներ, գործիքներ, MCP սերվերներ, հմտություններ, հուշումներ, guardrails, վեկտորային պահեստներ և տվյալների բազմություններ ձեր պահոցներում, և քարտեզագրում է, թե ինչպես են դրանք միանում՝ որ գործակալն է օգտագործում որ մոդելը, որ գործիքներն է գործարկում և որ MCP սերվերներին է կանչում: Ինվենտարը արտահանվում է որպես CycloneDX 1.6 ML-BOM:

Xygeni AI անվտանգություն

Ինչ է Xygeni-ն հայտնաբերում տեղակայումից առաջ՝ ASI ռիսկի միջոցով

Յուրաքանչյուր գտածո պիտակավորված է իր OWASP կոդով, որպեսզի ձեր թիմը և ձեր աուդիտորները այն կարդան նույն լեզվով։

ASI01

Գործակալի գոլի առևանգում

Արագ ներարկման մակերեսներ, նյութեր, որոնք կլանում են արտաքին պարունակություն առանց ախտահանման, հուշումներ, որոնք վերցված են լողացող պիտակների վրա գրանցամատյաններից։

ASI02

Գործիքի չարաշահում

Գործիքներ կանչող գործակալներ առանց մուտքագրման guardrails, գումարած յուրաքանչյուր ակտիվի համար այնպիսի հնարավորությունների դիտում, ինչպիսիք են կոդի կատարումը և ավտոմատ կատարումը։

ASI03

Ինքնության և արտոնությունների չարաշահում

Ստատիկ երկարատև մուտքային տվյալներ գործակալի կարգավորումներում, մուտքային տվյալներ, որոնք համօգտագործվում են առանց շրջանակի նեղացման, բարձրացված արտոնություններով MCP և գործիքային սերվերներ և հուշումների ֆայլերում գաղտնի տվյալներ։

ASI04

Գործակալական մատակարարման շղթա

Վնասակար կամ սխալ գրված հմտություններ՝ SAFE / CAUTION / DO_NOT_INSTALL դատավճռով; մոդելի բեռնումը անվտանգ չէ (trust_remote_code=True); յուրաքանչյուր բաղադրիչի AI-BOM։

ASI05

Անսպասելի կոդի կատարում

LLM ելքից աղտոտվածությունը հոսում է դեպի eval և անվստահելի տվյալների հավաքածուներից դեպի pickle.load, Python-ում և JavaScript-ում; շաբլոնի ներարկումը հանգեցնում է RCE-ի։

ASI06

Հիշողության և համատեքստի թունավորում

Չախտահանված RAG ռետրիվերներ, վեկտորային և ներդրման թույլ կողմեր ​​(LLM08):

ASI07-ից մինչև ASI10

Գործողության ժամանակի վարքագիծ

Գործողության ընթացքում ի հայտ են գալիս գործակալների միջև հաղորդակցություն, կասկադային խափանումներ, մարդկային վստահություն և անբարեխիղճ գործակալներ: Xygeni-ն ձեզ տրամադրում է այն գույքագրման և հարաբերությունների գրաֆիկը, որից կախված են այդ գործարկման կառավարման համակարգերը:

Այդ միջուկի շուրջը.

  • Հմտությունների և գործակալի հրահանգների իմաստաբանական վերանայում։ Ըստ ցանկության, վերարտադրելի LLM վերանայումը գնահատում է նպատակը SKILL.md և AGENTS.md ֆայլեր, բռնելով միայն արձակի տեսքով վնասակար հրահանգներ, որոնք ոչ մի ստորագրություն չի կարող տեսնել: Այն կարող է աշխատել ինքնահաստատված մոդելով:
  • Փակեք այն CI-ում։   xygeni ai սկաները աշխատում է ձեր pipeline և ձախողում է կառուցվածքը, երբ առկա են արդյունքներ: Սկսեք միայն հաշվետվության ռեժիմով, ապա փակեք դարպասը կրիտիկական ռեժիմում:
  • Անվտանգություն գործակալի օղակի ներսում։ DevAI Xygeni սկանավորումները, տեսակավորումը և ուղղումները բերում է IDE և AI կոդավորող գործակալների մեջ՝ Xygeni MCP սերվեր.
  • Պաշտպանեք աշխատանքային կայանը։ Shield արգելափակում է վնասակար փաթեթները մշակողների մեքենաների վրա՝ նախքան դրանք ներբեռնելը, անկախ նրանից, թե ով է գործարկում տեղադրումը, և յուրաքանչյուր բլոկ վերագրում է այն գործընթացին և հրամանին, որը գործարկել է այն։
  • Արագ շտկել։ Արհեստական ​​բանականության տեսակավորումը առաջնահերթություն է տալիս հայտնաբերված տվյալներին, իսկ Արհեստական ​​բանականության շտկման համակարգը ստեղծում է շտկման ուղեցույց OWASP LLM յուրաքանչյուր կատեգորիայի համար։

OWASP գործակալական արհեստական ​​բանականության լավագույն 10 պատրաստվածության ստուգաթերթիկ

  1. Գրապահոց: թվարկեք ձեր պահոցներում առկա յուրաքանչյուր գործակալ, մոդել, գործիք, MCP սերվեր և հմտություն և պահեք ցուցակը թարմացված ամեն օր։ commit.
  2. Նվազագույն գործակալություն՝ յուրաքանչյուր գործակալին տալ միայն իր առաջադրանքի համար անհրաժեշտ ինքնավարությունն ու գործիքները, իսկ ապակառուցողական գործողությունների համար պահանջել մարդու հաստատումը։
  3. Մասնակի ինքնություն՝ փոխարինել երկարատև, համատեղ օգտագործվող գործակալի մուտքային տվյալները կարճատև, յուրաքանչյուր գործակալի համար նախատեսված տոկեններով։
  4. Անվստահելի մուտքագրում՝ Յուրաքանչյուր փաստաթուղթ, վեբ էջ, էլեկտրոնային նամակ և գործակալի հաղորդագրություն համարեք անվստահելի, նախքան դրանք կձևավորեն նպատակ կամ գործիքի կանչ։
  5. Ստուգված բաղադրիչներ՝ Վերանայել հմտությունները, MCP սերվերները և մոդելները մինչև ընդունումը, ամրագրել տարբերակները և պահպանել AI-BOM։
  6. Անվտանգ կատարում չկա. արգելել eval մոդելի ելքի, sandbox կոդի կատարման վրա և երբեք գործակալներ չգործարկել որպես root:
  7. Մաքուր հիշողություն. ախտահանեք RAG պահեստներ և երկարատև հիշողություն մտնողը, և առանձնացրեք հիշողությունը ըստ օգտատիրոջ և համատեքստի։
  8. Դարպաս CI-ում. սկանավորեք գործակալի կոդը յուրաքանչյուրի վրա pull request և արդյունքները համեմատեք ASI կոդերի հետ։
  9. Դիտարկեք և պարունակեք. Գրանցեք գործակալի յուրաքանչյուր գործողություն և գործիքի կանչ, և համոզվեք, որ կարող եք արագ չեղարկել ցանկացած գործակալի։

Իմացեք, թե որ գործակալներին եք վարձում, նախքան նրանք գործեն

OWASP Agentic AI Top 10-ը ձեզ տրամադրում է քարտեզը: Առաջին քայլը նույնն է բոլոր տասը ռիսկերի համար. գտեք ձեր կոդում յուրաքանչյուր գործակալ, գործիք և հմտություն: Տեսեք, թե ինչպես է Xygeni AI Security-ն գույքագրում ձեր գործակալներին և համապատասխանեցնում արդյունքները ASI կոդերինԿամ գիրք ցուցադրել.

Հաճ. տրվող հարցեր

Ի՞նչ է նշանակում ASI-ն OWASP-ի գործակալական արհեստական ​​բանականության լավագույն 10-յակում։

ASI-ն նշանակում է Agentic Security Initiative (Գործակալների անվտանգության նախաձեռնություն), որը կազմել է ցուցակը OWASP GenAI Security Project թիմը: Յուրաքանչյուր ռիսկ կրում է ASI01 (Գործակալի նպատակի առևանգում) մինչև ASI10 (Անբարեխիղճ գործակալներ) կոդ, նույն կերպ, ինչպես LLM ցուցակն է օգտագործում LLM01-ից մինչև LLM10 կոդը:

Արդյո՞ք ինձ անհրաժեշտ է OWASP Agentic AI Top 10-ը, եթե արդեն հետևում եմ OWASP LLM Top 10-ին։

Միայն այն դեպքում, եթե ձեր արհեստական ​​բանականությունը կարող է գործել: Չաթբոտը կամ RAG հավելվածը, որը պարզապես պատասխանում է հարցերին, ընդգրկված է LLM Top 10-ում: Երբ ձեր հավելվածը կանչում է գործիքներ, պահպանում է հիշողությունը, լիազորում է այլ գործակալների կամ օգտագործում է լիազորագրեր, գործակալների ցանկը ներառում է այն ռիսկերը, որոնք LLM ցանկը չի ներառում:

Կարո՞ղ է ստատիկ վերլուծությունը հայտնաբերել OWASP գործակալական արհեստական ​​բանականության 10 լավագույն ռիսկերը։

Դրանցից շատերի համար՝ այո։ Նպատակների առևանգման մակերեսները, անպաշտպան գործիքները, գերարտոնված մուտքագրումները, չարամիտ հմտությունները, կոդի անվտանգ կատարումը և չախտահանված RAG մուտքագրումները՝ այս ամենը հետք է թողնում կոդում և կոնֆիգուրացիայում։ Գործող վարքագծից բխող ռիսկերը, ինչպիսիք են կասկադային ձախողումները և անբարեխիղճ գործակալները, պահանջում են կատարման ժամանակի կառավարման միջոցներ։

sca-tools-software-composition-analysis-tools
Առաջնահերթություն տվեք, շտկեք և պաշտպանեք ձեր ծրագրային ռիսկերը
Ստացեք ձեր անվճար հաշիվը։
Ոչ մի վարկային քարտ չի պահանջվում:

Ապահովեք ձեր ծրագրային ապահովման մշակումը և մատակարարումը

Xygeni Product Suite-ի հետ