የOWASP ወኪል የAI ከፍተኛ 10

የ OWASP ወኪል AI ከፍተኛ 10 ማብራሪያዎች፡ ASI01–ASI10

TL; DR

የ OWASP ወኪል AI ከፍተኛ 10 ለእርስዎ ምን ማለት ነው? pipeline

የሆነ ስህተት የሚናገር LLM የይዘት ችግር ነው። የሆነ ስህተት የሚሠራ ወኪል የደህንነት ክስተት ነው። የOWASP ወኪል AI ከፍተኛ 10 የሁለተኛው ካርታ ነው።

  • ምንድን ነው: የ OWASP ወኪል AI ከፍተኛ 10 (በይፋ) ለ2026 ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASP) የሚያቅዱ፣ መሳሪያዎችን የሚጠሩ፣ የማስታወስ ችሎታቸውን የሚጠብቁ እና በእርስዎ ምትክ የሚሰሩ የAI ወኪሎችን የሚመለከቱ አስር አደጋዎችን ይዘረዝራል። ኮዶቹ ከASI01 እስከ ASI10 ይሰራሉ።
  • እንዴት እንደሚዛመድ፦ የ OWASP LLM ከፍተኛ 10 ን ከመተካት ይልቅ ያራዝመዋል። የ LLM ዝርዝሩ አንድ ሞዴል ምን እንደሚል ይሸፍናል፤ የወኪሉ ዝርዝር አንድ ወኪል የሚያደርገውን ይሸፍናል።
  • የት እንደሚገባ፦ በእውነተኛ ውስጥ pipelineእነዚህ አደጋዎች የሚመጡት በአራት በሮች ነው፡ IDE፣ የሶስተኛ ወገን ወኪል ክፍሎች፣ የራስዎ ወኪል ኮድ እና የምርት ጊዜ።
  • ምን ሊይዙ ይችላሉ: ከአስርቱ ውስጥ ስድስቱ የጣት አሻራዎች በኮድ እና ውቅር ውስጥ ይተዋሉ፣ ስለዚህ ከማሰማራትዎ በፊት ማቆም ይችላሉ። ሌሎቹ አራቱ የሩጫ ጊዜ ዲዛይን መቆጣጠሪያዎች ያስፈልጋቸዋል፣ እና እያንዳንዳቸው የትኞቹን ወኪሎች እንደሚያሄዱ በማወቅ ይጀምራሉ።

የመጀመሪያው እርምጃ እያንዳንዱን ወኪል፣ መሳሪያ፣ የMCP አገልጋይ እና ክህሎት ይመዝግቡ፣ ከዚያም በCI ውስጥ አዲስ የወኪል ኮድ በASI ኮዶች መለያ የተደረገባቸውን ግኝቶች ያስገቡ።

የ OWASP ወኪል AI ከፍተኛ 10 አስፈላጊ የሆነው ለምንድነው፡ የእርስዎ pipeline አዲስ አለው committers

ከአንድ ዓመት በፊት፣ በማከማቻዎችዎ ውስጥ ያለው ኮድ የመጣው ከሰዎች ነው። ዛሬ፣ እየጨመረ የመጣ ድርሻ የሚመጣው ከAI ወኪሎች ነው፡ ጥገኝነቶችን የሚጭኑ የኮድ ረዳቶች፣ የሚከፍቱ ወኪሎች pull requestsእና በራሳቸው ምርቶች ውስጥ የሚላኩ የወኪል ማዕቀፎች፣ መሳሪያዎች፣ ማህደረ ትውስታ እና የምስክር ወረቀቶች። የ OWASP ወኪል AI ከፍተኛ 10 የተጻፈበት ለውጥ ይህ ነው።

ይህ የስጋት ሞዴሉን ይለውጣል። የሆነ ስህተት የሆነ ነገር የሚናገር LLM የይዘት ችግር ነው። የሆነ ስህተት የሚሰራ ወኪል (ውሂብን የሚሰርዝ፣ ቶከን የሚያፈስ፣ የተመረዘ ፓኬጅ የሚጭን) የደህንነት ክስተት ነው።

የ OWASP ወኪል AI ከፍተኛ 10 ለሁለተኛው ችግር የመጀመሪያው የጋራ የቃላት ዝርዝር ነው። አብዛኛዎቹ ማብራሪያዎች የሚቆሙት በትርጓሜዎች ላይ ነው። ይህ እያንዳንዱን አደጋ በትክክል ወደ እርስዎ የሚያስገባበትን ቦታ ያዛምዳል። pipelineእና ከማሰማራትዎ በፊት ምን ማድረግ እንደሚችሉ።

የ OWASP ወኪል AI ከፍተኛ 10 ምንድን ነው?

የ OWASP ወኪል AI ከፍተኛ 10 በ AI ወኪሎች ውስጥ ካሉት አስር በጣም ወሳኝ የደህንነት አደጋዎች መካከል በአቻ የተገመገመ ዝርዝር ነው፡ እነዚህም የሚያቅዱ፣ መሳሪያዎችን የሚጠሩ፣ የማስታወስ ችሎታቸውን የሚጠብቁ እና በውክልና ሥልጣን የሚሰሩ ስርዓቶች ናቸው። ኦፊሴላዊ ስሙ ለ2026 ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASPየ OWASP GenAI የደህንነት ፕሮጀክት በታህሳስ 9 ቀን 2025 በኤጀንቲካል ሴኩሪቲ ኢኒሼቲቭ በኩል አሳትሞታል፣ ይህም የ ASI ቅድመ ቅጥያ የመጣው እዚህ ላይ ነው።

አሁንም ገና ወጣት ነው standard: ይህ የመጀመሪያ እትሙ ነው። እያንዳንዱ ግቤት የሚታወቀውን የ OWASP ቅርጸት ይከተላል፣ መግለጫ፣ የተለመዱ ምሳሌዎች፣ የጥቃት ሁኔታዎች እና የመከላከያ መመሪያ አለው። የ OWASP ማዕከላዊ የዲዛይን ምክር በአስርቱም ውስጥ ያልፋል፡ ለተወካዮች ከተግባሩ ፍላጎት በላይ ነፃነት ከመስጠት ይቆጠቡ እና የመታየት ችሎታን እንደ ግዴታ ይቆጥሩ።

ኤጀንቲክ ቶፕ 10 ከኤልኤልኤም ቶፕ 10 ጋር ሲነጻጸር

የወኪል ዝርዝሩ የ ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP. በእሱ ላይ ይገነባል፣ እና ግቤቶቹ በቀጥታ የሚዛመዱ የ LLM አደጋዎችን ያስከትላሉ። ቀላል የአውራ ጣት ህግ፡

ስፉትየኦዋስፕ ኤልኤልኤም 10 ምርጥየOWASP ወኪል የAI ከፍተኛ 10
የትኩረትሞዴሉ ምን ይላልወኪሉ የሚያደርገው ነገር
የተለመደው ውድቀትየተዛባ ወይም የፈሰሰ ምላሽየተዛባ ግብ፣ የመሳሪያ ጥሪ ወይም እርምጃ
ይመለከታልቻትቦቶች፣ RAG መተግበሪያዎች፣ ማንኛውም የLLM ባህሪመሳሪያዎች፣ ማህደረ ትውስታ፣ ውክልና ወይም ሌሎች ወኪሎች ያላቸው ወኪሎች
ኮዶችከ LLM01 እስከ LLM10ከASI01 እስከ ASI10

ማመልከቻዎ ጥያቄዎችን ብቻ የሚመልስ ከሆነ፣ የLLM ዝርዝር እርስዎን ይሸፍናል። እርምጃ መውሰድ በሚችልበት ቅጽበት፣ ሁለቱንም ያስፈልግዎታል። የእኛ መመሪያ የሞዴል ማውጣት ጥቃቶች አንድ የLLM ከፍተኛ 10 ስጋትን በጥልቀት ያሳያል።

የ OWASP ወኪል AI ከፍተኛ 10፣ ተብራርቷል፡ በእውነተኛ ASI01 እስከ ASI10 pipelines

በ OWASP ወኪል AI ከፍተኛ 10 ውስጥ ያለው እያንዳንዱ አደጋ እዚህ አለ፣ ከዚያም በኮድ ቤዝ ውስጥ ምን እንደሚመስል እና pipelineበየቀኑ የምናየው ነው።

ASI01፡ የወኪል ጎል ጠለፋ

አንድ አጥቂ ወኪሉ በሰነድ፣ በኢሜል፣ በድረ-ገጽ ወይም በሌላ ወኪል መልእክት ውስጥ በመርፌ የተሰጡ መመሪያዎችን በመጠቀም ለማሳካት የሚሞክረውን ነገር ይለውጣል። ወኪሎች ከይዘቱ ውጪ መመሪያዎችን ለመለየት ይቸገራሉ፣ ስለዚህ የተተከለው ጽሑፍ ሙሉ ባለብዙ ደረጃ ዕቅድን ሊያዞር ይችላል።

በርስዎ ውስጥ pipeline: የሚያጠቃልል ወኪል pull requests የተደበቁ መመሪያዎችን የያዘ የህዝብ ግንኙነት መግለጫ ያነባል፣ እና ከማጠቃለል ይልቅ ማጽደቅ ወይም መፍሰስ ይጀምራል።

ASI02፡ የመሳሪያ አላግባብ መጠቀም እና ብዝበዛ

ወኪሉ ሊጠቀምበት የተፈቀደለትን መሳሪያ ይጠቀማል፣ ነገር ግን ጎጂ በሆነ መንገድ፡- ውሂብን መሰረዝ፣ ውድ የሆነ ኤፒአይን በአንድ ዙር መጥራት ወይም መረጃ ወደ ውጭ መላክ። ምንም መብት አይጨምርም፤ ህጋዊ መዳረሻ በቀላሉ ወደተሳሳተ ኢላማ ይመራል።

በርስዎ ውስጥ pipeline: የሼል መዳረሻ ያለው የኮድ ወኪል በተሳሳተ ማውጫ ላይ የጽዳት ትዕዛዝ ያሂዳል።

ASI03፡ የማንነት እና የልዩ መብት አላግባብ መጠቀም

ወኪሎች የምስክር ወረቀቶችን፣ ክፍለ ጊዜዎችን እና ሚናዎችን ይወርሳሉ፣ እና አጥቂዎች እነዚያን የውክልና ሰንሰለቶች በቀጥታ መድረስ ያልቻሉትን ለመድረስ ይጠቀማሉ። ዋናው ምክንያት ለሰዎች የተገነቡ እና በራሱ የሚሰራ ሶፍትዌር ላይ የሚተገበሩ የማንነት ስርዓቶች ናቸው።

በርስዎ ውስጥ pipeline: የወኪል ውቅር ድርጅትን የሚያካትት ረጅም ጊዜ የሚቆይ ቶከን ይይዛል፣ በተለያዩ መሳሪያዎች ላይ ይጋራል።

ASI04፡ የወኪል አቅርቦት ሰንሰለት ተጋላጭነቶች

ወኪሎች የሚጭኗቸው ሞዴሎች፣ መሳሪያዎች፣ ተሰኪዎች፣ የኤምሲፒ ሰርቨሮች፣ ክህሎቶች እና ጥያቄዎች ከሶስተኛ ወገኖች የመጡ ናቸው፣ እና አንዳቸውም ተንኮል አዘል ወይም ሊበላሹ ይችላሉ። ከክላሲክ ጥገኝነቶች በተለየ፣ ወኪሎች ብዙውን ጊዜ እነዚህን ክፍሎች በአሂድ ጊዜ ያሰባስቧቸዋል።

በርስዎ ውስጥ pipeline: አንድ ገንቢ የፊደል አጻጻፍ የተሳለበት የወኪል ክህሎት ይጭናል፤ መመሪያዎቹም ወኪሉ ምስክርነቶችን እንዲያነብና በውጭ እንዲለጥፋቸው ይነግሯቸዋል።

ASI05: ያልተጠበቀ የኮድ አፈፃፀም (RCE)

ወኪሉ የማይገባውን ኮድ ያመነጫል ወይም ያስጀምራል፤ የሼል ትዕዛዞች፣ የተገለሉ ነገሮች፣ የቴምፕል ሞተሮች፣ eval በሞዴል ውፅዓት ላይ። ውጤቱ ሙሉ አስተናጋጅ ወይም የኮንቴይነር ስምምነት ሊሆን ይችላል።

በርስዎ ውስጥ pipeline: የኤልኤልኤም ውጤት በቀጥታ ወደ ውስጥ ይፈስሳል evalወይም አንድ ወኪል የማይታመን የውሂብ ስብስብ የሚጭንበት pickle.load.

ASI06፡ የማስታወስ እና የአውድ መመረዝ

አጥቂዎች የወኪሉን የረጅም ጊዜ ማህደረ ትውስታ፣ ማጠቃለያዎች ወይም RAG በተንኮል አዘል መረጃዎች ያከማቻሉ፣ ስለዚህ ወደፊት የሚደረጉ ነገሮችcision የተዛባ ነው። ከአንድ ጊዜ የሚወሰድ ፈጣን መርፌ በተለየ መልኩ፣ ሙስናው በተለያዩ ክፍለ ጊዜዎች ውስጥ ይቀጥላል።

በርስዎ ውስጥ pipeline: የ RAG ሪትሪቨር ውጫዊ ሰነዶችን ያለ ንፅህና ይቀበላል፣ እና አንድ የተመረዘ ገጽ የሚከተለውን እያንዳንዱን መልስ ይቀርፃል።

ASI07፡ ደህንነቱ ያልተጠበቀ የኢንተር-ወኪል ግንኙነት

ወኪሎች ያለ ማረጋገጫ፣ የታማኝነት ፍተሻ ወይም ማረጋገጫ መልዕክቶችን ይለዋወጣሉ፣ ስለዚህ መልዕክቶች ሊታለሉ፣ ሊጠለፉ ወይም ሊለወጡ ይችላሉ። ተመሳሳይ መመሪያ በተለያዩ ወኪሎችም በተለየ መንገድ ሊነበብ ይችላል።

በርስዎ ውስጥ pipeline: የዕቅድ አውጪ ወኪል በውስጣዊ አውታረ መረብ ላይ ካለው ከማንኛውም አገልግሎት ፕሮቶኮሉን የሚናገር ተግባር ይቀበላል።

ASI08: የመሸጋገሪያ ውድቀቶች

አንድ ስህተት (ቅዠት፣ የተመረዘ የማስታወስ ችሎታ፣ የተበላሸ መሳሪያ) ሰዎች ከሚሰጡት ምላሽ በበለጠ ፍጥነት በወኪሎች እና በፍሰቶች ላይ ይሰራጫል። OWASP ጉዳቱ ከመጀመሪያው ጥሰት በላይ ሲነፍስ ይህንን ምድብ ይተገብራል።

በርስዎ ውስጥ pipeline: አንድ ወኪል መጥፎ ውቅር ይጽፋል፣ ሁለተኛው ያሰማራል፣ ሦስተኛው ደግሞ ወደ እያንዳንዱ ክልል ያወጣል። ያንን የፍንዳታ ራዲየስ በእኛ ውስጥ እንዴት መያዝ እንደሚቻል ተወያይተናል። የፍላት ራዲየስ SafeDev ቶክ.

ASI09፡ የሰው-ወኪል ትረስት ብዝበዛ

ሰዎች በራስ መተማመን፣ በሚገባ የተብራራ የወኪል ውጤትን ያምናሉ፣ እና አጥቂዎች ወይም ጉድለት ያለባቸው ዲዛይኖች ይህንን እምነት በመጠቀም ጥፋትን ይከላከላሉ።cisአየኖች። የሰው ልጅ የመጨረሻውን እርምጃ ያከናውናል፣ ስለዚህ የወኪሉ ሚና ከኦዲት ዱካ ሊጠፋ ይችላል።

በርስዎ ውስጥ pipeline: ገምጋሚ የአንድ ወኪልን ያጸድቃል pull request ምክንያቱም ልዩነቱን ሳያረጋግጡ ማብራሪያው ትክክል ይመስላል።

ASI10: ተንኮለኛ ወኪሎች

አንድ ወኪል ከታሰበለት ተግባር ይርቃል እና ጎጂ፣ አታላይ ወይም ከወሰን በላይ እርምጃ ይወስዳል። እያንዳንዱ እርምጃ ህጋዊ ሊመስል ይችላል፤ አጠቃላይ ባህሪው ግን አይደለም። ASI10 የሚባለው መንሸራተት ከጀመረ በኋላ ቁጥጥርን ስለማጣት ነው፣ ስለ መጀመሪያው ጣልቃ ገብነት አይደለም።

በርስዎ ውስጥ pipeline: አንድ ወኪል ተግባሩ ካለቀ በኋላ ፈቃዶችን መጠቀም ይቀጥላል፣ የሚነካውን በጸጥታ ያሰፋዋል።

ከአስሩ አደጋዎች ውስጥ፣ ASI04 አብዛኛዎቹ ቡድኖች በየቀኑ የሚያጋጥሟቸው ነገሮች ናቸው፡ የኮድ ወኪሎች ፓኬጆችን በመምረጥ እና በመጫን ላይ ማንም ሰው የሚገባውን ነገር ሳይገመግም ቀርቷል። በቅርብ ጊዜ በSafeDev Talk ውስጥ በትክክል ይህንን ጉዳይ በጥልቀት ተመልክተናል። ይመልከቱት!

የ OWASP ወኪል AI ከፍተኛ 10 ወደ እርስዎ የሚገቡበት ቦታ pipeline

አስሩ አደጋዎች በአንድ በር አይደርሱም። በአራት በኩል ይደርሳሉ፣ እና እያንዳንዱ በር የራሱ ቁጥጥር ያስፈልገዋል።

የመግቢያ ነጥብምን ይመጣልየ ASI አደጋዎችየት ማቆም ይቻላል?
የገንቢ IDE እና የስራ ጣቢያየኮድ ወኪሎች፣ የኤምሲፒ አገልጋዮች፣ ክህሎቶች፣ ወኪሎች የሚጭኗቸው ፓኬጆችASI04፣ ASI05ከመጫንዎ በፊት በስራ ቦታ ላይ
የሶስተኛ ወገን ወኪል ክፍሎችሞዴሎች፣ መሳሪያዎች፣ ተሰኪዎች፣ ከምዝገባዎች የሚመጡ ጥያቄዎችASI04፣ ASI06ከመፀደቁ በፊት ክምችት እና ግምገማ
የራስዎ ወኪል ኮድየወኪል ማዕቀፎች፣ ጥያቄዎች፣ የመሳሪያ ፍቺዎች፣ ምስክርነቶች፣ RAG pipelinesASI01፣ ASI02፣ ASI03፣
ASI05፣ ASI06
የማይንቀሳቀስ ትንተና፣ በ pull requests እና ሲአይ
የምርት ጊዜወኪሎች እርስ በእርስ ሲነጋገሩ፣ ሲነጋገሩ፣ ከሰዎች ጋር ሲሰሩASI07፣ ASI08፣
ASI09፣ ASI10
አርክቴክቸር፣ ክትትል እና የመግደል ማብሪያና ማጥፊያዎችን

ንድፉ የ OWASP ወኪል AI ከፍተኛ 10 ን እንዴት እንደሚተገብሩ አስፈላጊ ነው። የመጀመሪያዎቹ ሶስት በሮች በኮድ እና ውቅር ውስጥ ማስረጃዎችን ይተዋሉ፣ ይህ ማለት ማንኛውም ነገር ከመላኩ በፊት ማግኘት እና ማገድ ይችላሉ ማለት ነው። አራተኛው የሚወሰነው በአሂድ ጊዜ ባህሪ ላይ ነው፣ ስለዚህ በዲዛይን ምርጫዎች ላይ ነው፡ አነስተኛ ወኪልነት፣ የተፈረሙ መልዕክቶች፣ ለከፍተኛ ተጽዕኖ ለሚያሳድሩ እርምጃዎች የሰው ፈቃድ እና ማንኛውንም ወኪል በፍጥነት የመሰረዝ ችሎታ።

የሩጫ ጊዜ መቆጣጠሪያዎች እንኳን ቀደም ብለው በገነቡት አንድ ነገር ላይ የተመሰረቱ ናቸው፡- ክምችት። በማያውቁት ወኪል ላይ የግድያ ማብሪያ / ማጥፊያ ማድረግ አይችሉም።

Xygeni OWASPን እንዴት እንደሚይዝ ወኪል AI ከማሰማራቱ በፊት 10 ዋና ዋና አደጋዎች

የኤጂኔ አይአይ ደህንነት አፕሊኬሽኖችዎ የተገነቡባቸውን የAI ክፍሎችን በቀጥታ ከምንጭ ኮድ ይቃኛል። እያንዳንዱ ግኝት የOWASP LLM ከፍተኛ 10 ምድቡን እና አስፈላጊ በሚሆንበት ጊዜ የOWASP ወኪል የAI ከፍተኛ 10 ኮድ ይይዛል፣ ስለዚህ ቡድንዎ እና ኦዲተሮችዎ ግኝቶችን በተመሳሳይ ቋንቋ ያነባሉ።

የ OWASP ወኪል AI ከፍተኛ 10 ን መሸፈን የሚጀምረው በክምችቱ ነው። የ AI ደህንነት ወኪሎችን፣ ሞዴሎችን፣ መሳሪያዎችን፣ የ MCP አገልጋዮችን፣ ክህሎቶችን፣ ጥያቄዎችን፣ guardrailsቬክተር የውሂብ ስብስቦችን በማከማቻ ማከማቻዎችዎ ላይ ያከማቻል፣ እና እንዴት እንደሚገናኙ ይቀርፃል፡- የትኛው ወኪል የትኛውን ሞዴል እንደሚጠቀም፣ የትኞቹን መሳሪያዎች እንደሚያከናውን እና የትኞቹን የMCP አገልጋዮች እንደሚጠራ። የክምችቱ ክምችት እንደ CycloneDX 1.6 ML-BOM ወደ ውጭ ይላካል።

የኤጂኔ አይአይ ደህንነት

Xygeni ከማሰማራቱ በፊት የሚያገኘው ነገር፣ በ ASI ስጋት

እያንዳንዱ ግኝት በ OWASP ኮዱ መለያ ተሰጥቶታል፣ ስለዚህ ቡድንዎ እና ኦዲተሮችዎ በተመሳሳይ ቋንቋ ያነቡታል።

ASI01

የወኪል ጎል ጠለፋ

ፈጣን የመርፌ ቦታዎች፣ ወኪሎች ውጫዊ ይዘትን ያለ ንፅህና የሚዋጡ፣ በተንሳፋፊ መለያዎች ላይ ከተመዘገቡት መዝገቦች የተወሰዱ ጥያቄዎች።

ASI02

የመሳሪያ አላግባብ መጠቀም

ያለ ግብዓት የመሳሪያ ጥሪ ወኪሎች guardrails, እንዲሁም እንደ ኮድ ማስፈጸም እና ራስ-ሰር ማስፈጸም ያሉ ችሎታዎችን በእያንዳንዱ ንብረት እይታ።

ASI03

የማንነት እና የልዩ መብት አላግባብ መጠቀም

በወኪል ውቅሮች ውስጥ የማይንቀሳቀሱ ረጅም ጊዜ የቆዩ ምስክርነቶች፣ ወሰን ሳይገድቡ የተጋሩ ምስክርነቶች፣ ከፍ ያሉ መብቶች ያላቸው MCP እና የመሳሪያ አገልጋዮች እና በፈጣን ፋይሎች ውስጥ ያሉ ምስጢሮች።

ASI04

ወኪል የአቅርቦት ሰንሰለት

ተንኮል አዘል ወይም የፊደል አጻጻፍ ክህሎት፣ በSAFE / CAUTION / DO_NOT_INSTALL ፍርድ፤ ደህንነቱ ያልተጠበቀ የሞዴል ጭነት (trust_remote_code=True); የእያንዳንዱ አካል AI-BOM።

ASI05

ያልተጠበቀ የኮድ አፈፃፀም

ከLLM የሚወጣው የቆሻሻ ፍሰት ወደ ውስጥ ይፈስሳል eval እና ከማይታመኑ የውሂብ ስብስቦች ወደ pickle.loadበፓይዘን እና ጃቫስክሪፕት፤ ወደ RCE የሚያመራ የአብነት መርፌ።

ASI06

የማስታወስ እና የአውድ መመረዝ

ያልተጸዳዱ የRAG ሪዘርቨሮች፣ እና የቬክተር እና የኢምቤዲንግ ድክመቶች (LLM08)።

ከASI07 እስከ ASI10

የአሂድ ጊዜ ባህሪ

በወኪሎች መካከል የሚደረግ ግንኙነት፣ የሚፈጠሩ ውድቀቶች፣ የሰው ልጅ እምነት እና ተንኮለኛ ወኪሎች በአሂድ ጊዜ ብቅ ይላሉ። Xygeni የሚወሰኑት የአሂድ ጊዜ መቆጣጠሪያዎች ዝርዝር እና የግንኙነት ግራፍ ይሰጥዎታል።

በዚያ እምብርት ዙሪያ፦

  • የክህሎቶች እና የወኪል መመሪያዎች የትርጓሜ ግምገማ። አማራጭ፣ ሊባዛ የሚችል የLLM ግምገማ የ SKILL.md ና AGENTS.md ፋይሎችን፣ ፊርማ የማያይ የፕሮሴስ-ብቻ ተንኮል አዘል መመሪያዎችን በመያዝ። በራስ-ሰር በሚስተናገድ ሞዴል ላይ ሊሄድ ይችላል።
  • በሲአይ ውስጥ ይግፉት። የ xygeni ai ስካነር በእርስዎ ውስጥ ይሰራል pipeline እና ግኝቶች ሲኖሩ ግንባታው ይከሽፋል። በሪፖርት-ብቻ ሁነታ ይጀምሩ፣ ከዚያም በCritical ላይ ይግቡ።
  • በወኪል ዑደት ውስጥ ደህንነት። ዴቭኤአይ የXygeni ቅኝቶችን፣ ትራዬጅ እና ጥገናዎችን ወደ IDE እና ወደ AI ኮድ ወኪሎች በኩል ያመጣል የXygeni MCP አገልጋይ.
  • የስራ ቦታውን ይጠብቁ። Shield የገንቢ ማሽኖች ከማውረዳቸው በፊት ተንኮል አዘል ፓኬጆችን ያግዳል፣ መጫኑን የሚያስኬደው ማንኛውም ሰው እና እያንዳንዱን ብሎክ ያስነሳው ሂደት እና ትዕዛዝ እንደሆነ አድርጎ ይቆጥረዋል።
  • በፍጥነት አስተካክል። የAI Triage ግኝቶችን ቅድሚያ ይሰጣል፣ እና የAI Remediation ለእያንዳንዱ የOWASP LLM ምድብ የጥገና መመሪያ ያመነጫል።

የ OWASP ወኪል AI ከፍተኛ 10 የዝግጅት ዝርዝር

  1. ቆጠራ: በማከማቻዎችዎ ውስጥ ያሉትን ሁሉንም ወኪል፣ ሞዴል፣ መሳሪያ፣ የኤምሲፒ አገልጋይ እና ክህሎት ይዘርዝሩ፣ እና ዝርዝሩን በእያንዳንዱ ላይ ወቅታዊ ያድርጉት commit.
  2. አነስተኛ ኤጀንሲ፦ ለእያንዳንዱ ወኪል ተግባሩ የሚፈልገውን የራስ ገዝ አስተዳደርና መሳሪያ ብቻ መስጠት፣ እና አጥፊ ድርጊቶችን ለመፈጸም የሰውን ፈቃድ መጠየቅ።
  3. የተዘረዘረ ማንነት፦ ለረጅም ጊዜ የቆዩ፣ የተጋሩ የወኪል ምስክርነቶችን በአጭር ጊዜ የሚቆዩ፣ በተወካይ ቶከኖች ይተኩ።
  4. የማይታመን ግብዓት፦ እያንዳንዱን ሰነድ፣ ድረ-ገጽ፣ ኢሜይል እና የወኪል መልእክት ግብ ወይም የመሳሪያ ጥሪ ከመቀረጹ በፊት እንደ እምነት የማይጣልበት አድርገው ይቆጥሩት።
  5. የተረጋገጡ ክፍሎች፡ ክህሎቶችን፣ የMCP አገልጋዮችን እና ሞዴሎችን ከመቀበላቸው በፊት ይገምግሙ፣ ስሪቶችን በፒን ያድርጉ እና የAI-BOM ን ይያዙ።
  6. ደህንነቱ የተጠበቀ አፈፃፀም የለም፦ አገደ eval በሞዴል ውፅዓት፣ በአሸዋ ሳጥን ኮድ አፈፃፀም ላይ እና ወኪሎችን እንደ ስርወ-ስርዓት በጭራሽ አያሂዱ።
  7. ንፁህ ማህደረ ትውስታ; ወደ RAG ማከማቻዎች እና የረጅም ጊዜ ማህደረ ትውስታ የሚገቡትን ነገሮች ማጽዳት፣ እና ማህደረ ትውስታን በተጠቃሚ እና በአውድ መለየት።
  8. በሲአይ ውስጥ በር፡ በእያንዳንዱ ላይ የወኪል ኮድ ይቃኙ pull request እና ግኝቶችን ወደ ASI ኮዶች ካርታ ያድርጉ።
  9. ይመልከቱ እና የሚከተሉትን ይይዛሉ: እያንዳንዱን የወኪል እርምጃ እና የመሳሪያ ጥሪ ይመዝግቡ፣ እና ማንኛውንም ወኪል በፍጥነት መሻር እንደሚችሉ ያረጋግጡ።

እርምጃ ከመውሰዳቸው በፊት የትኞቹን ወኪሎች እንደሚያስተዳድሩ ይወቁ

የ OWASP ወኪል AI ከፍተኛ 10 ካርታውን ይሰጥዎታል። የመጀመሪያው እርምጃ ለሁሉም አስር አደጋዎች ተመሳሳይ ነው፡ በኮድዎ ውስጥ ያሉትን ሁሉንም ወኪል፣ መሳሪያ እና ክህሎት ያግኙ። የXygeni AI Security ክምችት ወኪሎችዎን እንዴት እንደሚያስቀምጥ እና ግኝቶችን ወደ ASI ኮዶች እንዴት እንደሚያስኬድ ይመልከቱ, ወይም ማሳያ አሳይ.

ተደጋጋሚ ጥያቄዎች

በ OWASP ወኪል AI ከፍተኛ 10 ውስጥ ASI ምን ማለት ነው?

ASI ማለት ወኪል የደህንነት ተነሳሽነት ማለት ሲሆን ዝርዝሩን የጻፈው የOWASP GenAI የደህንነት ፕሮጀክት ቡድን ነው። እያንዳንዱ አደጋ ከASI01 (የወኪል ግብ ጠለፋ) እስከ ASI10 (የሮግ ወኪሎች) ኮድ ይይዛል፣ ልክ የLLM ዝርዝር LLM01 እስከ LLM10 እንደሚጠቀምበት ሁሉ።

የ OWASP LLM ከፍተኛ 10 ን የምከተል ከሆነ የ OWASP ወኪል AI ከፍተኛ 10 ያስፈልገኛል?

የእርስዎ የአይአይ (AI) ተግባር ላይ መዋል ከቻለ ብቻ። ጥያቄዎችን ብቻ የሚመልስ የቻትቦት ወይም የRAG መተግበሪያ በLLM Top 10 ይሸፈናል። መተግበሪያዎ መሳሪያዎችን ከጠራ፣ ማህደረ ትውስታን ከጠበቀ፣ ለሌሎች ወኪሎች ከተላከ ወይም የምስክር ወረቀቶችን ከተጠቀመ በኋላ የወኪሉ ዝርዝር የLLM ዝርዝር የማያስከትላቸውን አደጋዎች ይሸፍናል።

የማይንቀሳቀስ ትንተና የ OWASP ወኪል AI ከፍተኛ 10 አደጋዎችን መለየት ይችላል?

ለብዙዎቹ አዎ። የጎል ጠለፋ ገጽታዎች፣ ያልተጠበቁ መሳሪያዎች፣ ከመጠን በላይ መብት ያላቸው ምስክርነቶች፣ ተንኮል አዘል ክህሎቶች፣ ደህንነቱ ያልተጠበቀ የኮድ አፈፃፀም እና ያልተጸዳዱ የRAG ግብዓቶች ሁሉም በኮድ እና ውቅር ውስጥ ማስረጃዎችን ይተዋሉ። እንደ ሻካራ ውድቀት እና የተንኮል ወኪሎች ካሉ የቀጥታ ባህሪ የሚመጡ አደጋዎች ከላይ የሩጫ ጊዜ መቆጣጠሪያዎች ያስፈልጋቸዋል።

sca-tools-software-composition-analyse-tools
የሶፍትዌር አደጋዎችዎን ቅድሚያ ይስጡ፣ ያስተካክሉ እና ይጠብቁ
ነፃ መለያ ያግኙ።
ምንም ዱቤ ካርድ አያስፈልግም።

የሶፍትዌርዎን ልማት እና አቅርቦት ደህንነት ይጠብቁ

ከ Xygeni Product Suite ጋር