TL; DR
የ OWASP ወኪል AI ከፍተኛ 10 ለእርስዎ ምን ማለት ነው? pipeline
የሆነ ስህተት የሚናገር LLM የይዘት ችግር ነው። የሆነ ስህተት የሚሠራ ወኪል የደህንነት ክስተት ነው። የOWASP ወኪል AI ከፍተኛ 10 የሁለተኛው ካርታ ነው።
- ምንድን ነው: የ OWASP ወኪል AI ከፍተኛ 10 (በይፋ) ለ2026 ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASP) የሚያቅዱ፣ መሳሪያዎችን የሚጠሩ፣ የማስታወስ ችሎታቸውን የሚጠብቁ እና በእርስዎ ምትክ የሚሰሩ የAI ወኪሎችን የሚመለከቱ አስር አደጋዎችን ይዘረዝራል። ኮዶቹ ከASI01 እስከ ASI10 ይሰራሉ።
- እንዴት እንደሚዛመድ፦ የ OWASP LLM ከፍተኛ 10 ን ከመተካት ይልቅ ያራዝመዋል። የ LLM ዝርዝሩ አንድ ሞዴል ምን እንደሚል ይሸፍናል፤ የወኪሉ ዝርዝር አንድ ወኪል የሚያደርገውን ይሸፍናል።
- የት እንደሚገባ፦ በእውነተኛ ውስጥ pipelineእነዚህ አደጋዎች የሚመጡት በአራት በሮች ነው፡ IDE፣ የሶስተኛ ወገን ወኪል ክፍሎች፣ የራስዎ ወኪል ኮድ እና የምርት ጊዜ።
- ምን ሊይዙ ይችላሉ: ከአስርቱ ውስጥ ስድስቱ የጣት አሻራዎች በኮድ እና ውቅር ውስጥ ይተዋሉ፣ ስለዚህ ከማሰማራትዎ በፊት ማቆም ይችላሉ። ሌሎቹ አራቱ የሩጫ ጊዜ ዲዛይን መቆጣጠሪያዎች ያስፈልጋቸዋል፣ እና እያንዳንዳቸው የትኞቹን ወኪሎች እንደሚያሄዱ በማወቅ ይጀምራሉ።
የመጀመሪያው እርምጃ እያንዳንዱን ወኪል፣ መሳሪያ፣ የMCP አገልጋይ እና ክህሎት ይመዝግቡ፣ ከዚያም በCI ውስጥ አዲስ የወኪል ኮድ በASI ኮዶች መለያ የተደረገባቸውን ግኝቶች ያስገቡ።
የ OWASP ወኪል AI ከፍተኛ 10 አስፈላጊ የሆነው ለምንድነው፡ የእርስዎ pipeline አዲስ አለው committers
ከአንድ ዓመት በፊት፣ በማከማቻዎችዎ ውስጥ ያለው ኮድ የመጣው ከሰዎች ነው። ዛሬ፣ እየጨመረ የመጣ ድርሻ የሚመጣው ከAI ወኪሎች ነው፡ ጥገኝነቶችን የሚጭኑ የኮድ ረዳቶች፣ የሚከፍቱ ወኪሎች pull requestsእና በራሳቸው ምርቶች ውስጥ የሚላኩ የወኪል ማዕቀፎች፣ መሳሪያዎች፣ ማህደረ ትውስታ እና የምስክር ወረቀቶች። የ OWASP ወኪል AI ከፍተኛ 10 የተጻፈበት ለውጥ ይህ ነው።
ይህ የስጋት ሞዴሉን ይለውጣል። የሆነ ስህተት የሆነ ነገር የሚናገር LLM የይዘት ችግር ነው። የሆነ ስህተት የሚሰራ ወኪል (ውሂብን የሚሰርዝ፣ ቶከን የሚያፈስ፣ የተመረዘ ፓኬጅ የሚጭን) የደህንነት ክስተት ነው።
የ OWASP ወኪል AI ከፍተኛ 10 ለሁለተኛው ችግር የመጀመሪያው የጋራ የቃላት ዝርዝር ነው። አብዛኛዎቹ ማብራሪያዎች የሚቆሙት በትርጓሜዎች ላይ ነው። ይህ እያንዳንዱን አደጋ በትክክል ወደ እርስዎ የሚያስገባበትን ቦታ ያዛምዳል። pipelineእና ከማሰማራትዎ በፊት ምን ማድረግ እንደሚችሉ።
የ OWASP ወኪል AI ከፍተኛ 10 ምንድን ነው?
የ OWASP ወኪል AI ከፍተኛ 10 በ AI ወኪሎች ውስጥ ካሉት አስር በጣም ወሳኝ የደህንነት አደጋዎች መካከል በአቻ የተገመገመ ዝርዝር ነው፡ እነዚህም የሚያቅዱ፣ መሳሪያዎችን የሚጠሩ፣ የማስታወስ ችሎታቸውን የሚጠብቁ እና በውክልና ሥልጣን የሚሰሩ ስርዓቶች ናቸው። ኦፊሴላዊ ስሙ ለ2026 ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASPየ OWASP GenAI የደህንነት ፕሮጀክት በታህሳስ 9 ቀን 2025 በኤጀንቲካል ሴኩሪቲ ኢኒሼቲቭ በኩል አሳትሞታል፣ ይህም የ ASI ቅድመ ቅጥያ የመጣው እዚህ ላይ ነው።
አሁንም ገና ወጣት ነው standard: ይህ የመጀመሪያ እትሙ ነው። እያንዳንዱ ግቤት የሚታወቀውን የ OWASP ቅርጸት ይከተላል፣ መግለጫ፣ የተለመዱ ምሳሌዎች፣ የጥቃት ሁኔታዎች እና የመከላከያ መመሪያ አለው። የ OWASP ማዕከላዊ የዲዛይን ምክር በአስርቱም ውስጥ ያልፋል፡ ለተወካዮች ከተግባሩ ፍላጎት በላይ ነፃነት ከመስጠት ይቆጠቡ እና የመታየት ችሎታን እንደ ግዴታ ይቆጥሩ።
ኤጀንቲክ ቶፕ 10 ከኤልኤልኤም ቶፕ 10 ጋር ሲነጻጸር
የወኪል ዝርዝሩ የ ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP. በእሱ ላይ ይገነባል፣ እና ግቤቶቹ በቀጥታ የሚዛመዱ የ LLM አደጋዎችን ያስከትላሉ። ቀላል የአውራ ጣት ህግ፡
| ስፉት | የኦዋስፕ ኤልኤልኤም 10 ምርጥ | የOWASP ወኪል የAI ከፍተኛ 10 |
|---|---|---|
| የትኩረት | ሞዴሉ ምን ይላል | ወኪሉ የሚያደርገው ነገር |
| የተለመደው ውድቀት | የተዛባ ወይም የፈሰሰ ምላሽ | የተዛባ ግብ፣ የመሳሪያ ጥሪ ወይም እርምጃ |
| ይመለከታል | ቻትቦቶች፣ RAG መተግበሪያዎች፣ ማንኛውም የLLM ባህሪ | መሳሪያዎች፣ ማህደረ ትውስታ፣ ውክልና ወይም ሌሎች ወኪሎች ያላቸው ወኪሎች |
| ኮዶች | ከ LLM01 እስከ LLM10 | ከASI01 እስከ ASI10 |
ማመልከቻዎ ጥያቄዎችን ብቻ የሚመልስ ከሆነ፣ የLLM ዝርዝር እርስዎን ይሸፍናል። እርምጃ መውሰድ በሚችልበት ቅጽበት፣ ሁለቱንም ያስፈልግዎታል። የእኛ መመሪያ የሞዴል ማውጣት ጥቃቶች አንድ የLLM ከፍተኛ 10 ስጋትን በጥልቀት ያሳያል።
የ OWASP ወኪል AI ከፍተኛ 10፣ ተብራርቷል፡ በእውነተኛ ASI01 እስከ ASI10 pipelines
በ OWASP ወኪል AI ከፍተኛ 10 ውስጥ ያለው እያንዳንዱ አደጋ እዚህ አለ፣ ከዚያም በኮድ ቤዝ ውስጥ ምን እንደሚመስል እና pipelineበየቀኑ የምናየው ነው።
ASI01፡ የወኪል ጎል ጠለፋ
አንድ አጥቂ ወኪሉ በሰነድ፣ በኢሜል፣ በድረ-ገጽ ወይም በሌላ ወኪል መልእክት ውስጥ በመርፌ የተሰጡ መመሪያዎችን በመጠቀም ለማሳካት የሚሞክረውን ነገር ይለውጣል። ወኪሎች ከይዘቱ ውጪ መመሪያዎችን ለመለየት ይቸገራሉ፣ ስለዚህ የተተከለው ጽሑፍ ሙሉ ባለብዙ ደረጃ ዕቅድን ሊያዞር ይችላል።
በርስዎ ውስጥ pipeline: የሚያጠቃልል ወኪል pull requests የተደበቁ መመሪያዎችን የያዘ የህዝብ ግንኙነት መግለጫ ያነባል፣ እና ከማጠቃለል ይልቅ ማጽደቅ ወይም መፍሰስ ይጀምራል።
ASI02፡ የመሳሪያ አላግባብ መጠቀም እና ብዝበዛ
ወኪሉ ሊጠቀምበት የተፈቀደለትን መሳሪያ ይጠቀማል፣ ነገር ግን ጎጂ በሆነ መንገድ፡- ውሂብን መሰረዝ፣ ውድ የሆነ ኤፒአይን በአንድ ዙር መጥራት ወይም መረጃ ወደ ውጭ መላክ። ምንም መብት አይጨምርም፤ ህጋዊ መዳረሻ በቀላሉ ወደተሳሳተ ኢላማ ይመራል።
በርስዎ ውስጥ pipeline: የሼል መዳረሻ ያለው የኮድ ወኪል በተሳሳተ ማውጫ ላይ የጽዳት ትዕዛዝ ያሂዳል።
ASI03፡ የማንነት እና የልዩ መብት አላግባብ መጠቀም
ወኪሎች የምስክር ወረቀቶችን፣ ክፍለ ጊዜዎችን እና ሚናዎችን ይወርሳሉ፣ እና አጥቂዎች እነዚያን የውክልና ሰንሰለቶች በቀጥታ መድረስ ያልቻሉትን ለመድረስ ይጠቀማሉ። ዋናው ምክንያት ለሰዎች የተገነቡ እና በራሱ የሚሰራ ሶፍትዌር ላይ የሚተገበሩ የማንነት ስርዓቶች ናቸው።
በርስዎ ውስጥ pipeline: የወኪል ውቅር ድርጅትን የሚያካትት ረጅም ጊዜ የሚቆይ ቶከን ይይዛል፣ በተለያዩ መሳሪያዎች ላይ ይጋራል።
ASI04፡ የወኪል አቅርቦት ሰንሰለት ተጋላጭነቶች
ወኪሎች የሚጭኗቸው ሞዴሎች፣ መሳሪያዎች፣ ተሰኪዎች፣ የኤምሲፒ ሰርቨሮች፣ ክህሎቶች እና ጥያቄዎች ከሶስተኛ ወገኖች የመጡ ናቸው፣ እና አንዳቸውም ተንኮል አዘል ወይም ሊበላሹ ይችላሉ። ከክላሲክ ጥገኝነቶች በተለየ፣ ወኪሎች ብዙውን ጊዜ እነዚህን ክፍሎች በአሂድ ጊዜ ያሰባስቧቸዋል።
በርስዎ ውስጥ pipeline: አንድ ገንቢ የፊደል አጻጻፍ የተሳለበት የወኪል ክህሎት ይጭናል፤ መመሪያዎቹም ወኪሉ ምስክርነቶችን እንዲያነብና በውጭ እንዲለጥፋቸው ይነግሯቸዋል።
ASI05: ያልተጠበቀ የኮድ አፈፃፀም (RCE)
ወኪሉ የማይገባውን ኮድ ያመነጫል ወይም ያስጀምራል፤ የሼል ትዕዛዞች፣ የተገለሉ ነገሮች፣ የቴምፕል ሞተሮች፣ eval በሞዴል ውፅዓት ላይ። ውጤቱ ሙሉ አስተናጋጅ ወይም የኮንቴይነር ስምምነት ሊሆን ይችላል።
በርስዎ ውስጥ pipeline: የኤልኤልኤም ውጤት በቀጥታ ወደ ውስጥ ይፈስሳል evalወይም አንድ ወኪል የማይታመን የውሂብ ስብስብ የሚጭንበት pickle.load.
ASI06፡ የማስታወስ እና የአውድ መመረዝ
አጥቂዎች የወኪሉን የረጅም ጊዜ ማህደረ ትውስታ፣ ማጠቃለያዎች ወይም RAG በተንኮል አዘል መረጃዎች ያከማቻሉ፣ ስለዚህ ወደፊት የሚደረጉ ነገሮችcision የተዛባ ነው። ከአንድ ጊዜ የሚወሰድ ፈጣን መርፌ በተለየ መልኩ፣ ሙስናው በተለያዩ ክፍለ ጊዜዎች ውስጥ ይቀጥላል።
በርስዎ ውስጥ pipeline: የ RAG ሪትሪቨር ውጫዊ ሰነዶችን ያለ ንፅህና ይቀበላል፣ እና አንድ የተመረዘ ገጽ የሚከተለውን እያንዳንዱን መልስ ይቀርፃል።
ASI07፡ ደህንነቱ ያልተጠበቀ የኢንተር-ወኪል ግንኙነት
ወኪሎች ያለ ማረጋገጫ፣ የታማኝነት ፍተሻ ወይም ማረጋገጫ መልዕክቶችን ይለዋወጣሉ፣ ስለዚህ መልዕክቶች ሊታለሉ፣ ሊጠለፉ ወይም ሊለወጡ ይችላሉ። ተመሳሳይ መመሪያ በተለያዩ ወኪሎችም በተለየ መንገድ ሊነበብ ይችላል።
በርስዎ ውስጥ pipeline: የዕቅድ አውጪ ወኪል በውስጣዊ አውታረ መረብ ላይ ካለው ከማንኛውም አገልግሎት ፕሮቶኮሉን የሚናገር ተግባር ይቀበላል።
ASI08: የመሸጋገሪያ ውድቀቶች
አንድ ስህተት (ቅዠት፣ የተመረዘ የማስታወስ ችሎታ፣ የተበላሸ መሳሪያ) ሰዎች ከሚሰጡት ምላሽ በበለጠ ፍጥነት በወኪሎች እና በፍሰቶች ላይ ይሰራጫል። OWASP ጉዳቱ ከመጀመሪያው ጥሰት በላይ ሲነፍስ ይህንን ምድብ ይተገብራል።
በርስዎ ውስጥ pipeline: አንድ ወኪል መጥፎ ውቅር ይጽፋል፣ ሁለተኛው ያሰማራል፣ ሦስተኛው ደግሞ ወደ እያንዳንዱ ክልል ያወጣል። ያንን የፍንዳታ ራዲየስ በእኛ ውስጥ እንዴት መያዝ እንደሚቻል ተወያይተናል። የፍላት ራዲየስ SafeDev ቶክ.
ASI09፡ የሰው-ወኪል ትረስት ብዝበዛ
ሰዎች በራስ መተማመን፣ በሚገባ የተብራራ የወኪል ውጤትን ያምናሉ፣ እና አጥቂዎች ወይም ጉድለት ያለባቸው ዲዛይኖች ይህንን እምነት በመጠቀም ጥፋትን ይከላከላሉ።cisአየኖች። የሰው ልጅ የመጨረሻውን እርምጃ ያከናውናል፣ ስለዚህ የወኪሉ ሚና ከኦዲት ዱካ ሊጠፋ ይችላል።
በርስዎ ውስጥ pipeline: ገምጋሚ የአንድ ወኪልን ያጸድቃል pull request ምክንያቱም ልዩነቱን ሳያረጋግጡ ማብራሪያው ትክክል ይመስላል።
ASI10: ተንኮለኛ ወኪሎች
አንድ ወኪል ከታሰበለት ተግባር ይርቃል እና ጎጂ፣ አታላይ ወይም ከወሰን በላይ እርምጃ ይወስዳል። እያንዳንዱ እርምጃ ህጋዊ ሊመስል ይችላል፤ አጠቃላይ ባህሪው ግን አይደለም። ASI10 የሚባለው መንሸራተት ከጀመረ በኋላ ቁጥጥርን ስለማጣት ነው፣ ስለ መጀመሪያው ጣልቃ ገብነት አይደለም።
በርስዎ ውስጥ pipeline: አንድ ወኪል ተግባሩ ካለቀ በኋላ ፈቃዶችን መጠቀም ይቀጥላል፣ የሚነካውን በጸጥታ ያሰፋዋል።
ከአስሩ አደጋዎች ውስጥ፣ ASI04 አብዛኛዎቹ ቡድኖች በየቀኑ የሚያጋጥሟቸው ነገሮች ናቸው፡ የኮድ ወኪሎች ፓኬጆችን በመምረጥ እና በመጫን ላይ ማንም ሰው የሚገባውን ነገር ሳይገመግም ቀርቷል። በቅርብ ጊዜ በSafeDev Talk ውስጥ በትክክል ይህንን ጉዳይ በጥልቀት ተመልክተናል። ይመልከቱት!
የ OWASP ወኪል AI ከፍተኛ 10 ወደ እርስዎ የሚገቡበት ቦታ pipeline
አስሩ አደጋዎች በአንድ በር አይደርሱም። በአራት በኩል ይደርሳሉ፣ እና እያንዳንዱ በር የራሱ ቁጥጥር ያስፈልገዋል።
| የመግቢያ ነጥብ | ምን ይመጣል | የ ASI አደጋዎች | የት ማቆም ይቻላል? |
|---|---|---|---|
| የገንቢ IDE እና የስራ ጣቢያ | የኮድ ወኪሎች፣ የኤምሲፒ አገልጋዮች፣ ክህሎቶች፣ ወኪሎች የሚጭኗቸው ፓኬጆች | ASI04፣ ASI05 | ከመጫንዎ በፊት በስራ ቦታ ላይ |
| የሶስተኛ ወገን ወኪል ክፍሎች | ሞዴሎች፣ መሳሪያዎች፣ ተሰኪዎች፣ ከምዝገባዎች የሚመጡ ጥያቄዎች | ASI04፣ ASI06 | ከመፀደቁ በፊት ክምችት እና ግምገማ |
| የራስዎ ወኪል ኮድ | የወኪል ማዕቀፎች፣ ጥያቄዎች፣ የመሳሪያ ፍቺዎች፣ ምስክርነቶች፣ RAG pipelines | ASI01፣ ASI02፣ ASI03፣ ASI05፣ ASI06 | የማይንቀሳቀስ ትንተና፣ በ pull requests እና ሲአይ |
| የምርት ጊዜ | ወኪሎች እርስ በእርስ ሲነጋገሩ፣ ሲነጋገሩ፣ ከሰዎች ጋር ሲሰሩ | ASI07፣ ASI08፣ ASI09፣ ASI10 | አርክቴክቸር፣ ክትትል እና የመግደል ማብሪያና ማጥፊያዎችን |
ንድፉ የ OWASP ወኪል AI ከፍተኛ 10 ን እንዴት እንደሚተገብሩ አስፈላጊ ነው። የመጀመሪያዎቹ ሶስት በሮች በኮድ እና ውቅር ውስጥ ማስረጃዎችን ይተዋሉ፣ ይህ ማለት ማንኛውም ነገር ከመላኩ በፊት ማግኘት እና ማገድ ይችላሉ ማለት ነው። አራተኛው የሚወሰነው በአሂድ ጊዜ ባህሪ ላይ ነው፣ ስለዚህ በዲዛይን ምርጫዎች ላይ ነው፡ አነስተኛ ወኪልነት፣ የተፈረሙ መልዕክቶች፣ ለከፍተኛ ተጽዕኖ ለሚያሳድሩ እርምጃዎች የሰው ፈቃድ እና ማንኛውንም ወኪል በፍጥነት የመሰረዝ ችሎታ።
የሩጫ ጊዜ መቆጣጠሪያዎች እንኳን ቀደም ብለው በገነቡት አንድ ነገር ላይ የተመሰረቱ ናቸው፡- ክምችት። በማያውቁት ወኪል ላይ የግድያ ማብሪያ / ማጥፊያ ማድረግ አይችሉም።
Xygeni OWASPን እንዴት እንደሚይዝ ወኪል AI ከማሰማራቱ በፊት 10 ዋና ዋና አደጋዎች
የኤጂኔ አይአይ ደህንነት አፕሊኬሽኖችዎ የተገነቡባቸውን የAI ክፍሎችን በቀጥታ ከምንጭ ኮድ ይቃኛል። እያንዳንዱ ግኝት የOWASP LLM ከፍተኛ 10 ምድቡን እና አስፈላጊ በሚሆንበት ጊዜ የOWASP ወኪል የAI ከፍተኛ 10 ኮድ ይይዛል፣ ስለዚህ ቡድንዎ እና ኦዲተሮችዎ ግኝቶችን በተመሳሳይ ቋንቋ ያነባሉ።
የ OWASP ወኪል AI ከፍተኛ 10 ን መሸፈን የሚጀምረው በክምችቱ ነው። የ AI ደህንነት ወኪሎችን፣ ሞዴሎችን፣ መሳሪያዎችን፣ የ MCP አገልጋዮችን፣ ክህሎቶችን፣ ጥያቄዎችን፣ guardrailsቬክተር የውሂብ ስብስቦችን በማከማቻ ማከማቻዎችዎ ላይ ያከማቻል፣ እና እንዴት እንደሚገናኙ ይቀርፃል፡- የትኛው ወኪል የትኛውን ሞዴል እንደሚጠቀም፣ የትኞቹን መሳሪያዎች እንደሚያከናውን እና የትኞቹን የMCP አገልጋዮች እንደሚጠራ። የክምችቱ ክምችት እንደ CycloneDX 1.6 ML-BOM ወደ ውጭ ይላካል።
የኤጂኔ አይአይ ደህንነት
Xygeni ከማሰማራቱ በፊት የሚያገኘው ነገር፣ በ ASI ስጋት
እያንዳንዱ ግኝት በ OWASP ኮዱ መለያ ተሰጥቶታል፣ ስለዚህ ቡድንዎ እና ኦዲተሮችዎ በተመሳሳይ ቋንቋ ያነቡታል።
የወኪል ጎል ጠለፋ
ፈጣን የመርፌ ቦታዎች፣ ወኪሎች ውጫዊ ይዘትን ያለ ንፅህና የሚዋጡ፣ በተንሳፋፊ መለያዎች ላይ ከተመዘገቡት መዝገቦች የተወሰዱ ጥያቄዎች።
የመሳሪያ አላግባብ መጠቀም
ያለ ግብዓት የመሳሪያ ጥሪ ወኪሎች guardrails, እንዲሁም እንደ ኮድ ማስፈጸም እና ራስ-ሰር ማስፈጸም ያሉ ችሎታዎችን በእያንዳንዱ ንብረት እይታ።
የማንነት እና የልዩ መብት አላግባብ መጠቀም
በወኪል ውቅሮች ውስጥ የማይንቀሳቀሱ ረጅም ጊዜ የቆዩ ምስክርነቶች፣ ወሰን ሳይገድቡ የተጋሩ ምስክርነቶች፣ ከፍ ያሉ መብቶች ያላቸው MCP እና የመሳሪያ አገልጋዮች እና በፈጣን ፋይሎች ውስጥ ያሉ ምስጢሮች።
ወኪል የአቅርቦት ሰንሰለት
ተንኮል አዘል ወይም የፊደል አጻጻፍ ክህሎት፣ በSAFE / CAUTION / DO_NOT_INSTALL ፍርድ፤ ደህንነቱ ያልተጠበቀ የሞዴል ጭነት (trust_remote_code=True); የእያንዳንዱ አካል AI-BOM።
ያልተጠበቀ የኮድ አፈፃፀም
ከLLM የሚወጣው የቆሻሻ ፍሰት ወደ ውስጥ ይፈስሳል eval እና ከማይታመኑ የውሂብ ስብስቦች ወደ pickle.loadበፓይዘን እና ጃቫስክሪፕት፤ ወደ RCE የሚያመራ የአብነት መርፌ።
የማስታወስ እና የአውድ መመረዝ
ያልተጸዳዱ የRAG ሪዘርቨሮች፣ እና የቬክተር እና የኢምቤዲንግ ድክመቶች (LLM08)።
የአሂድ ጊዜ ባህሪ
በወኪሎች መካከል የሚደረግ ግንኙነት፣ የሚፈጠሩ ውድቀቶች፣ የሰው ልጅ እምነት እና ተንኮለኛ ወኪሎች በአሂድ ጊዜ ብቅ ይላሉ። Xygeni የሚወሰኑት የአሂድ ጊዜ መቆጣጠሪያዎች ዝርዝር እና የግንኙነት ግራፍ ይሰጥዎታል።
በዚያ እምብርት ዙሪያ፦
- የክህሎቶች እና የወኪል መመሪያዎች የትርጓሜ ግምገማ። አማራጭ፣ ሊባዛ የሚችል የLLM ግምገማ የ
SKILL.mdናAGENTS.mdፋይሎችን፣ ፊርማ የማያይ የፕሮሴስ-ብቻ ተንኮል አዘል መመሪያዎችን በመያዝ። በራስ-ሰር በሚስተናገድ ሞዴል ላይ ሊሄድ ይችላል። - በሲአይ ውስጥ ይግፉት። የ
xygeni aiስካነር በእርስዎ ውስጥ ይሰራል pipeline እና ግኝቶች ሲኖሩ ግንባታው ይከሽፋል። በሪፖርት-ብቻ ሁነታ ይጀምሩ፣ ከዚያም በCritical ላይ ይግቡ። - በወኪል ዑደት ውስጥ ደህንነት። ዴቭኤአይ የXygeni ቅኝቶችን፣ ትራዬጅ እና ጥገናዎችን ወደ IDE እና ወደ AI ኮድ ወኪሎች በኩል ያመጣል የXygeni MCP አገልጋይ.
- የስራ ቦታውን ይጠብቁ። Shield የገንቢ ማሽኖች ከማውረዳቸው በፊት ተንኮል አዘል ፓኬጆችን ያግዳል፣ መጫኑን የሚያስኬደው ማንኛውም ሰው እና እያንዳንዱን ብሎክ ያስነሳው ሂደት እና ትዕዛዝ እንደሆነ አድርጎ ይቆጥረዋል።
- በፍጥነት አስተካክል። የAI Triage ግኝቶችን ቅድሚያ ይሰጣል፣ እና የAI Remediation ለእያንዳንዱ የOWASP LLM ምድብ የጥገና መመሪያ ያመነጫል።
የ OWASP ወኪል AI ከፍተኛ 10 የዝግጅት ዝርዝር
- ቆጠራ: በማከማቻዎችዎ ውስጥ ያሉትን ሁሉንም ወኪል፣ ሞዴል፣ መሳሪያ፣ የኤምሲፒ አገልጋይ እና ክህሎት ይዘርዝሩ፣ እና ዝርዝሩን በእያንዳንዱ ላይ ወቅታዊ ያድርጉት commit.
- አነስተኛ ኤጀንሲ፦ ለእያንዳንዱ ወኪል ተግባሩ የሚፈልገውን የራስ ገዝ አስተዳደርና መሳሪያ ብቻ መስጠት፣ እና አጥፊ ድርጊቶችን ለመፈጸም የሰውን ፈቃድ መጠየቅ።
- የተዘረዘረ ማንነት፦ ለረጅም ጊዜ የቆዩ፣ የተጋሩ የወኪል ምስክርነቶችን በአጭር ጊዜ የሚቆዩ፣ በተወካይ ቶከኖች ይተኩ።
- የማይታመን ግብዓት፦ እያንዳንዱን ሰነድ፣ ድረ-ገጽ፣ ኢሜይል እና የወኪል መልእክት ግብ ወይም የመሳሪያ ጥሪ ከመቀረጹ በፊት እንደ እምነት የማይጣልበት አድርገው ይቆጥሩት።
- የተረጋገጡ ክፍሎች፡ ክህሎቶችን፣ የMCP አገልጋዮችን እና ሞዴሎችን ከመቀበላቸው በፊት ይገምግሙ፣ ስሪቶችን በፒን ያድርጉ እና የAI-BOM ን ይያዙ።
- ደህንነቱ የተጠበቀ አፈፃፀም የለም፦ አገደ
evalበሞዴል ውፅዓት፣ በአሸዋ ሳጥን ኮድ አፈፃፀም ላይ እና ወኪሎችን እንደ ስርወ-ስርዓት በጭራሽ አያሂዱ። - ንፁህ ማህደረ ትውስታ; ወደ RAG ማከማቻዎች እና የረጅም ጊዜ ማህደረ ትውስታ የሚገቡትን ነገሮች ማጽዳት፣ እና ማህደረ ትውስታን በተጠቃሚ እና በአውድ መለየት።
- በሲአይ ውስጥ በር፡ በእያንዳንዱ ላይ የወኪል ኮድ ይቃኙ pull request እና ግኝቶችን ወደ ASI ኮዶች ካርታ ያድርጉ።
- ይመልከቱ እና የሚከተሉትን ይይዛሉ: እያንዳንዱን የወኪል እርምጃ እና የመሳሪያ ጥሪ ይመዝግቡ፣ እና ማንኛውንም ወኪል በፍጥነት መሻር እንደሚችሉ ያረጋግጡ።
እርምጃ ከመውሰዳቸው በፊት የትኞቹን ወኪሎች እንደሚያስተዳድሩ ይወቁ
የ OWASP ወኪል AI ከፍተኛ 10 ካርታውን ይሰጥዎታል። የመጀመሪያው እርምጃ ለሁሉም አስር አደጋዎች ተመሳሳይ ነው፡ በኮድዎ ውስጥ ያሉትን ሁሉንም ወኪል፣ መሳሪያ እና ክህሎት ያግኙ። የXygeni AI Security ክምችት ወኪሎችዎን እንዴት እንደሚያስቀምጥ እና ግኝቶችን ወደ ASI ኮዶች እንዴት እንደሚያስኬድ ይመልከቱ, ወይም ማሳያ አሳይ.
ተደጋጋሚ ጥያቄዎች
በ OWASP ወኪል AI ከፍተኛ 10 ውስጥ ASI ምን ማለት ነው?
ASI ማለት ወኪል የደህንነት ተነሳሽነት ማለት ሲሆን ዝርዝሩን የጻፈው የOWASP GenAI የደህንነት ፕሮጀክት ቡድን ነው። እያንዳንዱ አደጋ ከASI01 (የወኪል ግብ ጠለፋ) እስከ ASI10 (የሮግ ወኪሎች) ኮድ ይይዛል፣ ልክ የLLM ዝርዝር LLM01 እስከ LLM10 እንደሚጠቀምበት ሁሉ።
የ OWASP LLM ከፍተኛ 10 ን የምከተል ከሆነ የ OWASP ወኪል AI ከፍተኛ 10 ያስፈልገኛል?
የእርስዎ የአይአይ (AI) ተግባር ላይ መዋል ከቻለ ብቻ። ጥያቄዎችን ብቻ የሚመልስ የቻትቦት ወይም የRAG መተግበሪያ በLLM Top 10 ይሸፈናል። መተግበሪያዎ መሳሪያዎችን ከጠራ፣ ማህደረ ትውስታን ከጠበቀ፣ ለሌሎች ወኪሎች ከተላከ ወይም የምስክር ወረቀቶችን ከተጠቀመ በኋላ የወኪሉ ዝርዝር የLLM ዝርዝር የማያስከትላቸውን አደጋዎች ይሸፍናል።
የማይንቀሳቀስ ትንተና የ OWASP ወኪል AI ከፍተኛ 10 አደጋዎችን መለየት ይችላል?
ለብዙዎቹ አዎ። የጎል ጠለፋ ገጽታዎች፣ ያልተጠበቁ መሳሪያዎች፣ ከመጠን በላይ መብት ያላቸው ምስክርነቶች፣ ተንኮል አዘል ክህሎቶች፣ ደህንነቱ ያልተጠበቀ የኮድ አፈፃፀም እና ያልተጸዳዱ የRAG ግብዓቶች ሁሉም በኮድ እና ውቅር ውስጥ ማስረጃዎችን ይተዋሉ። እንደ ሻካራ ውድቀት እና የተንኮል ወኪሎች ካሉ የቀጥታ ባህሪ የሚመጡ አደጋዎች ከላይ የሩጫ ጊዜ መቆጣጠሪያዎች ያስፈልጋቸዋል።







