የAI ወኪል ደህንነት ማለት ሞዴል በሚናገረው ነገር ላይ አይደለም። አንድ ወኪል የሚያደርገው ነገር ላይ ነው፡ የሚጠራቸው መሳሪያዎች፣ የሚያነበው መረጃ፣ የያዘው ምስክርነት እና በራሱ የሚጭናቸው ፓኬጆች።
እና አብዛኛዎቹ ቡድኖች የመጀመሪያውን ጥያቄ መመለስ አይችሉም፡- የትኞቹን ወኪሎች ነው በእርግጥ የምናስኬደው? እንደ LangChain ግራፎች፣ MCP አገልጋዮች፣ SKILL.md እያንዳንዱ ገንቢዎች አርብ ከሰዓት በኋላ ያዋቀሯቸው ፋይሎች እና የAI ኮድ ማድረጊያ መሳሪያዎች። ማንም ሰው አልገመገመቸውም፣ እና ተንኮል አዘል ክህሎት ግልጽ ጽሑፍ ብቻ ነው።
TL; DR
የAI ወኪል ደህንነት በአራት ደረጃዎች፡ ይመልከቱት፣ ነጥብ ይስጡት፣ ዑደቱን ይጠብቁ፣ ጭነቶችን ይጠብቁ
የማያዩዋቸውን ወኪሎች ደህንነት መጠበቅ አይችሉም። የAI ወኪል ደህንነት የሚጀምረው በኮድዎ ውስጥ ያሉትን የእያንዳንዱ ወኪል፣ የMCP አገልጋይ፣ ክህሎት፣ ሞዴል እና የAI ኮድ መሳሪያ ዝርዝር በመሰብሰብ ነው።
- ወኪሎች እንዴት እንደሚገነቡ ስጋት፡ የተጠቃሚ ግብዓትን፣ የመሳሪያ ጥሪ ወኪሎችን ያለ ምንም ነገር የሚያገናኙ ጥያቄዎች guardrails፣ ከመጠን በላይ መብት ያላቸው የምስክር ወረቀቶች እና የተደበቁ መመሪያዎች ያላቸው ክህሎቶች። አብዛኛው በኮድ ውስጥ፣ ከማሰማራቱ በፊት ይታያል እና ወደ ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASP.
- በዑደት ውስጥ ደህንነት; የኮድ ወኪሎች በዑደታቸው ውስጥ ደህንነት ያስፈልጋቸዋል፣ ስለዚህ የሚጽፉትን ከመቃኘታቸው በፊት ይቃኛሉ እና ያስተካክላሉ commitቴድ፣ ከሳምንታት በኋላ በቲኬት አይደለም።
- ጭነቶችን ይጠብቁ; ወኪሎችም ጥገኛዎችን ይጭናሉ። ፊርማ ከመኖሩ በፊት የሚሰራ የማልዌር ማወቂያ ተንኮል አዘል ፓኬጆችን የሚጭን ማንኛውም ሰው፣ ገንቢ ወይም ወኪልን ይሸፍናል።
- አንድ የስራ ፍሰት፦ የAI ግኝቶች ልክ እንደሌሎቹ የAppSec ግኝቶችዎ ተመሳሳይ ምርመራ፣ ቲኬቶች እና ሪፖርቶች ያልፋሉ።
የመጀመሪያው እርምጃ በማከማቻዎችዎ ውስጥ የ AI ክምችት ይገንቡ፣ እንደ AI-BOM ይላኩት፣ ከዚያም በCI ውስጥ አዲስ የወኪል ኮድ ያስገቡ።
የ AI ወኪል ደህንነት ለምን የተለየ ችግር ነው
የLLM ባህሪ ጽሑፍ ይመልሳል፣ እና አንድ ሰው ምን ማድረግ እንዳለበት ይወስናል። አንድ ወኪል ያንን ዑደት በራሱ ይዘጋል፡ ያቅዳል፣ መሳሪያዎችን ይደውላል፣ ድረ-ገጾችን፣ ኢሜይሎችን እና ሰነዶችን ያነባል፣ ፋይሎችን ይጽፋል እና ትዕዛዞችን ያሂዳል። ለአንድ ወኪል የሚሰጡት እያንዳንዱ ችሎታ አጥቂ ሊበደርበት የሚችል ችሎታ ነው።
OWASP ተመሳሳይ ልዩነት አድርጓል። ለ2026 ለወኪል አፕሊኬሽኖች ከፍተኛ 10 የ OWASP (ASI01 እስከ ASI10) በ ላይ ይገነባል ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASPየLLM ዝርዝር፡ ሞዴል ምን እንደሚል ይሸፍናል፤ የወኪሉ ዝርዝር ወኪል ምን እንደሚያደርግ ይሸፍናል።
አብዛኛዎቹ ድርጅቶች አሁን ሁለት አይነት ወኪሎችን ያካሂዳሉ፡
- በመተግበሪያዎችዎ ውስጥ የሚገነቡዋቸው ወኪሎች፡ እንደ LangChain፣ LangGraph፣ CrewAI፣ AutoGen፣ Semantic Kernel ወይም LlamaIndex ባሉ ማዕቀፎች የተገነቡ የድጋፍ ረዳቶች፣ ውስጣዊ ተባባሪ አብራሪዎች እና የስራ ፍሰቶች፣ ብዙውን ጊዜ ከመሳሪያዎች ጋር የተገናኙ የኤምሲፒ አገልጋዮች.
- ገንቢዎችዎ የሚጠቀሙባቸው የAI ኮድ አድራጊዎች፡ ክላውድ ኮድ፣ ጠቋሚ፣ የጂትሃብ ኮፓይለት፣ ዊንድሰርፍ እና ሌሎችም ኮድ የሚጽፉ፣ ውቅርን የሚያርትዑ እና ጥገኝነቶችን የሚጨምሩ ናቸው።
የAI ወኪል ደህንነት ሁለቱንም መሸፈን አለበት፣ ምክንያቱም ሁለቱም በእርስዎ ፈቃድ ስለሚሰሩ።
ደረጃ 1፡ እያንዳንዱን ወኪል፣ የኤምሲፒ አገልጋይ እና ክህሎት ይመዝግቡ
የAI ወኪል ደህንነት የሚጀምረው በጥያቄ ሰሌዳ ነው፣ እና ኦዲተሮች አሁን ይጠይቃሉ፡- ምን አይነት AI እያሄድን ነው? የኤጂኔ አይአይ ደህንነት ከምንጩ፡ ኮድ፣ ውቅር፣ መገለጫዎች እና ጥገኝነቶች ይመልሳል።
ሞዴሎችን፣ ወኪሎችን እና የወኪል አገልጋዮችን፣ የAI ማዕቀፎችን፣ የMCP አገልጋዮችን እና መሳሪያዎቻቸውን፣ ክህሎቶቻቸውን ያገኛል (SKILL.md, AGENTS.md)፣ ጥያቄዎች፣ guardrailsቬክተር ማከማቻዎች፣ የውሂብ ስብስቦች፣ የማጠቃለያ መጨረሻ ነጥቦች እና በማከማቻ ማከማቻዎችዎ ውስጥ የተዋቀሩ የAI ኮድ ማድረጊያ መሳሪያዎች። እንዲሁም እንዴት እንደሚገናኙ በካርታ ላይ ያስቀምጣል፡ የትኛው ወኪል የትኛውን ሞዴል እንደሚጠቀም፣ የትኞቹን መሳሪያዎች እንደሚያከናውን እና የትኞቹን የMCP አገልጋዮች እንደሚጠራ።
ውጤቱም በሳይክሎኔዲኤክስ ቅርጸት እንደ AI-BOM ወደ ውጭ የሚላክ ሕያው የAI ክምችት ሲሆን፣ በእያንዳንዱ ንብረት ላይ የአውሮፓ ህብረት የAI ህግ የአደጋ ምድብ መስክን ያካተተ የአስተዳደር መዝገብ አለው።
በኮድዎ ውስጥ ምን አይነት AI እንዳለ ማየት ይፈልጋሉ? ከአንድ መሐንዲስ ጋር ክፍለ ጊዜ ያስይዙ፣ እና የአንዱን የውሂብ ማከማቻዎችዎን የAI ክምችት እንገነባለን።
ደረጃ 2፡ ወኪሎች እንዴት እንደሚገነቡ አደጋዎችን ይወቁ
አብዛኛዎቹ የወኪል ተጋላጭነቶች እንግዳ አይደሉም። እነዚህ በክር ኮንኬቴኔሽን የተገነባ ፍንጭ፣ ምንም አይነት የግቤት መከላከያ የሌለው የመሳሪያ ጥሪ ወኪል ወይም ወኪሉ ከሚያስፈልገው በላይ ወሰን ያለው የምስክር ወረቀት ናቸው። ሁሉም በኮድ ውስጥ የጣት አሻራዎችን ይተዋል፣ ስለዚህ ከማሰማራትዎ በፊት በCI ውስጥ ሊይዟቸው ይችላሉ።
የ AI ወኪል በኮድ ውስጥ ሊይዙት የሚችሉትን አደጋ ላይ ይጥላል
እያንዳንዱ አደጋ የሚከተሉትን ያሳያል ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP ወይም የወኪል አጋሮቹ፣ ስለዚህ ግኝቶች ከኦዲተሮችዎ ጋር ተመሳሳይ ቋንቋ ይናገራሉ።
| አደጋ | በኮድ ውስጥ እንዴት እንደሚታይ | የ OWASP ካርታ ስራ |
|---|---|---|
| ፈጣን መርፌ | የስርዓት ጥያቄዎች የተጠቃሚውን ይዘት ያለ ሚና መለያየት፣ ገደብ ወይም ገደብ ሳያደርጉ የሚያገናኙ ናቸው። guardrails | LLM01 |
| ቀጥተኛ ያልሆነ መርፌ | ምንም ግብዓት የሌላቸው የመሳሪያ ጥሪ ወኪሎች guardrailsወይም ድረ-ገጾችን፣ ኢሜይሎችን ወይም ያልተጸዱ ሰነዶችን የሚወስዱ ወኪሎች | LLM01 |
| ደህንነቱ ያልተጠበቀ የውጤት አያያዝ | የሞዴል ውፅዓት መድረስ eval ወይም ሌሎች አደገኛ የውሃ ማጠራቀሚያዎች፣ በተለያዩ ተግባራት እና ፋይሎች ላይ የተከታተሉ | LLM05 |
| ከመጠን በላይ መብት ያላቸው የወኪል ማንነቶችየሰው ልጅ ያልሆነ የማንነት ጥቃት | የማይንቀሳቀሱ ረጅም ጊዜ የቆዩ ምስክርነቶች፣ ወሰን ሳይገድቡ የተጋሩ ምስክርነቶች፣ MCP ወይም የመሳሪያ አገልጋዮች ከፍ ያለ መብቶች ጋር እየሰሩ ናቸው | ASI03 |
| ተንኮል አዘል ወይም የፊደል አጻጻፍ ክህሎትየወኪል ክህሎት አቅርቦት ሰንሰለት | የተደበቁ ተንኮል አዘል መመሪያዎች በ ውስጥ SKILL.md or AGENTS.mdየታወቁ ክህሎቶችን ወይም ውህደቶችን የሚያስመስሉ የክህሎት ስሞች፣ | ከፍተኛ 10 የኤጀንቲካል ክህሎቶች |
| በጥያቄዎች ውስጥ ያሉ ምስጢሮች | የምስክር ወረቀቶች በጥያቄ ፋይሎች ውስጥ ተከማችተዋል | LLM07 |
እያንዳንዱ ግኝት የ OWASP LLM ከፍተኛ 10 ምድቡን፣ እንዲሁም የ OWASP ወኪል አፕሊኬሽኖች እና ወኪል ክህሎቶች መለያዎችን እና የተሳተፉትን የቀይ ቡድን የጥቃት ቬክተሮችን ይይዛል።
ክህሎቶች ልዩ ትኩረት ሊሰጣቸው ይገባል ምክንያቱም በችሎታ ፋይል ውስጥ ያለ ተንኮል አዘል መመሪያ ፕሮሴስ እንጂ ኮድ አይደለም፣ እና ፊርማ ሊያየው አይችልምና። የአማራጭ AI ግምገማ የተጠቆሙ የክህሎት እና የወኪል መመሪያ ፋይሎች ዓላማ በተሻሻለ፣ በተወሰነ ማዋቀር ይገመግማል፣ ስለዚህ ተመሳሳዩ ፋይል ሁልጊዜ ተመሳሳይ ፍርድ ያገኛል። በራስዎ በሚስተናገድ ሞዴል ላይ ሊሄድ ይችላል፣ ስለዚህ ኮድ እና ጥያቄዎች ከአካባቢዎ መውጣት የለባቸውም። የክህሎት ደረጃ ውጤት ከዚያም እነዚያን ምልክቶች ወደ አንድ መልስ ያዋህዳል፡ ደህንነቱ የተጠበቀ፣ ጥንቃቄ ያድርጉ ወይም አይጫኑ።
ወደ ጥልቅ ይሂዱ: ክፍለ ጊዜያችንን ይመልከቱ ፍንዳታ ራዲየስ፡ ወኪሉ ያልጠየቁትን ሲነካየአንድ ወኪል ፈቃዶች ከተግባሩ በላይ ሲደርሱ ምን እንደሚፈጠር።
ደረጃ 3፡ የደህንነት ኮድ ወኪሉ ዑደት ውስጥ ያስገቡ
የ AI ኮድ አድራጊዎች ይጽፋሉ እና commit ኮዱ ማንም ሰው ሊገመግመው ከሚችለው በላይ በፍጥነት። ከሁለት ሳምንት በኋላ በቲኬት ላይ የተገኘ ግኝት እምብዛም አይስተካከልም። ወኪሉ አሁንም እየሰራ እያለ ጥገናው መከሰት አለበት።
የXygeni MCP አገልጋይ በአካባቢው የሚሰራ ሲሆን MCPን የሚደግፍ ከማንኛውም የAI ኮድ ወኪል ጋር ይሰራል፣ ምንም አይነት ሞዴል ቢሰራም። ወኪሉ አሁን የጻፈውን ኮድ መቃኘት፣ አዲሶቹን ጉዳዮች መዘርዘር፣ የAI Triage ውሳኔዎችን ማግኘት እና ለሚከተሉት ማስተካከያዎች መጠየቅ ይችላል። SAST ና SCA ግኝቶች። ለውጡ ንጹህ እስኪሆን ድረስ፣ ምንም ነገር ከመከሰቱ በፊት ይደገማል commitቴድ፣ ቡድንዎ በሚያዘጋጃቸው ማጽደቆች።
ከእርስዎ ጋር ተመሳሳይ ሞተሮችን፣ ፖሊሲዎችን እና ድምጸ-ከል ደንቦችን ይጠቀማል pipelineስለዚህ ወኪሉ እና የእርስዎ CI በጭራሽ አይስማሙም። ከወኪሉ ጋር አብረው ለሚሰሩ ገንቢዎች፣ የIDE ተሰኪዎች ተመሳሳይ ግኝቶችን እና ጥገናዎችን ወደ አርታኢው ያምጡ።
ደረጃ 4፡ የትኞቹ ወኪሎች እንደሚጭኑ ይጠብቁ
የAI ኮድ አድራጊ በራሱ ጥገኝነት ሊጨምር ይችላል፣ እና አዲስ የታወቀ ስም ያለው ፓኬጅ ህጋዊ መሆኑን ለማረጋገጥ አያቆምም። አጥቂዎች ይህንን ያውቃሉ፣ እና ክፍት ምንጭ መዝገቦች የሚጠብቁት ቦታ ነው።
የማልዌር መከላከያ ፊርማ ከመኖሩ በፊት ተንኮል አዘል ፓኬጆችን ይጠቁማል፣ ማንም ሰው የጫናቸው፣ ገንቢ ወይም ወኪል። በገንቢው ማሽን ላይ፣ Shield ማንኛውም ነገር ከመከናወኑ በፊት ፖሊሲውን ያስፈጽማል፡ ለአዳዲስ ፓኬጆች ዝቅተኛው ዕድሜ፣ ለIDE ቅጥያዎች እና ተሰኪዎች ሽፋን፣ የተንኮል አዘል አመልካቾችን እና አደገኛ ጂኦግራፊዎችን ማገድ፣ እና አንድ ማሽን መቆጣጠር ሲያስፈልግ የመጨረሻ ነጥብ ማግለል።
በጥልቀት መሄድ ይፈልጋሉ?
በአስተናጋጁ ላይ ያለው ጉድለት እና የሚደርሰው የተጋለጠው የመጨረሻ ነጥብ አንድ ችግር ነው፣ ከአንድ ባለቤት ጋር። እና ሌላ የDAST መሳሪያ አስቀድመው ካሄዱ፣ Xygeni ውጤቶቹን ወደ ተመሳሳይ የአደጋ እይታ ያስገባል፣ እርስዎ እንዲተኩት ሳይጠይቅዎት።
ሁለቱም ንብርብሮች አብረው ሲሰሩ ማየት ይፈልጋሉ? ክፍለ ጊዜያችንን ይመልከቱ ከኮድ ወደ አሂድ ጊዜ፡ ለምን SAST + DAST ሁለቱም ለዘመናዊ መተግበሪያ ሴክ አስፈላጊ ናቸውየኮድ ግኝቶች እና የሩጫ ጊዜ ሙከራዎች እርስ በእርስ እንዴት እንደሚረጋግጡ የምናይበት።
አንድ የስራ ፍሰት፣ ሌላ ኮንሶል አይደለም
የAI ወኪል ደህንነት የራሱ ወረፋ ያለው የተለየ መሳሪያ ሲሆን ይከሽፋል። በXygeni ውስጥ፣ የAI ግኝቶች በተመሳሳይ ፈንጣጣ ውስጥ ያልፋሉ፣ የAI ትሪያጅቲኬቶችን እና ሪፖርቶችን እንደ ቀሪዎቹ ግኝቶችዎ። የ AI Remediation ለሁሉም አስር የ OWASP LLM ምድቦች አውድ-ተኮር የጥገና መመሪያ ይሰጣል፣ እና ASPM የ AI አደጋን ከኮድ፣ ጥገኝነት እና pipeline አደጋ በአንድ እይታ።
የ AI ወኪል ደህንነት እና ተገዢነት
ተቆጣጣሪዎች፣ ኦዲተሮች እና ደንበኞች እርስዎ የሚያስተዳድሩትን የ AI ዝርዝር እና አደጋው እንዴት እንደሚመደብ እየጠየቁ ነው። የአውሮፓ ህብረት AI ህግ ና ISO / IEC 42001 ሁለቱም ወደዚያ አቅጣጫ ይገፋፋሉ፣ እና AI-BOM እየሆነ መጥቷል standard በግዢ መጠይቆች ውስጥ ያለው እቃ።
በአንድ ንብረት የአደጋ ምድብ መስክ ያለው የAI ክምችት የአስተዳደር ቡድንዎ ለዚያ ሥራ ማስረጃ ይሰጣል። የአውሮፓ ህብረት የAI ህግ ዝግጁነትን ይደግፋል፤ የተስማሚነት ግምገማ አይደለም፣ እና የህግ ግምገማዎን አይተካም።
ወይም መካከለኛ መጠን ያላቸው ቡድኖች ቀላል ናቸው፡
- በእያንዳንዱ ላይ pull request: በተቀየረው ኮድ ላይ በCI ውስጥ የኤፒአይ ደህንነት፣ እና ተጨማሪ የDAST ቅኝቶች።
- ከዚህ በፊት commit: እንደ pre-commit በተደረደሩ ፋይሎች ላይ በር።
- በሌሊት ወይም በመዋሃድ ላይ፦ ሙሉ የ DAST ቅኝት።
- ከእያንዳንዱ ዋና ልቀት በፊት፦ የ AI ሙከራ ከደረጃ አሰጣጥ ጋር በማነፃፀር የተረፈውን መዝገብ ለማረጋገጥ እና እያንዳንዱ ጥገና ቀዳዳውን መዘጋቱን ለማረጋገጥ።
የኤፒአይ ደህንነት ስካነር በየትኛውም ቦታ ይሰራል፣ የአየር ክፍተት ያለባቸውን አካባቢዎችን ጨምሮ፣ እና ለ Xygeni SaaS ወይም ለእርስዎ ሪፖርት ያደርጋል on-premiseመድረክ። ውጤቶቹ እንደ JSON ይወጣሉ፣ SARIF 2.1.0, CSV እና ማርከዳውን ለ pull request አስተያየቶች.
የኤፒአይ ደህንነት ሙከራ እና ተገዢነት
በባንክ፣ በኢንሹራንስ ወይም በሕዝብ ዘርፍ ውስጥ ላሉ ቡድኖች፣ የኤፒአይ ደህንነት ሙከራም ማስረጃ ነው። እያንዳንዱ ግኝት የተገዢነት መለያዎችን ይይዛል ለ የጂዲፒአር አንቀጽ 32, PCI DSS 4.0 (መስፈርቶች 3.4፣ 6.4.3፣ 7.1፣ 7.2 እና 8) እና NIST SP 800-53 (AC-3፣ AC-6፣ IA-2፣ IA-5)፣ በመድረኩ ላይ እና በJSON እና SARIF ውፅዓት ውስጥ የሚታይ።
ድርጅትዎ ዝቅተኛ ደረጃ ላይ ከደረሰ ዶር or NIS2 እ.ኤ.አ.የሩጫ ጊዜ ሙከራ ተቆጣጣሪዎችዎ አሁንም በሚፈልጓቸው በእጅ የሚለኩ ሙከራዎች መካከል ቀጣይነት ያለው ማስረጃ ይሰጥዎታል።
የ AI ወኪል ደህንነትን በ7 ደረጃዎች እንዴት ተግባራዊ ማድረግ እንደሚቻል
የ AI ወኪል ደህንነት በእውነተኛ የልማት ቡድን ውስጥ በፍጥነት እንዲሰራ በሚያደርገው ቅደም ተከተል ውስጥ ተግባራዊ የማረጋገጫ ዝርዝር ይኸውና።
- ያግኙ
በማከማቻዎችዎ ውስጥ ያሉትን ሁሉንም የ AI ሀብቶች ይመዝግቡ
ወኪሎችን፣ የMCP አገልጋዮችን፣ ክህሎቶችን፣ ሞዴሎችን፣ ጥያቄዎችን እና የAI ኮድ መሳሪያዎችን ለማግኘት ሁሉንም የውሂብ ማከማቻዎች ይቃኙ እና ውጤቱን እንደ AI-BOM ይላኩ። ይህ የእርስዎ መነሻ መስመር እና እያንዳንዱ እርምጃ የሚሠራበት ዝርዝር ነው።
- በዓይነት መደበ
ለእያንዳንዱ ወኪል ባለቤት እና የአደጋ ደረጃ ይስጡ
ለእያንዳንዱ ወኪል፣ ማን ባለቤት እንደሆነ፣ የትኞቹን መረጃዎች እና መሳሪያዎች ማግኘት እንደሚችል እና የአውሮፓ ህብረት የአዕምሮ ህክምና ህግ የአደጋ ምድብ መዝግበው ይያዙ። ማንም ባለቤት ያልሆነ ወኪል ማንም የማያስተካክለው ወኪል ነው።
- አግኝ
በእያንዳንዱ ላይ በCI ውስጥ የወኪል ኮድ ይቃኙ pull request
ከሌሎች ቅኝቶችዎ ጎን ለጎን የAI ስጋት ማወቂያን ያሂዱ። የመነሻ መስመሩን ለማየት በማይታገድ ሁነታ ይጀምሩ፣ ከዚያም ቡድኖች አንዴ ካጸዱ በኋላ በCritical Fivenues ላይ ውህዶችን ያግዱ።
- ግምገማ
ማንኛውም ሰው ከመጫንዎ በፊት ክህሎቶችን ይገምግሙ
እንደ ክህሎት እና ወኪል መመሪያ ፋይሎችን ይቃኙ
SKILL.mdናAGENTS.mdየAI ፍላጎት ግምገማን ያብሩ እና "አትጫን" የሚለውን ፍርድ እንደ ከባድ ማቆሚያ አድርገው ይቆጥሩት። - ገድብ
የወኪል ፈቃዶችን ይቀንሱ
የማይንቀሳቀሱ የረጅም ጊዜ ምስክርነቶችን በተዘረጉ የምስክር ወረቀቶች ይተኩ፣ በተወካዮች መካከል የምስክር ወረቀቶችን ማጋራት ያቁሙ፣ እና የማይፈልጓቸውን ከፍ ያሉ መብቶች ያላቸውን MCP ወይም የመሳሪያ አገልጋዮችን በጭራሽ አያስኬዱ።
- በዑደት ውስጥ ያስተካክሉት
ደህንነትን በኮድ ወኪሉ ዑደት ውስጥ ያስገቡ
የAI ኮድ አድራጊዎችዎን ከደህንነት MCP አገልጋይ ጋር ያገናኙ ስለዚህ ኮዱን ከመቃኘታቸው በፊት የራሳቸውን ኮድ ይቃኙ እና ያስተካክላሉ commitቴድ፣ ልክ እንደ እርስዎ ባሉ ተመሳሳይ መመሪያዎች pipeline.
- ጠብቅ
በገንቢ ማሽኖች ላይ የሚያርፈውን ይጠብቁ
ለአዳዲስ ፓኬጆች ዝቅተኛውን ዕድሜ ያስፈጽሙ፣ ፊርማ ከመኖሩ በፊት ተንኮል አዘል ፓኬጆችን ለይተው ይወቁ፣ እና የIDE ቅጥያዎችን እና ተሰኪዎችን፣ የጫናቸውን ሰዎች፣ ገንቢ ወይም ወኪል ይሸፍኑ።
ከዚያም: እያንዳንዱን ግኝት ልክ እንደሌላው የAppSec ክፍልዎ ተመሳሳይ የሆነ የTraiage፣ የቲኬት አሰጣጥ እና የሪፖርት ማድረጊያ የስራ ፍሰት ያስይዙ፣ ስለዚህ የAI አደጋ በራሱ ወረፋ ውስጥ እንዳይወድቅ።
ከዚህ በፊት አግኝተኸው የማታውቀውን ወኪል ማስያዝ አትችልም
የAI ወኪል ደህንነት ሌላ ስካነር አይደለም። የትኞቹን ወኪሎች እንደሚያስተዳድሩ ማወቅ፣ እንዴት እንደተገነቡ አደጋውን መቆጣጠር፣ የደህንነት ኮድ ወኪሉ ዑደት ውስጥ ማስገባት እና ወኪሎች የሚጭኑትን መጠበቅ ነው። በክምችቱ ይጀምሩ፡ የተቀረው ነገር ሁሉ በእሱ ላይ የተመሰረተ ነው።
በኮድዎ ውስጥ ያሉትን ሁሉንም ወኪሎች፣ የMCP አገልጋይ እና ክህሎት ማየት ይፈልጋሉ? ከአንድ መሐንዲስ ጋር ክፍለ ጊዜ ያስይዙ የውሂብ ማከማቻዎችዎን የAI ክምችት ለመገንባት እና ግኝቶቹን ለመገምገም። ወይም በነፃ ይጀምሩ ከ AI ጋር SAST, SCA፣ የሚስጥር ማወቂያ፣ የIDE ተሰኪዎች እና በክፍት ምንጭ ፓኬጆች ላይ የማልዌር ማወቂያ። የክሬዲት ካርድ የለም።
የAI ወኪል ደህንነት ተደጋጋሚ ጥያቄዎች
የ AI ወኪል ደህንነት ከ LLM ደህንነት የሚለየው እንዴት ነው?
የኤልኤልኤም ደህንነት ማለት አንድ ሞዴል የሚናገረውን ነገር ነው፡ የፈሰሰ መረጃ፣ የተዛቡ መልሶች፣ ደህንነቱ ያልተጠበቀ ውጤት። የኤአይአይ ወኪል ደህንነት ማለት አንድ ወኪል በመሳሪያዎች፣ በማህደረ ትውስታ፣ በማረጋገጫ እና በሌሎች ወኪሎች የሚያደርገውን ነገር ነው። ለዚህም ነው OWASP በኤልኤልኤም ከፍተኛ 10 ላይ የተለየ ከፍተኛ 10 ለኤጀንቲክ አፕሊኬሽኖች (ASI01 እስከ ASI10) የሚያትመው።
በድርጅቴ ውስጥ የAI ወኪሎችን እና የMCP አገልጋዮችን እንዴት ማግኘት እችላለሁ?
ከኮዱ ይጀምሩ። Xygeni AI Security ወኪሎችን፣ የMCP አገልጋዮችን፣ ክህሎቶችን፣ ሞዴሎችን፣ ጥያቄዎችን እና የAI ኮድ ማድረጊያ መሳሪያዎችን በማከማቻዎችዎ ውስጥ ያገኛል፣ እንዴት እንደሚገናኙ ይቀርፃል፣ እና ውጤቱን እንደ AI-BOM በ CycloneDX ቅርጸት ይልካል። ከሌሎች ቅኝቶችዎ ጎን በCI ውስጥ ይሰራል።
ተንኮል አዘል ክህሎት ወይም የኤምሲፒ አገልጋይ ገንቢዎቼን ሊያጠቁ ይችላሉ?
አዎ፡ የክህሎት መመሪያዎች ግልጽ ጽሑፍ ናቸው፣ እና አንድ ወኪል የገንቢውን ፈቃድ ይዞ ይከተላቸዋል። Xygeni የተደበቁ ተንኮል አዘል መመሪያዎችን እና የክህሎት ስሞችን በማስመሰል ምልክት ያደርጋል፣ የአንድን ክህሎት ዓላማ በምርጫ-መግቢያ የAI ግምገማ ሊፈርድ ይችላል፣ እና እያንዳንዱን ክህሎት ደህንነቱ የተጠበቀ፣ ጥንቃቄ የተሞላበት ወይም ያልተጫኑ አድርጎ ሊመዘግብ ይችላል። የማልዌር መከላከያ እና Shield የሚያመጡትን ፓኬጆች እና የኤክስቴንሽን ወኪሎች ይሸፍኑ።







