የAI ደህንነት፡ ፈጣን መርፌ እና የኤምሲፒ አደጋን ይወቁ

የክህሎት ፋይል። የደንቦች ፋይል። የMCP አገልጋይ ውቅር። ሶስት መስመሮች ግልጽ ጽሑፍ፣ commitሰነዶችን ይወዳሉ፣ እንደ ሰነድ ይገመገማሉ፣ እና አንዳቸውም እንደ ኮድ አይመስሉም። ሆኖም ግን እያንዳንዱ ሰው የAI ረዳትዎ ምን እንዲያደርግ እንደታዘዘ እና ምን መድረስ እንዳለበት በጸጥታ እንደገና መጻፍ ይችላል። ይህ ከAI ደህንነት ጀርባ ያለው የማይመች እውነት ነው። 2026 ውስጥኢንዱስትሪው በAI የመነጨው ኮድ ምን እንደሚይዝ በመጨነቅ ለሁለት ዓመታት አሳልፏል። በጣም አስቸጋሪው ችግር የAI አቅርቦት ሰንሰለት ራሱ ሆነ፤ አሁን ከምንጭ ኮድዎ እና ከክፍት ምንጭ ጥገኞችዎ ጎን የተቀመጡት ሞዴሎች፣ ወኪሎች፣ የMCP አገልጋዮች እና የውቅር ፋይሎች፣ በአብዛኛው ያልተመዘገቡ እና ያልተገመገሙ። ለዚህም ነው የAI አቅርቦት ሰንሰለት ደህንነት የራሱ የሆነ ዲሲፕሊን የሆነው፣ እና ትክክለኛውን የAI ደህንነት ኩባንያ መምረጥ ትክክለኛውን ስካነር ከመምረጥ ጋር እኩል አስፈላጊ የሆነው።

ማንም በጀት ያልጠየቀበት የጥቃቱ ገጽታ

አንድ አጥቂ ሊያገኛቸው የሚችላቸው ጥቂት ቦታዎች የነበሩት ሶፍትዌሮች፡ ኮዱ፣ ጥገኞቹ፣ pipeline. AI ሁለት ተጨማሪ አክሏል፣ እና ሁለቱም በቀጥታ ወደ AI አቅርቦት ሰንሰለት ይገባሉ።

ሞዴሉ እና ወኪሉ። የመሳሪያ መመረዝ፣ ፈጣን መርፌ፣ ወኪል በራስ ገዝነት የሚተዳደር። በMCP አገልጋይ መግለጫ ውስጥ የተደበቀ መመሪያ ተባባሪ አብራሪ የሚያደርገውን ነገር በጸጥታ ሊያዞር ይችላል፣ እና ገንቢው ይህ ሲከሰት በፍፁም አያየውም።

የገንቢው የራሱ አካባቢ። IDEዎች፣ AI ተባባሪ አብራሪዎች፣ የMCP አገልጋዮች፣ ወኪል CLIዎች። ሞዴሉ ምን እንደሆነ የማያውቁ እና ለEDR የማይታዩ፣ ስርዓተ ክወናውን የሚከታተሉ እና ጥገኝነት ወይም የMCP ጥሪ ምን እንደሆነ የማያውቁ አሮጌ የAppSec ስካነሮች የማይታዩ።

ከዚህ ውስጥ አንዳቸውም ቲዎሪቲካል አይደሉም። ባለፉት አስራ ስምንት ወራት ውስጥ፡

የተደበቀ-ዩኒኮድ “ደንቦች የጀርባ በር ፋይል ያደርጋሉ” አጥቂዎች ኮፓይለት እና ጠቋሚው በሚያነቡት የውቅር ፋይሎች ውስጥ የማይታዩ መመሪያዎችን እንዲጨምሩ ያስችላቸዋል፣ ረዳቱ በጸጥታ የኋላ በር ኮድ ፈጥሯል። GitHub በ2025 ለእሱ ማስጠንቀቂያ አክሏል።
በታዋቂው የኤምሲፒ ድልድይ (CVSS 9.6) ላይ የተጫነ የትዕዛዝ መርፌ ጉድለት ከመስተካከሉ በፊት ከ400,000 በላይ ውርዶችን አስከትሏል፣ ይህም የመጀመሪያው የተረጋገጠ የሙሉ የርቀት ኮድ አፈፃፀም ጉዳይ ከማይታመን የኤምሲፒ አገልጋይ ጋር በመገናኘት የተፈጠረ ነው።
ራሱን የሚያሰራጭ የnpm ትል ገንቢዎችን እራሳቸውን ወደ ማድረሻ ዘዴ ቀይሯቸዋል፣ እና በሚቀጥሉት ወራት በሌሎች ሥነ-ምህዳሮች ላይ በስፋት የተደጋገመው ንድፍ፣ የAI የአቅርቦት ሰንሰለት ደህንነት ውድቀት የመማሪያ መጽሐፍ።
ተመራማሪዎቹ LLMs የሚመክሩት ፓኬጆች ትርጉም ያለው ድርሻ ጨርሶ እንደማይኖሩ ደርሰውበታል፣ “slopsquatted” የሚለው ቃል አንድ አጥቂ ሞዴሉን እንዲያስመጣ ከመጠየቁ በፊት ይመዘግባል።

የጉግል የAI ሶፍትዌር አቅርቦት ሰንሰለትን ለማስጠበቅ ያደረገው ጥናት ከተለየ አቅጣጫ ተመሳሳይ መደምደሚያ ላይ ደርሷል፡ በ2023 እና 2024 ሲዘዋወሩ የተገኙት ሞዴሎች ውሂብን የሚያወጣ ወይም አንዴ ከወረደ በኋላ የኋላ በር የሚተክል ኮድ ይዘው ሲሄዱ ህጋዊ ይመስላሉ፣ እና ጥገናው እንደ ምንጭ እና ፊርማ ያሉ የአቅርቦት ሰንሰለት ዲሲፕሊንን ከዚህ በፊት ማንም ሰው ክትትል ባላደረገው ቅርሶች ላይ ተግባራዊ ከማድረግ የበለጠ አዲስ የመሳሪያ ምድብ አልነበረም። ይህ በአንድ ዓረፍተ ነገር ውስጥ የAI አቅርቦት ሰንሰለት ደህንነት ችግር ነው፡ ቅርሶቹ አዲስ ናቸው፣ ነገር ግን የሚያስፈልጋቸው ዲሲፕሊን አይደለም።

አሁን ያሉዎት መሳሪያዎች ለምን በአጭር ጊዜ ውስጥ ይቆማሉ

SAST ኮድ ያነባል. SCA የጥገኝነት መገለጫን ያነባል። ማንም ሰው ሞዴል ምን እንደሆነ፣ የኤምሲፒ አገልጋይ ምን እንደሚያጋልጥ ወይም የክህሎት ፋይል አንድን ወኪል ምን እንዲያደርግ እንደሚያዝዝ አያውቅም። ያ ክፍተት የአይአይ ዘመን ጥቃት የሚሰነዝርበት፣ በ"የምንቃኘው ኮድ" እና "በጸጥታ የተቀበልነው አይአይ" መካከል ባለው ክፍተት ውስጥ ነው።

ውጤቱም የጥላ AI ቁጥር ምድብ ነው CISበአሁኑ ጊዜ O ለሚለው መልስ መስጠት ይችላል፡- የትኞቹን ሞዴሎች እየሰራን ነው፣ የትኞቹ ወኪሎች ምን መድረስ እንደሚችሉ እና የትኛውን የMCP አገልጋይ ባለፈው ማክሰኞ አንድ ሰው ማንንም ሳይናገር እንዳገናኘው ነው። ለዚህ ጥያቄ ጥሩ መልስ መስጠት የAI አቅርቦት ሰንሰለት ደህንነት ስራ ነው፣ እና አጠቃላይ የAppSec መሳሪያዎች እዚህ ላይ እየጠፉ መምጣታቸውን የቀጠሉት ለዚህ ነው።

የ AI ደህንነት በእርግጥ ምን ማለት ነው

ዚጌኒ ይህንን በ AI በኩል እንደ ሶስት የተገናኙ እንቅስቃሴዎች አድርጎ የሚመለከተው የደህንነት ኩባንያ ነው። SDLC: ያግኙ፣ ያግኙ እና ያስፈጽሙ።

ያግኙ: በእውነቱ ምን አይነት AI እንዳለዎት ይወቁ

በማከማቻዎችዎ ገጽታዎች ላይ ቀጣይነት ያለው፣ አውቶማቲክ ግኝት እያንዳንዱ የAI ሀብት፡ ሞዴሎች፣ ማዕቀፎች፣ የውሂብ ስብስቦች፣ የግምታዊ መጨረሻ ነጥቦች፣ ወኪሎች፣ የMCP አገልጋዮች፣ ክህሎቶች፣ ጥያቄዎች፣ guardrailsእና ገንቢዎችዎ በእውነቱ የሚጠቀሙባቸው የAI ኮድ ማድረጊያ መሳሪያዎች። ምንም የዳሰሳ ጥናቶች የሉም። ምንም የራስ ሪፖርት ማድረግ የለም። በማከማቻ ውስጥ ዱካ ቢተው፣ በክምችት ውስጥ ይታያል፣ ይህም የመጀመሪያው እና በጣም መሠረታዊው የእውነተኛ የAI አቅርቦት ሰንሰለት ደህንነት መስፈርት ነው።

ከዚያም የAI ግራፍ እነዚያ ንብረቶች እንዴት እንደሚገናኙ ያብራራል፡- የውሂብ ስብስብ ምግቦችን የሚወክል የትኛው ሞዴል ነው፣ የትኛው ወኪል የትኛውን መሳሪያ ይጠቀማል፣ የትኛው የMCP አገልጋይ ከየትኛው ረዳት ጀርባ ይቀመጣል። በተናጠል የሚገኝ ንብረት ብዙም አይነግርዎትም። ግራፉ አደጋው የት እንደሚያተኩር ያሳያል።

ከዚያው ግኝት፣ Xygeni አንድን ነገር ያመነጫል AI-BOM፦ በሶፍትዌርዎ ውስጥ ከAI ጋር የተያያዙ ሁሉንም ነገሮች ለኦዲት ዝግጁ የሆነ፣ ማሽን-ሊነበብ የሚችል ዝርዝር። አንድ ተቆጣጣሪ፣ ኦዲተር ወይም ደንበኛ ምን አይነት AI እያሄዱ እንደሆነ ሲጠይቅ፣ መልሱ የሶስት ሳምንት ሩጫ ከመሆን ይልቅ ማውረድ ይሆናል።

ፈልግ፡- የተለመዱ ስካነሮች ሊያዩዋቸው የማይችሏቸው አደጋዎች

አንድ የተወሰነ የAI ስካነር ለAI ስርዓቶች የተወሰኑ የውድቀት ሁነታዎችን ይፈልጋል፡ ፈጣን መርፌ፣ የመሳሪያ መርፌ እና የማይታመን የመሳሪያ ጥሪ፣ የውሂብ መፍሰስ በማምጣት፣ የስርዓት ፕሮምፕል ማለፊያ፣ ከመጠን በላይ ወኪል። እያንዳንዱ ግኝት ወደ ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP እና ተጋላጭነቱን የሚፈጥረውን ትክክለኛ ፋይል እና መስመር ይጠቁማል፣ ግልጽ ያልሆነ "የAI አጠቃቀምዎን ይገምግሙ" ማንቂያ አይደለም።

ተመሳሳዩ የፍተሻ ንብርብር የክህሎት ፋይሎችን፣ ፋይሎችን እና የMCP ውቅሮችን እንደ ምንም ጉዳት የሌላቸው ሰነዶች ሳይሆን እንደ የደህንነት ቅርሶች አድርጎ ይመለከታቸዋል። ተንኮል አዘል ወይም የተመረዙ ክህሎቶችን ይጠቁማል፣ ለመሳሪያ መመረዝ የMCP አገልጋይ ውቅሮችን ይመረምራል፣ እና የAI የስራ ጫናዎን በትክክል የሚያንቀሳቅሱትን ጥያቄዎች ያሳያል።

ቅድሚያ ይስጡ፡- ድምጾችን የሚቀንስ ፈንጋይ እንጂ ማዕዘኖች አይደሉም

እያንዳንዱ ግኝት ቀስ በቀስ ይጣራል፡ በመተግበሪያ ኮድ ውስጥ ወደሚገኘው፣ ከዚያም በእውነት ጥቅም ላይ ሊውል ወደሚችለው፣ ከዚያም ቡድንዎ በንቃት እያዳበረ ባለው ኮድ ውስጥ ወደሚገኘው። የገንቢው ወረፋ የሚደርሰው ምርትን አደጋ ላይ የሚጥለው አጭር ዝርዝር ሲሆን ይህም የማዕቀፍ ማጣቀሻ፣ የተጋላጭነት መስኮት እና የማስተካከያ መመሪያ ተያይዟል።

አስፈጽም፡ ከመሄዱ በፊት አቁም

Shield የፖሊሲ አፈፃፀምን ወደ ገንቢው መጨረሻ ያመጣል፡ ማንኛውም ነገር ከመፈጸሙ በፊት ያልተፈቀዱ እና ተንኮል አዘል ጭነቶችን፣ ያልተፈቀዱ ሞዴሎችን እና ያልተፈቀዱ የኤምሲፒ አገልጋዮችን ያግዳል። ከሱ ስር የXygeni's የማልዌር ቅድመ ማስጠንቀቂያ (MEW)ፊርማ ከመኖሩ በፊት ተንኮል አዘል ፓኬጆችን የሚይዝ፣ በንብርብሮች ላይ የተመሰረቱ የዝና ላይ የተመሰረቱ መሳሪያዎች አሁንም ያምናሉ ምክንያቱም ማንም ሰው ፓኬጁን እስካሁን ሪፖርት ስላላደረገ። የAI አቅርቦት ሰንሰለት ደህንነት ማስፈጸሚያ ግማሽ ነው፡ ግኝት እና ማወቅ ምን ችግር እንዳለ ይነግርዎታል፣ Shield በእውነቱ የሚያቆመው ነገር ነው።

የእርስዎ የAI ተጋላጭነት በእርስዎ የAI ኮድ ውስጥ ብቻ አይደለም

የተሟላ የ AI አቅርቦት ሰንሰለት ደህንነት ምስል ከሞዴል ክምችት የበለጠ ነገር ይፈልጋል፣ እና አልፎ አልፎ አስቂኝ ነገሮች ብቻ ናቸው፡

የኤአይ አቅራቢ ምስክርነቶች በጥያቄ ፋይሎች፣ በወኪል ውቅሮች ወይም pipeline ምዝግብ ማስታወሻዎች እንደሌሎች ሚስጥሮች ናቸው፣ እና የXygeni ምስጢሮች መለየታቸው ወደ ይፋዊ መዝገብ ከመድረሳቸው በፊት ይይዛቸዋል።
ተጋላጭ የሆኑ የAI እና የML ጥገኝነቶች ተራ CVEዎችን ይይዛሉ፣ ይህም የቀረውን የቁልልዎን ክፍል የሚሸፍነውን ተመሳሳይ የሶፍትዌር ቅንብር ትንተና ያሳያል። በAI ተቀባይነት ላይ የሶስተኛ ወገን ጥናት እንደሚያሳየው ዘመናዊው የAI ቁልል ምን ያህል ከውጭ የተገኙ ፓኬጆች እና የተደበቁ ክፍሎች እንደሆኑ አመልክቷል፣ ይህም በትክክል የገጽታ ሶፍትዌር ቅንብር ትንተና ለመሸፈን የተገነባ ነው።
ተንኮል አዘል ፓኬጆች ከማንኛውም ምክር በበለጠ ፍጥነት የታተመ pipeline አስቀድመው ፊርማቸውን ሲያስቀምጡ፣ የቀረውን የአቅርቦት ሰንሰለትዎን የሚጠብቅ ተመሳሳይ የMEW አቅም ሊኖር ይችላል።

የኤጀንሲው ንብርብር፡ DevAI እና CoreAI

ግኝት እና ማወቂያ አስቀድሞ በማከማቻ ማከማቻዎችዎ ውስጥ ያለውን ይሸፍናሉ። ዴቭኤአይ አደጋው በሚፈጠርበት ቦታ ይሰራል፡ በIDE ውስጥ፣ እንደ ቀጣይነት ያለው፣ ፕሮግረሲቭ ንብርብር ሆኖ በሰው እና በ AI የተፈጠረ ኮድ እንደተጻፈ የሚቃኝ ሲሆን ምንም አይነት ጥያቄዎች አያስፈልጉም። ከግኝቱ ጀርባ ያለውን ሙሉ የፍተሻ መንገድ ያብራራል እና አንድ ገንቢ ግንባታውን ሳይሰብር በልበ ሙሉነት ሊተገብራቸው የሚችላቸውን በMCP የተረጋገጡ ጥገናዎችን ያቀርባል።

ኮርአይአይ እንደ የስለላ ንብርብር ከግለሰብ ስካነሮች በላይ ይቀመጣል፡ ከኮድ፣ ከጥገኝነት፣ pipelineእና መረጃን ወደ አንድ የአደጋ ሞዴል ማስቀመጥ፣ ጥያቄዎችን በተፈጥሯዊ ቋንቋ ይመልሳል፣ እና የደህንነት መሪው አስተዳደር እየተከናወነ መሆኑን ለማሳየት የሚያስፈልገውን ለአስፈፃሚዎች ዝግጁ የሆነ ሪፖርት ያቀርባል፣ ይህም ብቻ ሳይሆን፣ እየተከናወነ መሆኑን ያሳያል።

በAI ደህንነት ውስጥ ያለዎትን ያራዝሙ። ምንም ነገር አይዝረፉ

ለአዲስ የደህንነት ምድብ በጣም የተለመደው ተቃውሞ "አስቀድመን በቂ መሳሪያዎች አሉን" የሚለው ነው። እንደ AI የደህንነት ኩባንያ፣ Xygeni ምንም ነገር እንዲተኩ አይጠይቅዎትም፡ ለራሱ ግኝቶች የተተገበረው ተመሳሳይ ልዩነት፣ ማብራሪያ እና ቅድሚያ መስጠት ከነባር ግኝቶችዎ ጋር እኩል ይሰራል። SAST, SCAእና የሶስተኛ ወገን ስካነሮች። የአሁኑ ቁልልዎ ግብዓት ይሆናል፣ አደጋ ላይ የሚጥል ሳይሆን፣ እና የAI አቅርቦት ሰንሰለት ደህንነት አቀማመጥዎ ከእሱ ጋር የተያያዘ መዘበራረቅ እና መተካት ሳይኖር ይሻሻላል።

ይህ አሁን ለምን አስፈላጊ ነው፣ በኋላ ላይ አይደለም

ተቆጣጣሪዎች ከተለያዩ አቅጣጫዎች በተመሳሳይ ሁኔታ እየተሰባሰቡ ነው፡- የአውሮፓ ህብረት የኤአይ ህግ፣ NIS2 እና የስፔን ENS ሁሉም ለኤአይ ሲስተሞች ክምችት እና ክትትል ለማድረግ ይጥራሉ፣ ይህም ኤአይ-ቦም ለማምረት የተገነባበት ተመሳሳይ ማስረጃ ነው። ትክክለኛው የተገዢነት ሜካኒኮች አሁንም በሚቀመጡበት ቦታ እንኳን የጉዞ አቅጣጫ ግልጽ ነው፡- በጭራሽ ክምችት እንዳላደረጉ የኤአይ ማስረጃ ማቅረብ አይችሉም፣ እና የአቅርቦት ሰንሰለቱ ራሱ ለእርስዎ የማይታይ ከሆነ የኤአይ የአቅርቦት ሰንሰለት ደህንነት መጠየቅ አይችሉም።

የ AI ደህንነት ኩባንያ መምረጥ

እያንዳንዱ የAI ደህንነት ኩባንያ ድንበሩን በአንድ ቦታ አያስቀምጥም። አንዳንዶች የራስዎን የAI-የመነጨ ኮድ በመቃኘት ያቆማሉ። ሌሎች ደግሞ በመጨረሻው ነጥብ ላይ ያቆማሉ። የAI አቅርቦት ሰንሰለት ደህንነት ጥያቄ ከሁለቱም ክፍሎች የበለጠ ትልቅ ነው፡ ሞዴሉን፣ ወኪሉን፣ የMCP ሰርቨርን፣ የክህሎት ፋይሉን እና ከሁሉም በታች ያለውን ተራ ጥገኝነት ይሸፍናል። ያ ሙሉ የሕይወት ዑደት እይታ፣ ከግኝት እስከ ማስፈጸሚያ፣ በአንድ ኮንሶል ውስጥ ከቀሪዎቹ የAppSec ግኝቶችዎ ጋር፣ የAI ደህንነት ኩባንያን ሲገመግሙ የሚፈለገው አንድ ነጥብ መሳሪያ ከመገመገም ይልቅ ነው።

የማንም ግምገማዎች ፋይሎች ወደ ውስጥ ገብተዋል። የAI ደህንነት እነሱን የመገምገም ዲሲፕሊን ሲሆን የAI አቅርቦት ሰንሰለት ደህንነት ደግሞ ያንን ዲሲፕሊን ከጫፍ እስከ ጫፍ እንዲቆይ የሚያደርገው ሌላውን ነገር ሁሉ አስቀድመው በሚገመግሙበት መድረክ ላይ ነው።

የእርስዎ የአይአይ (AI) በትክክል ምን ማድረግ እንደተፈቀደለት ይመልከቱ። በነፃ ይጀምሩ or አንድ ማሳያ የጊዜ ሰሌዳ ያውጡ.

የAI ደህንነት፡- የማይገመገሙ ፋይሎች አሁን ትልቁ የጥቃት ወለልዎ ናቸው

መነበብ ያለባቸው ልጥፎች