TL; DR
"የሰው ሰራሽ የማሰብ ችሎታ ደህንነት ስጋቶች" ሁለት የተለያዩ ነገሮችን ያጠቃልላል፤ እነሱም በሰው ሰራሽ የማሰብ ችሎታ ስርዓቶች ላይ ያነጣጠሩ ጥቃቶች እና ሰው ሰራሽ የማሰብ ችሎታን እንደ መሳሪያ የሚጠቀሙ ጥቃቶች ናቸው። የተለያዩ ቁጥጥሮች፣ የተለያዩ ባለቤቶች እና የተለያዩ ማስረጃዎች ያስፈልጋቸዋል፣ እና አብዛኛዎቹ ዝርዝሮች አንድ ላይ ያዋህዷቸዋል፣ ለዚህም ነው ተግባራዊ ለማድረግ በጣም አስቸጋሪ የሆኑት። ከዚህ በታች ያሉት የመጀመሪያዎቹ አምስት የእርስዎን የአይአይ ዒላማ ያደረጉ ናቸው። ሁለተኛው አምስት በአቅርቦት ሰንሰለትዎ ላይ የአይአይአይ ይጠቀማሉ።
- ለ AI ስርዓቶች የሚደረጉ ስጋቶች በአብዛኛው የሚኖሩት በሞዴሉ ውስጥ ሳይሆን በውቅረት ውስጥ ነው። የመሳሪያ ወሰን፣ አንድ ወኪል የሚያሄድበት የምስክር ወረቀት፣ የደንቦች ፋይል፣ እና
.mcp/servers.jsonመግቢያ። ከሞዴል መጨረሻ ነጥብ አንዳቸውም ሊደረስባቸው አይችሉም፣ ለዚህም ነው ቀይ-ቲሚንግ ብቻውን ወደ ቀድሞ ሁኔታው የሚመለሰው። - በAI የሚመሩ ጥቃቶች በአብዛኛው የሚመጡት በፔሚሜትርዎ በኩል ሳይሆን በጥገኛዎች ነው። በአጥቂዎች የተመዘገቡ ምናባዊ የጥቅል ስሞች፣ የገንቢ ምስክርነቶችን በመጠቀም እራሳቸውን የሚያሰራጩ ትሎች፣ የAI አቅራቢ ቁልፎችን እንደ ዓላማው።
- ከአስርቱ ዘጠኙ ስለተወሰኑ ነገሮች ጥያቄዎች ናቸው። የትኞቹ የኤምሲፒ አገልጋዮች፣ የትኞቹ ወኪሎች፣ የትኛው ወሰን፣ የትኛው ምስክርነት፣ የትኛውን ፋይል የሚገዛ፣ የትኛውን ጥቅል። የፖሊሲ ሰነድ አንዳቸውንም አይመልስም።
- እያንዳንዳቸው አስር ቅድመ ሁኔታ አላቸው። እስካሁን ያላሳየኸውን የAI ሀብት መከላከል አትችልም፣ ይህም ግኝትን ከቁጥጥሮቹ በፊት ያለውን እርምጃ ከመውሰድ ይልቅ ከቁጥጥሮቹ በፊት ያለውን እርምጃ ያደርገዋል።
ሁለቱ የ AI የደህንነት ስጋቶች ምንድናቸው?
አብዛኛዎቹ የAI ደህንነት ስጋቶች ዝርዝሮች ሁለቱን ያቀላቅላሉ፣ ለዚህም ነው እርምጃ ለመውሰድ አስቸጋሪ የሆኑት።
- ለ AI ስርዓቶች የሚደረጉ ስጋቶች የእርስዎን AI እንደ ኢላማ አድርገው ይቆጥሩት። አንድ ሰው ሞዴልን ያዛባል፣ የሚከተላቸውን መመሪያዎች ይመርዛል ወይም ወኪል የተሰጠውን ፈቃድ አላግባብ ይጠቀማል። የተከላካዩ ሥራ መቆጣጠር ነው፡ የተጎዳው AI ሊደርስ የሚችለውን መጠን መቀነስ።
- በአይአይ የሚመሩ ጥቃቶች AIን እንደ አጥቂ መሳሪያ አድርገው ይቁጠሩት። ኢላማው የእርስዎ ተራ ሶፍትዌር ነው፡ ጥገኝነቶች፣ ምስክርነቶች፣ የግንባታ ስርዓቶች፣ ገንቢዎች። የተከላካዩ ስራ በፍጥነት መለየት ነው፣ ምክንያቱም የጥቃቱ ኢኮኖሚ ተለውጧል እና መጠኑ ጨምሯል።
የተለያዩ መቆጣጠሪያዎች፣ የተለያዩ ባለቤቶች እና የተለያዩ ማስረጃዎች ያስፈልጋቸዋል። ቻትቦትን ቀይሮ የሰራ ቡድን ስለ slopsquatting ምንም አላደረገም። እጅግ በጣም ጥሩ የጥገኝነት ምርመራ ያለው ቡድን አሁንም የምርት ማከማቻዎችን የመፃፍ መዳረሻ እና የወሰን ገደብ የሌለው ወኪል እያስኬደ ሊሆን ይችላል። ሁለቱም የ AI ደህንነት ስጋቶች ናቸው። ሁለቱም አንዳቸውም ሌላውን አይሸፍኑም።
ለ AI ስርዓቶች የሚደረጉ ስጋቶች፡- ብዙውን ጊዜ የሚያርፉት አምስቱ
01. ወደ መሳሪያ ማጠቢያ የሚደርስ ፈጣን መርፌ
የማይታመን ይዘት ይመጣል፣ ከስርዓት ጥያቄ ጋር ይዋሃዳል፣ እና በሌላኛው በኩል ያለው ወኪል መሳሪያዎችን መጠቀም ይችላል። ጥያቄው ተጋላጭነቱ አይደለም። ከማይታመን ግብዓት ወደ አደገኛ ችሎታ የሚወስደው መንገድ ነው።
ለዚህ ነው የፈጣን ማጣሪያ ብቻውን የሚያሳዝነው። የሰንሰለቱን አንድ ጫፍ የሚያጠነክረው ሲሆን አስደሳችው ጥያቄ ግን የጥበቃ መደገፊያ በግቤት እና በመሳሪያ ጥሪ መካከል መቀመጡን ነው። ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP ፈጣን መርፌ በዝርዝሩ አናት ላይ ያስቀምጣል፣ ነገር ግን በዚህ ምክንያት ከመጠን በላይ ወኪል ከሆነው ጋር ያጣምረዋል።
ምን እንደሚፈለግ የስርዓት ጥያቄን የሚደርስ የማይታመን ግብዓት፣ ያለ ንፅህና የማገገሚያ ምግብ አውድ እና በመካከላቸው ምንም መከላከያ የሌላቸው ሊደረስባቸው የሚችሉ የመሳሪያ ማጠቢያዎች።
02. ተንኮል አዘል ደንቦች እና የክህሎት ፋይሎች
የደንቦች ፋይል ተራ ጽሑፍ ነው። commitሰነዶችን ወድጄዋለሁ እና እንደ ሰነዶች ተገምግሟል፣ እና ረዳቱን ምን ማድረግ እንዳለበት ያስተምራል። ዜሮ-ስፋት ያላቸው ቁምፊዎች መስመሮችን በ ውስጥ የማይታዩ ያደርጋቸዋል። pull request ለተወካዩ ፍጹም በሆነ መልኩ ለማንበብ በሚችልበት ጊዜ ልዩነት።
ሚትር አትላስ ይህንን እንደ የህጎች ፋይል Backdoor፣ የጉዳይ ጥናት AML.CS0041 አድርጎ ካታሎግ ያደርጋል። ገምጋሚው የቅርጸት ኮንቬንሽን ያፀድቃል። ወኪሉ ከአጥቂ ቁጥጥር የሚደረግበት ፓኬጅ እንዲያስመጣ እና ስለሱ ምንም እንዳይናገር መመሪያ ያነባል።
ምን እንደሚፈለግ የደንቦች ፋይሎች፣ የክህሎት ፋይሎች እና የጥያቄ አብነቶች ከፕሮዝ ይልቅ እንደ ኮድ ተተነተኑ፣ በማይታይ-ገጸ-ባህሪ ማወቂያ።
03. ደህንነቱ ያልተጠበቀ የኤምሲፒ አገልጋይ ውቅር
የኤምሲፒ ውቅር አንድ ወኪል ትዕዛዞቹን የሚወስድበት እና የምስክር ወረቀቶቹ የሚከማቹበት ቦታ ነው። ሁለቱም ግማሾች ችግር ናቸው። በሐምሌ 2025 የተገለጸው CVE-2025-6514፣ በስፋት ጥቅም ላይ በዋለ የኤምሲፒ ድልድይ ውስጥ ወሳኝ የስርዓተ ክወና ትዕዛዝ መርፌ ነበር፣ የ9.6 CVSS ነጥብ ይዞ እና ከማይታመን አገልጋይ ጋር ሲገናኝ በደንበኛው አስተናጋጅ ላይ የዘፈቀደ ትዕዛዞችን ይፈቅዳል።
የማረጋገጫ ግማሹ የባሰ ነው ምክንያቱም ተዘዋዋሪ ነው። በ2026 የተደረገ ጥናት ከ24,000 በላይ ሚስጥሮች በሕዝብ GitHub ላይ በMCP ውቅር ፋይሎች ውስጥ ተቀምጠዋል፣ ከ2,000 በላይ የሚሆኑት አሁንም ትክክል ናቸው።
ምን እንደሚፈለግ ጥቅም ላይ የዋሉ የMCP አገልጋዮች ዝርዝር፣ ስሪቶቻቸው፣ የተገለጹ መሣሪያዎቻቸው እና በውቅረት ፋይሎች ላይ የሚሰሩ ሚስጥራዊ ማወቂያዎች።
04. ከልክ ያለፈ ወኪልነት
ሰፊ የመሳሪያ ወሰን እና ረጅም ጊዜ የሚቆይ የምስክር ወረቀት የተሰጠው ወኪል ቀስቅሴን የሚጠብቅ የቆመ መብት ማስፋፊያ ነው። ይህ እንዲጎዳ ምንም ነገር መጠቀም የለበትም። ግራ የተጋባ ወኪል እና የተጎዳ ወኪል ሁለቱም በጭራሽ የማያስፈልጋቸውን የመጻፍ መዳረሻ ሲኖራቸው ተመሳሳይ ጉዳት ያደርሳሉ።
ይህ በዝርዝሩ ውስጥ በጣም ማራኪ እና በጣም የተለመደ ነገር ነው። እንዲሁም በጣም ርካሹን ማስተካከያ አለው፣ ይህም የቦታ ቅነሳ ነው፣ እና ጥገናው እምብዛም አይተገበርም ምክንያቱም ማንም ጥያቄውን ባለቤት አይደለም።
ምን እንደሚፈለግ የትኞቹ ወኪሎች እንዳሉ፣ እያንዳንዱ ምን ሊጠራ እንደሚችል፣ በማን ምስክርነት ስር፣ እና ማንም ሰው ያንን ወሰን ፈቅዶ እንደሆነ።
05. የተመረዙ ሞዴሎች፣ የውሂብ ስብስቦች እና የAI ጥገኞች
የAI ቁልል የተገነባው በተለመደው ፓኬጆች እና በተስተናገዱ ቅርሶች ላይ ነው። ሞዴሎች የሚወርዱት ከሕዝብ ማዕከሎች ነው። የውሂብ ስብስቦች ከየትኛውም ቦታ ይጎተታሉ። ሁለቱም ከማንኛውም ጥገኝነት ጋር ተመሳሳይ የመነሻ ችግር አላቸው፣ አነስተኛ የመሳሪያ አጠቃቀም እና በጣም ያነሰ ምርመራ አላቸው።
ምን እንደሚፈለግ ሞዴሎች፣ ማዕቀፎች እና የውሂብ ስብስቦች እንደ የአቅርቦት ሰንሰለት ክፍሎች ተደርገው የሚታዩ፣ ተመሳሳይ የሆነ የአጻጻፍ ትንተና እና ተመሳሳይ የCVE ክትትል እንደ ሌሎቹ ጥገኞችዎ።
በ AI የሚመሩ ጥቃቶች፡- የአቅርቦት ሰንሰለትዎን የሚቀይሩት አምስት ጥቃቶች
06. ስሎፕስኩዊቲንግ
እ.ኤ.አ. በ2025 በUSENIX Security ላይ የቀረበ ጥናት በ16 ሞዴሎች ውስጥ 2.23 ሚሊዮን የኮድ ናሙናዎችን አስገኝቷል፤ 19.7% የሚሆኑት የሚመከሩ ፓኬጆች እንዳልነበሩ አረጋግጧል፤ ይህም ከ205,000 በላይ ልዩ የሆኑ ቅዠት ያላቸውን ስሞች አስገኝቷል። ከእነዚህ ስሞች ውስጥ 43% የሚሆኑት ተመሳሳይ ፕሮምፕል በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት በተደጋጋሚ ጊዜያት ተተክለዋል፤ ይህም ለእርሻ ምቹ ያደርጋቸዋል።
አጥቂዎች ከአሁን በኋላ የጥበቃ ሰራተኛን ማሰቃየት አያስፈልጋቸውም። ወኪልዎ የፈጠረውን ስም ይመዘግባሉ እና እስኪጫን ድረስ ይጠብቃሉ። ፓኬጁ አዲስ ስለሆነ እና ማንም ሰው ከዚህ በፊት አይቶት ስለማያውቅ ፊርማም ሆነ ምክር የለውም።
ምን እንደሚፈለግ አንድ ወኪል የሚያክለውን እያንዳንዱን ጥገኝነት የሚመለከት ከዝና ይልቅ በባህሪ ላይ የሚሰራ የማልዌር ማጣሪያ።
07. ራስን የሚያሰራጩ የአቅርቦት ሰንሰለት ትሎች
የ ሴፕቴምበር 2025 npm ትል የገንቢ ማሽኖች ከዒላማው ይልቅ የማድረሻ ዘዴ የሆኑበትን ነጥብ አመልክቷል። እስከ 2026 ድረስ በመጠን የተደገመው ንድፍ። እያንዳንዱ የተጎዳ የገንቢ ምስክርነት የሚቀጥለውን ዙር የተጎዱ ፓኬጆችን እና የፍንዳታ ራዲየስ ውህዶችን ከመጨመር ይልቅ ያትማል።
ምን እንደሚፈለግ ያልተለመደ የህትመት እንቅስቃሴ፣ ያልተለመደ commit ቅጦች እና ከገንቢው መደበኛ ባህሪ ጋር የማይጣጣም የምስክርነት አጠቃቀም።
08. የ AI ምስክርነቶችን በብሔር-ግዛት ኢላማ ማድረግ
በመጋቢት 2026፣ በሳምንታዊ 100 ሚሊዮን የሚጠጉ ውርዶች ያሉት ፓኬጅ በሰዓታት ለተለካ ጊዜ ተጎድቷል፣ ዓላማውም የAI አቅራቢ ኤፒአይ ቁልፎች ነበሩ። መስኮቱ ሆን ተብሎ አጭር ነበር። ለመሰብሰብ በቂ ረጅም ነበር፣ የመለየት እድልን ለመቀነስ በቂ አጭር ነበር።
የ AI ምስክርነቶች አሁን በራሳቸው መብት የአንደኛ ደረጃ ኢላማ ሆነዋል፣ ምክንያቱም ኮምፒውቲንግ፣ ተደራሽነት እና አሳማኝ ማንነትን ይገዛሉ። እነሱን ለመስረቅ የታለሙ ጥቃቶች በ2025 መጨረሻ እና በ2026 መጀመሪያ መካከል በከፍተኛ ሁኔታ ጨምረዋል።
ምን እንደሚፈለግ የAI አቅራቢ ቁልፎች እንደ ሚስጥራዊ ተደርገው የሚታዩ ሲሆን ልክ እንደ ደመና ምስክርነቶች ተመሳሳይ ማወቂያ እና መሻር አላቸው።
09. ማልዌር በLLM በመጠቀም ተፈጥሯል ወይም ተክሏል
እ.ኤ.አ. በ2026፣ የቋንቋ ሞዴል በተወካይ የስራ ፍሰት ውስጥ ተንኮል አዘል ኮድ ለመትከል መሳሪያ እንደተጠቀመ የሚያሳይ የተመዘገቡ ጉዳዮች ነበሩ። ዋናው ነገር ማልዌር አዲስ መሆኑ አይደለም። የደራሲነት ደረጃ ማነቆ መሆኑ አቁሟል፣ እና ለአጥቂው የሚገኘው አሳማኝ የሚመስል ተንኮል አዘል ኮድ መጠን በዚሁ መሰረት ጨምሯል።
ምን እንደሚፈለግ ፈልጎ ማግኘት ይህ ናሙናውን ከዚህ በፊት በማየቱ ላይ የተመካ አይደለም።
10. የአቅም ውድቀትን ይገምግሙ
ይህ ጥቃት አይደለም፣ ለዚህም ነው የመጨረሻው የሆነው እና በጣም አስፈላጊ የሆነው። አንድ ወኪል በሳምንት ውስጥ አንድ ሺህ ፋይሎችን ሲያወጣ፣ የኮድ ግምገማ ቁጥጥር መሆን ያቆማል እና ወረፋ ይሆናል። የመጨረሻው የሰው ፍተሻ ሲበዛ በዚህ ዝርዝር ላይ ያለው ሌላ ስጋት ቀላል ይሆናል።
ምን እንደሚፈለግ ግኝቶች በጥሬው ክብደት ሳይሆን በብዝበዛነት ደረጃ የተቀመጡ ናቸው፣ ስለዚህ ምርትን አደጋ ላይ የሚጥሉት አነስተኛ ቁጥር በእውነቱ ወደ ገንቢው ይደርሳል።
አስር ስጋቶች ካርታው ናቸው። በእያንዳንዱ ላይ ምን ማድረግ እንዳለብን ከብሎግ ልጥፍ የበለጠ ጊዜ ይወስዳል፣ ስለዚህ ውይይቱን በትክክል አድርገናል። በዚህ ክፍል የSafeDev ንግግሮች, Jesús Cuadrado, የXygeni ዋና ሥራ አስፈፃሚ፣ ከአታናስ ኒኮሎቭ፣ የDevSecOps ባለሙያ እና ኤስ ጋር ተቀምጠዋልSDLC የቴክኖሎጂ መሪ፣ በፖሊሞርፊክ ማልዌር ላይ፣ ፈጣን መርፌ፣ የሞዴል ማበላሸት እና በእርግጥ በእነሱ ላይ የሚደርሰው ነገር። ምንም አይነት ቅርፅ፣ ምንም አይነት በር የለም።
ያልታቀፉትን የAI ሀብቶች ለምን መከላከል አይችሉም?
አስርቱን እንደገና ያንብቡ፣ እና ንድፉን ለማጣት አስቸጋሪ ነው። ዘጠኙ ስለተወሰኑ ነገሮች ጥያቄዎች ናቸው፡ የትኞቹ የMCP አገልጋዮች፣ የትኞቹ ወኪሎች፣ የትኛው ወሰን፣ የትኛው ምስክርነት፣ የትኛው ደንብ ፋይል፣ የትኛው ጥቅል።
ከእነዚህ ጥያቄዎች ውስጥ አንዳቸውም ከፖሊሲ ሰነድ ሊመለሱ አይችሉም። ከክምችት የተገኙ ናቸው፣ እና አብዛኛዎቹ ድርጅቶች የላቸውም። የ AI የተገኘው በፍጥነት በሚንቀሳቀሱ ገንቢዎች አማካኝነት ነው፣ ቲኬት፣ የግዥ ሂደት ወይም ራሱን እንደ AI አድርጎ የሚያውጅ የማከማቻ ግቤት ሳይኖር።
ይህ የመጀመሪያውን እርምጃ ከመውሰድ ይልቅ ቅድመ ሁኔታውን መቅረጽ ያደርገዋል። ከቁጥጥር የሚጀምር የAI የደህንነት ስጋቶች ፕሮግራም እነሱን በሚያውቀው የAI ላይ ይተገብራቸዋል፣ ይህም መጠኑን ሊለካው የማይችል ንዑስ ስብስብ ነው። ግኝት መጀመሪያ መምጣት አለበት፡ ሞዴሎች፣ ማዕቀፎች፣ የውሂብ ስብስቦች፣ የግምታዊ መጨረሻ ነጥቦች፣ ወኪሎች፣ የMCP አገልጋዮች፣ ክህሎቶች፣ ጥያቄዎች እና ገንቢዎችዎ በእውነቱ የሚጠቀሙባቸው የAI ኮድ ማድረጊያ መሳሪያዎች፣ በመካከላቸው ካለው ግንኙነት ጋር፣ ምክንያቱም በተናጠል የሚገኝ ንብረት በጣም ትንሽ ነገር ይነግርዎታል እና አደጋው በሰንሰለቱ ውስጥ ስለሚከማች።
የ የNIST AI የአደጋ አስተዳደር ማዕቀፍ በተመሳሳይ ምክንያት ካርታውን ከመለካት በፊት ያስቀምጣል እና ያስተዳድሩ። በማዕቀፉ ውስጥ በጣም አስደሳች ያልሆነው ተግባር እና ሁሉም ነገር በእሱ ላይ የተመሰረተ ነው።
በመጀመሪያ የትኞቹን የ AI የደህንነት ስጋቶች ላይ እርምጃ መውሰድ አለብዎት?
በጣም የተራቀቀ አይደለም። በጣም ተደራሽ የሆነው።
- በዚህ ሳምንት: የኤምሲፒ አገልጋዮችዎን ይቁጠሩ እና በውቅረት ፋይሎቻቸው ላይ የሚስጥር ማወቂያን ያሂዱ። Threat 03 በዝርዝሩ ውስጥ ለጥረት ከፍተኛ ተጋላጭነት ጥምርታ ነው፣ እና ማንም ሰው ማለት ይቻላል አላየውም።
- በዚህ ወር: ወኪሎችዎን ያግኙ እና እያንዳንዱ ሰው ምን ሊጠራ እንደሚችል እና በማን ምስክርነት ስር ምን ማድረግ እንደሚችል ይፃፉ። ይህ በጣም የተለመደው እና በጣም ርካሹን ለመቀነስ ስጋት 04ን ይመልሳል።
- በዚህ ሩብ ዓመት፦ አንድ ወኪል የሚያክለውን እያንዳንዱን ጥገኝነት በባህሪ ማልዌር ምርመራ ላይ ያድርጉ። ይህ በአንድ ጊዜ 06፣ 07 እና 09 የሚደርሱ ስጋቶችን ይሸፍናል፣ ምክንያቱም ሦስቱም አዳዲስ በመሆናቸው በዝና ላይ የተመሰረቱ ፍተሻዎችን ያሸንፋሉ።
ሌሎቹ ሁሉ ከሦስቱ ጀርባ ሊጠብቁ ይችላሉ፣ ምክንያቱም ሌሎቹ ሁሉ ያለህን ነገር አስቀድመው እንደሚያውቁ ስለሚያስቡ።
በ2027 የAI ደህንነት ስጋቶችን በሚገባ የሚቋቋሙ ድርጅቶች ምርጥ የሞዴል ግምገማዎችን የሚያገኙ አይደሉም። በማንኛውም ማክሰኞ፣ በሶፍትዌራቸው ውስጥ ምን አይነት AI እየሰራ እንደሆነ እና ምን መድረስ እንደሚችል መልስ የሚሰጡት እነሱ ይሆናሉ። ይህ አቋም ነው። ዚጌኒ የተገነባው በዚህ ዙሪያ ነው፡- በማከማቻ ማከማቻዎች ውስጥ የእያንዳንዱን የAI ሀብት ቀጣይነት ያለው ግኝት እና pipelines፣ ኦዲተሮችዎ አስቀድመው ከሚያውቁት ማዕቀፎች እና እስካሁን ፊርማ የሌለውን የሚይዝ የአቅርቦት ሰንሰለት ማጣሪያ ጋር ሲነጻጸር የአደጋ መጠን።
አስር ማስፈራሪያዎች፣ ሁለት ምድቦች፣ ከሁለቱም በታች አንድ ካርታ።
በየጥ
የ AI ደህንነት አደጋዎች ከመደበኛ የመተግበሪያ ደህንነት ስጋቶች በእርግጥ የተለዩ ናቸው?
በከፊል። ውጤቶቹ የተለመዱ ናቸው፡ የኮድ አፈፃፀም፣ የማረጋገጫ ስርቆት፣ የውሂብ ተጋላጭነት። የሚለዋወጡት የመግቢያ ነጥብ እና ፍጥነቱ ነው። ቀደም ሲል እንቅስቃሴ አልባ የነበሩ የውቅር ፋይሎች አሁን የሆነ ነገር የሚሰራበትን መመሪያ ይይዛሉ፣ እና የአጥቂ አሳማኝ ተንኮል አዘል ኮድ የማምረት ወጪ ቀንሷል። አሁን ያሉት መቆጣጠሪያዎችዎ አሁንም ተፈጻሚ ይሆናሉ፤ ከእንግዲህ መላውን ገጽ አይሸፍኑም።
ሞዴሎቻችንን ቀይ-ቲም ማድረግ አብዛኛዎቹን እነዚህን ስጋቶች ይፈታዋል?
የአንዱን ክፍል ይመለከታል። ቀይ-ቲሚንግ አንድ ሞዴል ውድቅ ማድረግ ሊተውት የሚገባውን ነገር መጠቀም ይቻል እንደሆነ ይመልሳል፣ ይህም በእውነት ጠቃሚ ነው። የመሳሪያውን ወሰን፣ የምስክር ወረቀቱን፣ የደንቦቹን ፋይል ወይም የMCP ውቅር ማየት አይችልም፣ ምክንያቱም ከእነዚህ ውስጥ አንዳቸውም በሞዴል የመጨረሻ ነጥብ በኩል ሊደረስባቸው አይችሉም። ንጹህ የቀይ ቡድን ሪፖርት እና በአደገኛ ሁኔታ ከመጠን በላይ መብት ያለው ወኪል ያለ ተቃርኖ አብረው ይኖራሉ።
ከእነዚህ የ AI የደህንነት ስጋቶች ውስጥ የትኛው በጣም ዝቅተኛ ግምት የሚሰጠው ነው?
ከልክ ያለፈ ውክልና፣ ሰፊ ህዳግ። ምንም አይነት CVE የለውም፣ ለማሳየት ምንም አይነት ብዝበዛ የለውም፣ እና ለእሱ የተወሰነ ምርት የሚሸጥ ሻጭ የለም፣ ስለዚህ ምንም አይነት አጣዳፊነት አይፈጥርም። እንዲሁም በተያዘ ክስተት እና ባልተያዘ ክስተት መካከል ያለው ልዩነት ነው፣ ምክንያቱም ከመጀመሪያው ስህተት በኋላ አንድ ነገር ምን ያህል እንደሚጓዝ የሚወስነው ወሰን ነው።
በAI የሚመሩ ጥቃቶች መለካት ያለብንን ነገር እንዴት ይለውጣሉ?
ጠቃሚውን መለኪያ ከክብደት ወደ ጊዜ ያዛውራሉ። ተንኮል አዘል ፓኬጆች ከፊርማዎች በበለጠ ፍጥነት ሲፈጠሩ፣ “ስንት ወሳኝ ነገሮች ክፍት ናቸው” የሚለው ጉዳይ “አዲስ ነገር በምን ያህል ፍጥነት እንደሚጠቆም” ያነሰ ነው። ወደ ኮድ ቤዝዎ በመግባት እና በማጣራት ላይ ባለ ጥገኝነት እና በሚነሳው ግኝት እና በእሱ ላይ እርምጃ ሊወስድ የሚችል ገንቢ በመድረስ መካከል ያለውን ክፍተት ይለኩ።
