TL; DR
እያንዳንዱ ቦርድ አሁን ስለ AI ስጋት እየጠየቀ ነው፣ እና አብዛኛዎቹ የደህንነት ቡድኖች በቁጥር ሳይሆን በቅጽል ስሞች ይመልሳሉ። የአስተዳደር ማዕቀፎቹ ምን ማስተዳደር እንዳለቦት ይነግሩዎታል። ምን መቁጠር እንዳለቦት አይነግሩዎትም። እነዚህ የAI አደጋ መለኪያዎች ሁሉም ከአንድ ቦታ የመጡ ናቸው፡ ድርጅትዎ አስቀድሞ የሚልክ ኮድ።
- አንድ ወኪል የሆነ የ AI ስትራቴጂ ሶስት ንብርብሮች ያሉት ሲሆን ከእነዚህም ውስጥ አንዱ ብቻ ሞዴሉ ነው። ወኪሉ የሚጽፈው፣ ወኪሉ በምን ላይ እንደተመሠረተ እና ወኪሉ በምን ላይ እንደሚሳተፍ። አብዛኛዎቹ ፕሮግራሞች የመጀመሪያውን ይለካሉ እና ሌሎቹን ሁለቱን ችላ ይላሉ።
- የፍንዳታው ራዲየስ በሞዴሉ ውስጥ የለም። በችሎታ ፋይሉ፣ በኤምሲፒ ውቅር፣ በመሳሪያ ወሰን እና ወኪሉ በሚያከናውነው የምስክር ወረቀት ውስጥ ይገኛል። ንፁህ የሞዴል ግምገማ እና ከልክ በላይ መብት ያለው ወኪል በምቾት አብረው ይኖራሉ።
- ዘጠኝ የAI ስጋት መለኪያዎች፣ እያንዳንዳቸው አንድ ቅጽል ስም ሳይሆን ቁጥር ናቸው። ያልተፈቀዱ የ AI ሀብቶች፣ ወደ መሳሪያ ማጠቢያ የሚደርሱ ፈጣን የመርፌ መንገዶች፣ በ ውስጥ ያሉ ምስጢሮች
.mcp/servers.json, ፊርማ ከመኖሩ በፊት የተጠቁ ወኪሎች የተጨመሩ ጥገኝነቶች። - በዚህ ሩብ ዓመት ቁጥሩን ማውጣት ካልቻሉ፣ መለኪያው ችግሩ አይደለም። የክምችቱ ዝርዝር ነው። በሶስት ቆጠራዎች ይጀምሩ፣ ፕሮግራም አይደለም።
ሶፍትዌሩን የሚልኩት እርስዎ ሲሆኑ የ AI አደጋ ምን ማለት ነው?
አስር ሰዎችን የAI ስጋት ምን ማለት እንደሆነ ይጠይቁ፣ እና አስር መልሶችን ያገኛሉ። የሞዴል አድልዎ። ቅዠት። የውሂብ መፍሰስ። የቁጥጥር ተጋላጭነት። የስራ መፈናቀል። ሁሉም እውነተኛ፣ ሁሉም ትኩረት የሚገባቸው ናቸው፣ እና ማክሰኞ ከሰዓት በኋላ በደህንነት ቡድን ተጠያቂ ሊሆኑ አይችሉም።
የደህንነት ቡድን በእውነቱ ባለቤት ሊሆን የሚችለው ጥያቄ ጠባብ ስሪት አለ፡ በምንገነባው ሶፍትዌር ውስጥ ምን አይነት AI እየሰራ እንደሆነ፣ ምን ሊደርስበት እንደሚችል እና አንድ ሰው ሲያዛባው ምን እንደሚፈጠር። ያ እትም መልስ አለው፣ እና መልሱ በማከማቻ ማከማቻዎችዎ ውስጥ ይኖራል እና pipelineበፖሊሲ ሰነድ ውስጥ ከመሆን ይልቅ።
ይህ የዚህ ጽሑፍ የ AI ስጋት ስሪት ነው። የአስተዳደር ጥያቄዎች ምንም ለውጥ ስለማያመጡ ሳይሆን የአስተዳደር ጥያቄዎች ይህ እስኪሆን ድረስ መመለስ ስለማይችሉ ነው። ማዕቀፍ የ AI ስርዓቶችዎን እንዲመዘግቡ ይጠይቃል። ክምችቱ በ... ውስጥ እንዳለ አይነግርዎትም። .mcp/servers.json ከዚያን ጊዜ ጀምሮ ማንም ያልከፈተው ፋይል commitቴድ።
አብዛኛዎቹ የ AI አደጋ ፕሮግራሞች የተሳሳተ ነገር የሚለኩት ለምንድን ነው?
ሶስት የውድቀት ዓይነቶች፣ እና አብዛኛዎቹ ድርጅቶች ቢያንስ ሁለቱን ያካሂዳሉ።
- ከመጋለጥ ይልቅ ጉዲፈቻን መለካት። "72% የሚሆኑ ገንቢዎቻችን የAI መሳሪያዎችን ይጠቀማሉ" የደህንነት ባጅ የለበሱ የምርታማነት መለኪያ ነው። እነዚህ መሳሪያዎች ምን ሊደርሱ እንደሚችሉ ምንም አይነግርዎትም።
- ሞዴሉን ከስርዓቱ ይልቅ መለካት። የመጨረሻ ነጥብን ማዋሃድ አንድ ሞዴል የማይገባውን ነገር እንዲናገር ሊጠየቅበት ይችል እንደሆነ ይመልሳል። ቀጥሎ ለሚሆነው ነገር መልስ አይሰጥም፣ ምክንያቱም የፍንዳታ ራዲየስ በመሳሪያው ወሰን ውስጥ ስለሚኖር፣ ወኪሉ የሚያሄደው የምስክር ወረቀት እና ሁለቱንም የሚገልጹ የውቅር ፋይሎች። ንፁህ የሞዴል ግምገማ እና እጅግ በጣም ብዙ መብት ያለው ወኪል በጣም በምቾት አብረው ይኖራሉ።
- ለመቁጠር ቀላል የሆነውን መለካት። የታተሙ የAI ፖሊሲዎች ብዛት። የAI ስልጠና ያጠናቀቁ የሰራተኞች ብዛት። እነዚህ ቁጥሮች በአስተማማኝ ሁኔታ ይጨምራሉ እና ከምንም ጋር ይዛመዳሉ።
የ የNIST AI የአደጋ አስተዳደር ማዕቀፍ መለኪያ ከአራቱ ዋና ዋና ተግባሮቹ አንዱ መሆኑን በግልፅ ያሳያል፤ ከማስተዳደር፣ ከካርታ ማውጣት እና ከማስተዳደር ጎን ለጎን። ማዕቀፉ ሆን ተብሎ ውጤትን መሰረት ያደረገ ሳይሆን ሆን ተብሎ የሚተገበር ነው፣ ይህም ለ standard እና ማክሰኞ ላይ ጠቃሚ አይደለም። ምን መቁጠር እንዳለቦት አሁንም መወሰን አለብዎት።
የትኞቹ የ AI ስጋት መለኪያዎች በእርግጥ አንድ ነገር ይነግሩዎታል?
ዘጠኝ መለኪያዎች። እያንዳንዱ ቁጥር ነው፤ ተጋላጭነትዎ ሲቀየር እያንዳንዱ ይለወጣል፣ እና እያንዳንዱ ከዳሰሳ ጥናት ይልቅ ከኮድ ሊወጣ ይችላል።
| ሜትሪክ | ለምን አስፈላጊ ነው | ቁጥሩ ከየት እንደመጣ |
|---|---|---|
| 01የተገኙት አጠቃላይ የ AI ሀብቶች እና ካለፈው ወር ወዲህ የተደረገው ለውጥ | እስካሁን ቆጥረኸው የማታውቀውን የAI አደጋ ሪፖርት ማድረግ አትችልም። አዝማሚያው ከፍጹም ቁጥር በላይ አስፈላጊ ነው። | ቀጣይነት ያለው ግኝት የሞዴሎች፣ ማዕቀፎች፣ የውሂብ ስብስቦች፣ የግምታዊ መጨረሻ ነጥቦች፣ ወኪሎች፣ የMCP አገልጋዮች፣ ክህሎቶች እና የAI ኮድ መሳሪያዎች |
| 02ያልተፈቀዱ የAI ንብረቶች ከጠቅላላው መቶኛ | ይህ የእርስዎ የጥላ AI መጠን ነው። ይህ ለአንድ ሰሌዳ በጣም የተመደበው የ AI ስጋት መለኪያ ነው። | የማፅደቂያ ሁኔታ በፖሊሲዎ መሰረት በእያንዳንዱ ንብረት ክትትል የሚደረግበት |
| 03ስም የሌለው ባለቤት የሌላቸው የAI ንብረቶች | ማንም የማይገዛው ንብረት ማንም የማያስተካክለው ንብረት ነው። ብዙውን ጊዜ በስብስቡ ውስጥ በጣም አስቀያሚው ቁጥር | ባለቤትነት ከንብረቱ ጋር የተከታተለ |
| 04ወደ መሳሪያ ማጠቢያ የሚደርሱ ፈጣን የመርፌ መንገዶች | ወደ የስርዓት ጥያቄ መድረስ የማይታመን ግብዓት አስፈላጊው አደገኛ ነገር በሌላኛው ጫፍ ላይ ከተቀመጠ ብቻ ነው | የ AI አደጋ መለየት ከሚከተሉት ጋር የተሳሰረ ነው ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP |
| 05ጥቅም ላይ የዋሉ የኤምሲፒ ሰርቨሮች እና ስንት ግኝቶችን ይይዛሉ | የኤምሲፒ ውቅር ወኪሉ ትዕዛዞቹን የሚቀበልበት ቦታ ነው። እንዲሁም የምስክር ወረቀቶች የሚከማቹበት ቦታ ነው። | የኤምሲፒ አገልጋይ ውቅር እንደ የደህንነት ቅርስ ተተነተነ |
| 06በAI ውቅር ፋይሎች ውስጥ የተገኙ ምስጢሮች | እ.ኤ.አ. በ2026 የተደረገ ጥናት እንደሚያሳየው በሕዝብ GitHub ላይ በMCP ውቅር ፋይሎች ውስጥ ከ24,000 በላይ ሚስጥሮች ተቀምጠዋል፤ ከ2,000 በላይ ሚስጥሮች አሁንም ትክክል ናቸው። | የሚስጥር ማወቂያ በኮድ፣ ውቅሮች፣ ኮንቴይነሮች እና pipelines |
| 07የህዝብ ፊርማ ከመኖሩ በፊት የተጠቁ የወኪል-ተጨማሪ ጥገኝነቶች | ወኪሎች ፓኬጆችን በፍጥነት ይጎትታሉ፣ እና ሞዴልዎ የፈጠረው ስም ሊታረስ የሚችል የጥቃት ገጽታ ነው | የማልዌር ቅድመ ማስጠንቀቂያ፣ የማስረጃ ማወቂያ እና የ AI ማረጋገጫ ይከተላል |
| 08ሊደረስባቸው የሚችሉ እና በንቃት በተዘጋጀ ኮድ ውስጥ የሚገኙ የAI ግኝቶች ድርሻ | መጋለጥዎን ከሚቀይር ስራ ፈጽሞ የማያጸዱትን የተረፈ ገንዘብ ይለያል | የAI ቅድሚያ የሚሰጠው ፈንጋይ |
| 09በወኪል የተጻፉ መቶኛ pull requests ከሰው ልጅ ይሁንታ ጋር ተዋህዷል | አንድ ተቆጣጣሪ የሚጠይቀው የአስተዳደር መለኪያ እና ማንም የማይከታተለው | Pull request ትንታኔ እና የማጽደቂያ በሮች |
አንድ ብቻ ከወሰዱ፣ መለኪያ 02 ይውሰዱ። ያልጸደቀው እና አጠቃላይ የ AI ሀብቶች ጥምርታ ከደህንነት ቡድን ወደ ኦዲት የሚተረጎመው ቁጥር ነው። commitቲ፣ እና የሆነ ነገር ሲያደርጉ ይንቀሳቀሳል።
አንድ ወኪል የሆነ የ AI ስትራቴጂ ምንን መሸፈን አለበት?
ሶስት ንብርብሮች። ሁሉም ሰው ማለት ይቻላል የሚያደርገው ስህተት ከመጀመሪያው ጀምሮ እዚያ ማቆም ነው።
- ንብርብር አንድ፡ ወኪሉ የሚጽፈው። የመነጨው ኮድ ከሰው ኮድ ጋር ተመሳሳይ የተጋላጭነት ክፍሎችን ይይዛል፣ እና እስከ 2022 ድረስ የተደረጉ ጥናቶች በተከታታይ እንደሚያሳዩት በAI የተፈጠሩ ፕሮግራሞች ከፍተኛ ድርሻ የደህንነት ጉድለቶችን ይይዛሉ። ይህ ንብርብር በጣም የታወቀ ነው፣ ለዚህም ነው ሁሉንም ትኩረት የሚስበው።
- ሁለተኛ ደረጃ፡ ወኪሉ በምን ላይ እንደተያያዘ። የክህሎት ፋይሎች፣ የደንቦች ፋይሎች፣ የMCP አገልጋይ ውቅሮች፣ የመሳሪያ ስኮፖች፣ ወኪሉ የሚያሄድበት መታወቂያ። ይህ አንድ የተሳካ ጥቃት ምን ያህል ርቀት እንደሚጓዝ የሚወስነው ንብርብር ሲሆን ሞዴሉን በመጨረሻው ነጥብ በኩል ለሚፈትነው ማንኛውም ነገር አይታይም። ሚትር አትላስ ይህንን በቀጥታ የሚያብራራ ካታሎግ፡ የደንቦች ፋይል የጀርባ በር የጉዳይ ጥናት፣ AML.CS0041፣ ሰነዱን ወደ አንድ ወኪል በጸጥታ የሚታዘዝ መመሪያ የሚቀይር የዜሮ ስፋት ቁምፊዎችን በደንቦች ፋይል ውስጥ ይገልፃል። pull request ምንም አያይም።
- ሶስተኛ ደረጃ፡ ወኪሉ የሚያስገባው ነገር። ጥገኛነት፣ ሞዴሎች፣ የውሂብ ስብስቦች፣ ውጫዊ መሳሪያዎች። በ2025 በUSENIX Security ላይ የቀረበ ጥናት በ16 ሞዴሎች ውስጥ 2.23 ሚሊዮን የኮድ ናሙናዎችን አስገኝቷል እና 19.7% የሚሆኑት የሚመከሩ ፓኬጆች እንዳልነበሩ አረጋግጧል፣ ይህም ከ205,000 በላይ ልዩ የሆኑ ቅዠት ስሞችን አስገኝቷል። አጥቂዎች ከአሁን በኋላ አንድን አስተናጋጅ ማሰናበት አያስፈልጋቸውም። ወኪልዎ የፈጠረውን ስም ይመዘግባሉ እና ይጠብቃሉ።
አንድ ደረጃ ብቻ የሚሸፍን ወኪል የሆነ የAI ስትራቴጂ ንጹህ ሪፖርት እና ያልተለወጠ የAI ስጋት መገለጫ ያመነጫል። ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP ይህንን በራሱ መዋቅር ያንፀባርቃል፡ ከመጠን በላይ የሆነ ወኪልነት በዝርዝሩ አናት ላይ ይቀመጣል ቅድመcisምክንያቱም የሞዴል ችግር ሳይሆን የሽቦ ችግር ስለሆነ።
የወኪሎቹን እንቅስቃሴ ሳይቀንሱ ይህንን እንዴት ተግባራዊ ያደርጋሉ?
ውስጣዊ ስሜቱ ሁሉንም ነገር በሮች ማስገባት ነው። የወኪሉ አጠቃላይ ነጥብ throughput ስለሆነ እና throughputን በግማሽ የሚቀንስ መቆጣጠሪያ በአንድ ሩብ ጊዜ ውስጥ ስለሚወገድ አይሳካም።
ተግባራዊ ለማድረግ የሚያስችሉ ሶስት መርሆዎች፡-
- ያለማቋረጥ ይለኩ፣ በሩን በምርጫ ይምቱ። ዘጠኙም የAI ስጋት መለኪያዎች በእያንዳንዱ ቅኝት ላይ ምንም ነገር ሳይዘጉ ሊሰበሰቡ ይችላሉ። ውድቀቱ ሊመለስ የማይችልበት ትንሽ ስብስብ ጠንካራ በሮችን ያስይዙ፡ ተንኮል አዘል ጥገኝነት፣ የቀጥታ ምስጢር፣ ቁጥጥር የሚደረግበትን ውሂብ የሚያስተናግድ ያልጸደቀ ሞዴል።
- ወኪሉ አስቀድሞ ባለበት ቦታ ደህንነቱን ያስቀምጡ። በMCP በኩል የተገናኘ ወኪል የደህንነት መድረኩን ሲያመነጭ ይደውላል፣ የጻፈውን ይቃኛል፣ እና ኮዱ ገደብዎን እስኪያሟላ ድረስ ጥገናዎቹን ይደግማል። በዚያ ደረጃ ላይ ምንም ሰው የለም፣ እና ወኪሉ በሚሄድበት ቦታ የሚጫን ምንም ነገር የለም። ይህ ብቸኛው የጣልቃ ገብነት ነጥብ ከወኪል throughput ጋር የሚመጣጠን እንጂ ከእሱ ጋር የሚመጣጠን አይደለም።
- ሰውን በቁም ነገር ላይ አስቀምጡት pull request. የምርት ኮድ ላይ ለሚደርስ ማንኛውም ነገር፣ አንድ ሰው ያጸድቃል። ይህ ጥንቃቄ አይደለም፣ የአውሮፓ ህብረት የአዕምሮ ህክምና ህግ ወደ እርስዎ የሚገፋፋዎትን የዲዛይን አቀማመጥ ነው፣ እና አሁን መገንባት በኦዲት ጫና ስር እንደገና ከመገንባት በጣም ርካሽ ነው። እንዲሁም ሜትሪክ 09 ነው፣ ለዚህም ነው ያ መለኪያ ከመጀመሪያው ቀን ጀምሮ መከታተል የሚገባው።
በአብዛኛዎቹ ድርጅቶች ውስጥ ያልተመደበው ረድፍ ሁለተኛው ነው። የውቅር ፋይሎች እንደ መሠረተ ልማት በሚያያቸው የመተግበሪያ ደህንነት እና እንደ ሰነድ በሚያያቸው የመድረክ ምህንድስና መካከል ይወድቃሉ። ያ ክፍተት አስደሳች ጥቃቶች የሚደርሱበት ቦታ ነው።
በዚህ ሩብ ዓመት የ AI አደጋን እንዴት መለካት ይጀምራሉ?
ሙሉውን ፕሮግራም አይገንቡ። ሶስት ቁጥሮችን ይፍጠሩ። የAI ሀብቶችዎን ይቁጠሩ። ማንም ያላፀደቀውን ስንት ይቁጠሩ። በAI ውቅር ፋይሎች ውስጥ ስንት ምስጢሮች እንዳሉ ይቁጠሩ። እነዚያ ሦስቱ በአንድ ስላይድ ላይ ይጣጣማሉ፤ ሁሉም ሊከላከሉ የሚችሉ ናቸው፣ እና ማንም ከጠየቀው በላይ የከፋ ይሆናሉ።
ከዚያም የከፋውን ምረጥና ከሚቀጥለው የቦርድ ስብሰባ በፊት አስተካክለው። ይህ ተግባራዊ የሆነ የAI አደጋ ፕሮግራም ነው። የተቀረው ሁሉ በዝርዝር የተቀመጠ ነው።
በ2027 ከAI ስጋት ጋር የሚታገሉ ድርጅቶች በፍጥነት የተንቀሳቀሱ አይደሉም። እ.ኤ.አ. በ2026 የAI ፖሊሲዎችን በመጻፍ ያሳለፉት እና ምንም ነገር የማይቆጥሩት እነሱ ናቸው። ማንም ሊለካው የማይችል ፖሊሲ ሰነድ ነው። የAI ስጋት መለኪያዎች ወደ መቆጣጠሪያ የሚቀይሩት ናቸው።
የራስዎን ቁጥሮች ይመልከቱ። አንድ ማከማቻ ያገናኙና Xygeni የእርስዎን የAI ክምችት፣ ያልተፈቀዱ ንብረቶች፣ ኦዲተሮችዎ ከሚጠቀሙባቸው ማዕቀፎች ጋር የተያያዙ አደጋዎችን እና ወደ ውጭ መላክ የሚችሉትን AI-BOM ይመልሳል። በነፃ ይጀምሩ or ማሳያ አሳይ.
በየጥ
በ AI ስጋት እና በ AI ደህንነት መካከል ያለው ልዩነት ምንድነው?
የAI ደህንነት በአብዛኛው የሚለካው አንድ ሞዴል በሚያደርገው ነገር ላይ ነው፡- እንደታሰበው ሆኖ መሥራቱ፣ ውጤቶቹ ጎጂ መሆናቸው፣ ወደ ውድቅ ሊያደርጉት ወደሚገቡ ነገሮች ሊቀየር መቻሉ ነው። በደህንነት ሁኔታ የAI ስጋት ማለት የተጎዳ ወይም የተሳሳተ የAI ስርዓት በአካባቢዎ ውስጥ ምን ሊደርስ እንደሚችል ነው። ሁለቱ እርስ በርስ ይደራረባሉ፣ ነገር ግን በተለያዩ ቡድኖች የተያዙ እና በተለያዩ መሳሪያዎች የሚለኩ ናቸው። የደህንነት ቡድን ዛሬ በሁለተኛው ላይ እርምጃ መውሰድ ይችላል።
ስንት የ AI ስጋት መለኪያዎችን ለቦርዱ ሪፖርት ማድረግ አለብን?
ከሶስት እስከ አምስት። ቦርድ በዘጠኝ ቁጥሮች ላይ እርምጃ መውሰድ አይችልም፣ እና ዘጠኝ ያለው ዴክ አስፈላጊ የሆነውን ለመደበቅ ይሞክራል። አጠቃላይ የAI ሀብት ብዛትዎን፣ ያልጸደቀውን መቶኛ እና እንደ በንቃት ልማት ውስጥ ሊደረስባቸው የሚችሉ የAI ግኝቶች ያሉ አንድ የተጋላጭነት መለኪያ ሪፖርት ያድርጉ። የቀረውን ለአሠራር ግምገማ ያስቀምጡት።
እስካሁን ምንም አይነት ደንብ የማይፈልግ ከሆነ የ AI-BOM ያስፈልገናል?
በአሁኑ ጊዜ የAI-BOM ደንብ የሚያዝዝ ምንም አይነት ደንብ የለም፣ ለዚህም ነው አንዱን ማመንጨት በአሁኑ ጊዜ ርካሽ እና በኋላ ላይ ውድ የሆነው። ዛሬ ሁለት በማሽን የሚነበቡ ቅርጸቶች አሉ፣ እና ኦዲተር ሁለቱንም ይቀበላል። ዋጋው ተገዢነት አይደለም፤ ፋይሉን ማዘጋጀት ክምችቱን እንዲይዙ የሚያስገድድዎት ሲሆን ክምችቱ ደግሞ እያንዳንዱ የAI አደጋ መለኪያ የሚመካበት ነው።
ገንቢዎቻችን ፈጽሞ ያልጸደቅናቸውን የAI መሳሪያዎችን ይጠቀማሉ። የት እንጀምራለን?
ከመቆጣጠርዎ በፊት ይቁጠሩ። በድብቅ የሚንቀሳቀሱ መሳሪያዎችን መጠቀምን በተመለከተ ፖሊሲ ማሳወቅ እና የሚፈልጉትን ታይነት ያጠፋል። መጀመሪያ ግኝትን ያሂዱ፣ ቁጥሩን ያለአደራ ያትሙ እና ሰዎች በትክክል የሚያስፈልጋቸውን የሚያንፀባርቅ የተፈቀደ ዝርዝርን ለመስማማት ይጠቀሙበት። ማስፈጸሚያው ማስረጃውን ሲከተል ከማስቀደም ይልቅ በጣም የተሻለ ውጤት ያስገኛል።
