በ DevSecOps ውስጥ የAI ደህንነት አደጋዎች፡ ኮድ፣ Pipelineኤስ፣ እና ወኪሎች

የAI ደህንነት አደጋዎች፡ የDevSecOps ቡድኖች የAI ስርዓቶችን ለመጠበቅ ማወቅ ያለባቸው ነገሮች

የAI የደህንነት አደጋዎች ከአሁን በኋላ በሞዴል ባህሪ ወይም በውሂብ ግላዊነት ብቻ የተገደቡ አይደሉም። ዛሬ፣ ሶፍትዌሩ የሚጻፍበትን፣ የሚገመገምበትን፣ የሚገነባበትን እና የሚላክበትን መንገድም ይነካሉ። የAI ኮድ ማድረጊያ መሳሪያዎች፣ ወኪል የAI ስርዓቶች እና በAI የሚሰሩ የስራ ፍሰቶች ሲገቡ SDLCየDevSecOps ቡድኖች አዲስ ዓይነት አደጋ ያጋጥማቸዋል፡ ፈጣን ኮድ፣ ፈጣን አውቶማቲክ እና ፈጣን ስህተቶች።

ሆኖም፣ ይህ ማለት ቡድኖች የ AI አጠቃቀምን ማዘግየት አለባቸው ማለት አይደለም። በምትኩ፣ በ AI እገዛ ከሚደረግ የልማት ፍጥነት ጋር የሚዛመዱ የደህንነት መቆጣጠሪያዎች ያስፈልጋቸዋል። በዚህ መመሪያ ውስጥ፣ በጣም አስፈላጊ የሆኑትን የ AI ደህንነት አደጋዎች፣ በእውነተኛ የምህንድስና የስራ ፍሰቶች ውስጥ እንዴት እንደሚታዩ እና ቡድኖች በኮድ፣ ጥገኝነቶች፣ ምስጢሮች፣ pipelineኤስ፣ እና ወኪሎች።

AI የአደጋ ገጽታን እንዴት እንደሚለውጥ ሰፋ ያለ አጠቃላይ እይታ ለማግኘት፣ መመሪያችንን ይመልከቱ AI የሳይበር ደህንነት.

የ AI ደህንነት አደጋዎች ምንድናቸው?

የAI ደህንነት አደጋዎች አርቲፊሻል ኢንተለጀንስ በእውነተኛ ስርዓቶች ውስጥ ሲነደፍ፣ ሲሰለጥን፣ ሲዋሃድ ወይም ጥቅም ላይ ሲውል የሚታዩ ድክመቶች፣ ስጋቶች ወይም የውድቀት ሁነታዎች ናቸው። እነዚህ አደጋዎች ሞዴሎችን፣ መረጃዎችን፣ ጥያቄዎችን፣ ኤፒአይዎችን፣ ኮድን፣ pipelineዎች፣ እና የሚያገናኙዋቸው መሳሪያዎች።

የ የNCSC የ AI እና የሳይበር ደህንነት መመሪያ የሳይበር ደህንነት ለአስተማማኝ እና አስተማማኝ የ AI ስርዓቶች ዋና መስፈርት መሆኑን ያብራራል። በተመሳሳይ፣ የNIST AI የአደጋ አስተዳደር ማዕቀፍ ድርጅቶች በአስተዳደር፣ በመለኪያ እና በተግባራዊ ቁጥጥሮች አማካኝነት የ AI አደጋን ለማስተዳደር መዋቅር ይሰጣቸዋል።

ለዴቭሴክኦፕስ ቡድኖች ችግሩ የበለጠ ግልጽ ነው። ኤአይ አሁን የሶፍትዌር አቅርቦት ሰንሰለት አካል ነው። ኮድ ይጽፋል፣ ጥገኛነቶችን ይጠቁማል፣ ውቅር ያመነጫል፣ ኤፒአይዎችን ይደውላል እና አንዳንድ ጊዜ ራሱን ችሎ ይሰራል። በዚህም ምክንያት፣ የኤአይ ደህንነት አደጋዎች በ ውስጥ መስተናገድ አለባቸው SDLCበሞዴል ንብርብር ላይ ብቻ አይደለም።

የ AI ደህንነት አደጋዎች አሁን ለምን የተለዩ ናቸው?

ባህላዊ የሳይበር ደህንነት አደጋዎች ብዙውን ጊዜ የሚመጡት በሰው የተፃፈ ኮድ፣ ተጋላጭ ፓኬጆች፣ ደካማ የምስክር ወረቀቶች ወይም በተሳሳተ መንገድ ከተዋቀሩ መሠረተ ልማቶች ነው። እነዚህ አደጋዎች አሁንም አሉ። ሆኖም ግን፣ የሳይበር ደህንነት ባለሙያዎች (AI) ምን ያህል በፍጥነት እንደሚታዩ እና ለመለየት ምን ያህል ከባድ እንደሆኑ ይለውጣሉ።

በAI የተፈጠረ ኮድ ትክክል ሊመስል ይችላል ነገር ግን አሁንም የፈቃድ ፍተሻዎችን ሊያጣ ይችላል። የAI ኮድ ረዳት ተጋላጭ የሆነ ጥቅል ሊጠቁም ይችላል። ወኪል የስራ ፍሰት የተሳሳተ መሳሪያ ሊጠራ፣ የተሳሳተ ፋይል ላይ ሊደርስ ወይም በሎግ ውስጥ ምስጢር ሊያጋልጥ ይችላል። በተጨማሪም፣ የAI ስርዓቶች ብዙውን ጊዜ በአውድ፣ በጥያቄዎች፣ በማገናኛዎች እና በውጫዊ መሳሪያዎች ላይ የተመሰረቱ ናቸው፣ ይህም ደህንነት ሊበላሽ የሚችልባቸውን ተጨማሪ ቦታዎች ይፈጥራል።

የ ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የ OWASP እንደ ፈጣን መርፌ፣ ሚስጥራዊ የመረጃ ይፋ ማድረግ፣ የአቅርቦት ሰንሰለት ችግሮች እና ከመጠን በላይ ወኪልነት ያሉ አደጋዎችን ያጎላል። እነዚህ ምድቦች ጠቃሚ ናቸው ምክንያቱም የ AI ባህሪን ከእውነተኛ የመተግበሪያ ደህንነት ችግሮች ጋር ስለሚያገናኙ።

በሌላ አነጋገር፣ የ AI ደህንነት አደጋዎች ስለ ሞዴሉ ብቻ አይደሉም። እነሱ ስለ ሞዴሉ ሙሉ ስርዓት ናቸው።

ለ DevSecOps ቡድኖች ዋና የ AI ደህንነት አደጋዎች

ከዚህ በታች በልማት፣ በAppSec እና በመተግበሪያ ልማት ውስጥ ጥቅም ላይ ሲውል በጣም አስፈላጊ የሆኑ አደጋዎች ናቸው። CI/CD የስራ ፍሰቶች.

1. በAI የመነጩ የኮድ ተጋላጭነቶች

የAI ኮድ ማድረጊያ መሳሪያዎች የሚሰራ ነገር ግን ደህንነቱ የተጠበቀ ያልሆነ ኮድ ማመንጨት ይችላሉ። ለምሳሌ፣ ትክክለኛ መለኪያ ሳይኖራቸው የSQL ጥያቄዎችን ሊፈጥሩ፣ የግብዓት ማረጋገጫን ሊዘሉ ወይም ደካማ የማረጋገጫ አመክንዮ ሊተገብሩ ይችላሉ።

ይህ የሆነበት ምክንያት ብዙ የ AI ስርዓቶች በስልጠና መረጃ ላይ ተመስርተው ሊሆኑ የሚችሉ የኮድ ቅጦችን ስለሚያመነጩ ነው። ሆኖም ግን፣ ሊሆን የሚችል ኮድ ሁልጊዜ ደህንነቱ የተጠበቀ ኮድ ላይሆን ይችላል። በተግባር፣ ሞዴሉ ደህንነቱ ያልተጠበቁ ምሳሌዎችን በሕዝብ ማከማቻዎች ውስጥ የተለመዱ በመሆናቸው ሊባዛ ይችላል።

የተለመዱ ምሳሌዎች የሚከተሉትን ያካትታሉ:

• የ SQL መርፌ
• Cross-site scripting
• የፈቃድ ማረጋገጫዎች ይጎድላሉ
• ደካማ የክፍለ ጊዜ አያያዝ
• ደህንነቱ ያልተጠበቀ የሴሪያሊዜሽን
• የ CSRF ጥበቃ ይጎድላል

ስለዚህ፣ በAI የተፈጠረ ኮድ እስኪያልፍ ድረስ እንደ እምነት የማይጣልበት ተደርጎ መታየት አለበት። SASTየፖሊሲ ፍተሻዎች እና ግምገማ።

የውስጥ አገናኝ ጥቆማ፡ ይህንን ክፍል ከፖስትዎ ጋር ያገናኙት በ AI SAST.

2. የአቅርቦት ሰንሰለት እና የጥገኝነት አደጋዎች

የAI መሳሪያዎች ኮድ የሚያመነጩት ብቻ አይደሉም። እንዲሁም ፓኬጆችን፣ ስሪቶችን፣ ስክሪፕቶችን እና የመጫኛ ትዕዛዞችን ይጠቁማሉ። ይህ ከAI ምክሮች ወደ የሶፍትዌር አቅርቦት ሰንሰለት አደጋ ቀጥተኛ መንገድ ይፈጥራል።

ለምሳሌ፣ የ AI መሳሪያ የሚከተሉትን ሊጠቁም ይችላል፦

• ጊዜው ያለፈበት ጥቅል
• የተሳሳተ የፊደል አጻጻፍ ጥገኝነት
• በቅዠት የተፈጠረ የጥቅል ስም
• አጠራጣሪ የመጫኛ ስክሪፕቶች ያሉት ጥቅል
• ተጋላጭ የሆነ ነገር ግን አሁንም በስፋት ጥቅም ላይ የሚውል ቤተ-መጽሐፍት

ከዚህም በላይ፣ አጥቂዎች ይህንን ባህሪ በመጠቀም የ AI መሳሪያዎች ሊፈጥሩዋቸው የሚችሏቸውን የጥቅል ስሞችን መመዝገብ ይችላሉ። ይህ አደጋ ብዙውን ጊዜ slopsquatting ይባላል። የሞዴል ቅዠትን ወደ የጥቅል አቅርቦት ሰንሰለት ጥቃት ይቀይረዋል።

ይህንን አደጋ ለመቀነስ ቡድኖች ያስፈልጋሉ SCAማልዌርን ለይቶ ማወቅ፣ የጥገኝነት ፖሊሲ ማስፈጸሚያ እና ተደራሽ የመሆን ትንተና። እንዲሁም እንደ EPSS እና ንቁ የብዝበዛ መረጃ ከ CISየሚታወቅ የብዝበዛ ተጋላጭነት ካታሎግ.

3. በ AI የስራ ፍሰቶች ውስጥ የሚስጥር መጋለጥ

ሚስጥራዊ መጋለጥ በጣም ተግባራዊ ከሆኑ የAI ደህንነት አደጋዎች አንዱ ነው። ገንቢዎች ብዙውን ጊዜ አውድን በAI መሳሪያዎች ውስጥ ይለጥፋሉ። ያ አውድ የኤፒአይ ቁልፎችን፣ ቶከኖችን፣ ምስክርነቶችን፣ ዩአርኤሎችን ወይም ውስጣዊ ውቅርን ሊያካትት ይችላል።

በተጨማሪም፣ በAI የተፈጠረ ኮድ እውነተኛ የሚመስሉ ወይም የባሰ ምስጢሮችን ወደ ምንጭ ፋይሎች የሚገለብጡ የቦታ ያዥዎችን ሊያካትት ይችላል፣ pipeline ስክሪፕቶች፣ ወይም ምዝግብ ማስታወሻዎች። ምስጢሮች አንዴ የጂት ታሪክን ያስገቡ ወይም CI/CD ምዝግብ ማስታወሻዎች፣ ከመጀመሪያው ጊዜ በኋላ ለረጅም ጊዜ ጥቅም ላይ ሊውሉ ይችላሉ commit.

የተለመዱ የመጋለጥ ነጥቦች የሚከተሉትን ያካትታሉ:

• የጥያቄ ታሪክ
• የመነጨ ኮድ
• Git commits
• CI/CD መዝገቦች
• IaC ፋይሎች
• የኮንቴይነር ምስሎች
• የተጋሩ የስራ ቦታዎች

በዚህ ምክንያት፣ ቡድኖች የIDE-ደረጃ ቅኝትን ማዋሃድ አለባቸው፣ pre-commit ቼኮች፣ የማከማቻ ታሪክ ቅኝቶች፣ CI/CD የምዝግብ ማስታወሻ ቅኝት እና አውቶማቲክ መሰረዝ።

የውስጥ አገናኝ ጥቆማ፡ ይህንን ክፍል ከምስጢር ደህንነት ምርትዎ ወይም ተዛማጅ ይዘትዎ ጋር ያገናኙ።

4. የAI ወኪል እና የመሳሪያ አላግባብ መጠቀም

ወኪል AI ወኪሎች እርምጃ ከመምከር ባለፈ አዲስ የአደጋ ንብርብር ያስተዋውቃል። እርምጃ መውሰድ ይችላሉ።

የAI ወኪል የሼል ትዕዛዞችን ማስኬድ፣ ፋይሎችን ማርትዕ፣ ኤፒአይዎችን መደወል፣ መክፈት ይችላል pull requestsየCI የስራ ፍሰቶችን ማስተካከል ወይም ከደመና አገልግሎቶች ጋር መስተጋብር መፍጠር። ምንም እንኳን ይህ ከፍተኛ የምርታማነት ትርፍ ቢፈጥርም፣ የስህተቶችን ፍንዳታ ራዲየስ ይጨምራል።

ቁልፍ አደጋዎች የሚከተሉትን ያካትታሉ:

• ደህንነቱ ያልተጠበቀ የሼል አፈፃፀም
• ከልክ በላይ የተፈቀዱ የኤፒአይ ቁልፎች
• ያልተፈቀዱ የኮድ ለውጦች
• የኤምሲፒ ወይም የኤፒአይ ማገናኛ የተሳሳተ ውቅር
• የመሳሪያ ጥሪዎች ከተፈቀደው ወሰን ውጭ
• ተግባሩ ከሚያስፈልገው በላይ የአካባቢ ተደራሽነት

ከመጠን በላይ ወኪልነትን በተመለከተ የOWASP LLM ከፍተኛ 10 ምድብ እዚህ ጋር በተለይ ተገቢ ነው። አንድ ወኪል ከመጠን በላይ መዳረሻ ካለው፣ መጥፎ መመሪያ፣ ፈጣን መርፌ ወይም የተበላሸ መሳሪያ ወደ እውነተኛ የደህንነት ክስተት ሊለወጥ ይችላል።

5. CI/CD ና Pipeline በጤና ላይ

በ AI የተፈጠረ ኮድ በመጨረሻ ይደርሳል pipeline. በዚያን ጊዜ፣ አደጋ ከምንጭ ኮድ ወደ ግንባታዎች፣ ቅርሶች፣ ሚስጥሮች፣ ጥገኞች እና የማሰማሪያ የስራ ፍሰቶች ይሸጋገራል።

ለምሳሌ፣ በ AI የታገዘ ለውጥ የሚከተሉትን ሊያደርግ ይችላል፦

• ደህንነቱ ያልተጠበቀ የግንባታ ደረጃ ያክሉ
• የጂትሆብ እርምጃዎች የስራ ፍሰትን ያሻሽሉ
• በመጫን ጊዜ ተንኮል አዘል ፓኬጅ ይጎትቱ
• ምስጢሮችን በግንባታ ምዝግብ ማስታወሻዎች ውስጥ ያትሙ
• የደህንነት መቆጣጠሪያን ያሰናክሉ
• የማሰማሪያ አመክንዮ ለውጥ

በዚህም ምክንያት, CI/CD ደህንነት ለ AI ተቀባይነት ወሳኝ ይሆናል። Pipeline guardrails ወደ ምርት ከመድረሳቸው በፊት ደህንነታቸው ያልተጠበቁ ቅጦችን ማገድ አለባቸው። ለበለጠ አውድ፣ ይዘታችንን ይመልከቱ በ CI/CD መያዣ ና software supply chain security.

6. የውሂብ መፍሰስ እና ፈጣን መርፌ

ፈጣን መርፌ በጣም ከሚታወቁት የAI ደህንነት አደጋዎች አንዱ ነው፣ ነገር ግን ብዙ ጊዜ በተሳሳተ መንገድ ይተረጎማል። የቻትቦት ችግር ብቻ አይደለም። ውጫዊ ግብዓትን የሚቀበል እና ከዚያ ግብዓት እርምጃዎችን ለመምራት የሚጠቀም ማንኛውንም የAI የስራ ፍሰት ሊጎዳ ይችላል።

ለምሳሌ፣ የተንኮል አዘል ችግር መግለጫ፣ የREADME ፋይል፣ የድጋፍ ትኬት ወይም የጥገኝነት ሰነድ ገጽ የተደበቁ መመሪያዎችን ሊያካትቱ ይችላሉ። የAI ወኪል ያንን ይዘት ካነበበ እና ከተከተለው፣ አጥቂው የመሳሪያ ጥሪዎችን፣ የኮድ ለውጦችን ወይም የውሂብ መዳረሻን ሊጎዳ ይችላል።

የውሂብ መፍሰስ በተመሳሳይ መንገድ ሊከሰት ይችላል። ሞዴሉ ሚስጥራዊ አውድን ሊያሳይ፣ የግል ፋይሎችን ሊያጠቃልል ወይም ሚስጥራዊ መረጃዎችን ወደ ውጫዊ አገልግሎቶች ሊልክ ይችላል። ስለዚህ፣ የAI ስርዓቶች ፈጣን ማጣሪያ፣ የውጤት መቆጣጠሪያዎች፣ የመሳሪያ ገደቦች እና ምን አይነት ውሂብ መድረስ እንደሚችሉ ወሰኖችን ግልጽ ማድረግ ያስፈልጋቸዋል።