AI ഏജന്റ് സുരക്ഷ

AI ഏജന്റ് സുരക്ഷ: ഓരോ ഏജന്റിനെയും അറിയുക, അപകടസാധ്യത പിടിക്കുക, അത് ഇൻസ്റ്റാൾ ചെയ്യുന്നത് സൂക്ഷിക്കുക

ഉള്ളടക്ക പട്ടിക

നിർബന്ധമായും വായിക്കേണ്ട പോസ്റ്റുകൾ

AI ഏജന്റ് സുരക്ഷ ഇനി ഒരു മോഡൽ എന്തു പറയുന്നു എന്നതല്ല. ഒരു ഏജന്റ് എന്തു ചെയ്യുന്നു എന്നതിനെക്കുറിച്ചാണ്: അത് വിളിക്കുന്ന ഉപകരണങ്ങൾ, അത് വായിക്കുന്ന ഡാറ്റ, അത് കൈവശം വച്ചിരിക്കുന്ന ക്രെഡൻഷ്യലുകൾ, അത് സ്വന്തമായി ഇൻസ്റ്റാൾ ചെയ്യുന്ന പാക്കേജുകൾ.

മിക്ക ടീമുകൾക്കും ആദ്യത്തെ ചോദ്യത്തിന് ഉത്തരം നൽകാൻ കഴിയില്ല: ഞങ്ങൾ യഥാർത്ഥത്തിൽ ഏത് ഏജന്റുമാരെയാണ് പ്രവർത്തിപ്പിക്കുന്നത്? അവ ലാങ്‌ചെയിൻ ഗ്രാഫുകൾ, എംസിപി സെർവറുകൾ എന്നിങ്ങനെയുള്ള റിപ്പോസിറ്ററികളിലാണ് ജീവിക്കുന്നത്, SKILL.md ഫയലുകളും, വെള്ളിയാഴ്ച ഉച്ചതിരിഞ്ഞ് വ്യക്തിഗത ഡെവലപ്പർമാർ കോൺഫിഗർ ചെയ്ത AI കോഡിംഗ് ടൂളുകളും. ആരും അവ അവലോകനം ചെയ്തില്ല, കൂടാതെ ഒരു ക്ഷുദ്ര വൈദഗ്ദ്ധ്യം വെറും ലളിതമായ വാചകം മാത്രമാണ്.

അച്ചു ഡി.ആർ.

നാല് ഘട്ടങ്ങളിലായി AI ഏജന്റ് സുരക്ഷ: അത് കാണുക, സ്കോർ ചെയ്യുക, ലൂപ്പ് സുരക്ഷിതമാക്കുക, ഇൻസ്റ്റാളുകൾ സംരക്ഷിക്കുക.

നിങ്ങൾക്ക് കാണാൻ കഴിയാത്ത സെക്യൂർ ഏജന്റുമാരെ നിങ്ങൾക്ക് കണ്ടെത്താൻ കഴിയില്ല. നിങ്ങളുടെ കോഡിലെ ഓരോ ഏജന്റിന്റെയും, MCP സെർവറിന്റെയും, കഴിവിന്റെയും, മോഡലിന്റെയും, AI കോഡിംഗ് ഉപകരണത്തിന്റെയും ഒരു ഇൻവെന്ററിയിൽ നിന്നാണ് AI ഏജന്റ് സുരക്ഷ ആരംഭിക്കുന്നത്.

  • ഏജന്റുമാർ നിർമ്മിക്കപ്പെടുന്ന രീതിയിലുള്ള അപകടസാധ്യത: ഉപയോക്തൃ ഇൻപുട്ട് സംയോജിപ്പിക്കുന്ന പ്രോംപ്റ്റുകൾ, ടൂൾ-കോളിംഗ് ഏജന്റുകൾ ഇല്ല guardrails, അധിക പ്രിവിലേജ്ഡ് ക്രെഡൻഷ്യലുകളും മറഞ്ഞിരിക്കുന്ന നിർദ്ദേശങ്ങളുള്ള കഴിവുകളും. ഇതിൽ ഭൂരിഭാഗവും കോഡിലും, വിന്യസിക്കുന്നതിന് മുമ്പും ദൃശ്യമാണ്, കൂടാതെ മാപ്പുചെയ്യുന്നു ഏജന്റ് ആപ്ലിക്കേഷനുകൾക്കുള്ള OWASP ടോപ്പ് 10.
  • ലൂപ്പിനുള്ളിലെ സുരക്ഷ: കോഡിംഗ് ഏജന്റുമാർക്ക് അവരുടെ ലൂപ്പിനുള്ളിൽ സുരക്ഷ ആവശ്യമാണ്, അതിനാൽ അവർ എഴുതുന്നത് സ്കാൻ ചെയ്ത് ശരിയാക്കുന്നു. commitടെഡ്, ആഴ്ചകൾക്ക് ശേഷമുള്ള ടിക്കറ്റിൽ അല്ല.
  • ഇൻസ്റ്റാളേഷനുകൾ സൂക്ഷിക്കുക: ഏജന്റുമാർ ഡിപൻഡൻസികളും ഇൻസ്റ്റാൾ ചെയ്യുന്നു. ഒരു ഒപ്പ് ഉണ്ടാകുന്നതിന് മുമ്പ് പ്രവർത്തിക്കുന്ന മാൽവെയർ കണ്ടെത്തൽ, അവ ഇൻസ്റ്റാൾ ചെയ്യുന്ന ആരായാലും, ഒരു ഡെവലപ്പർ അല്ലെങ്കിൽ ഒരു ഏജന്റ് ആയാലും, ക്ഷുദ്ര പാക്കേജുകളെ ഉൾക്കൊള്ളുന്നു.
  • ഒരു വർക്ക്ഫ്ലോ: നിങ്ങളുടെ AppSec കണ്ടെത്തലുകളുടെ ബാക്കി ഭാഗങ്ങളുടെ അതേ ട്രയേജ്, ടിക്കറ്റുകൾ, റിപ്പോർട്ടുകൾ എന്നിവയിലൂടെയാണ് AI കണ്ടെത്തലുകൾ കടന്നുപോകുന്നത്.

ആദ്യ ഘട്ടം: നിങ്ങളുടെ റിപ്പോസിറ്ററികളിൽ AI-യുടെ ഒരു ഇൻവെന്ററി നിർമ്മിക്കുക, അത് ഒരു AI-BOM ആയി എക്സ്പോർട്ട് ചെയ്യുക, തുടർന്ന് CI-യിൽ പുതിയ ഏജന്റ് കോഡ് ഗേറ്റ് ചെയ്യുക.

AI ഏജന്റ് സുരക്ഷ വ്യത്യസ്തമായ ഒരു പ്രശ്നമായിരിക്കുന്നത് എന്തുകൊണ്ട്?

ഒരു എൽഎൽഎം സവിശേഷത വാചകം തിരികെ നൽകുന്നു, ഒരു മനുഷ്യൻ അത് ഉപയോഗിച്ച് എന്തുചെയ്യണമെന്ന് തീരുമാനിക്കുന്നു. ഒരു ഏജന്റ് ആ ലൂപ്പ് സ്വയം അടയ്ക്കുന്നു: അത് പ്ലാൻ ചെയ്യുന്നു, ഉപകരണങ്ങൾ വിളിക്കുന്നു, വെബ് പേജുകൾ, ഇമെയിലുകൾ, പ്രമാണങ്ങൾ എന്നിവ വായിക്കുന്നു, ഫയലുകൾ എഴുതുന്നു, കമാൻഡുകൾ പ്രവർത്തിപ്പിക്കുന്നു. ഒരു ഏജന്റിന് നിങ്ങൾ നൽകുന്ന ഓരോ കഴിവും ഒരു ആക്രമണകാരിക്ക് കടമെടുക്കാൻ കഴിയുന്ന കഴിവാണ്.

OWASP-യും ഇതേ വ്യത്യാസം വരുത്തി. 2026-ലെ ഏജന്റ് ആപ്ലിക്കേഷനുകൾക്കായുള്ള OWASP ടോപ്പ് 10 (ASI01 മുതൽ ASI10 വരെ) നിർമ്മിക്കുന്നത് എൽഎൽഎം അപേക്ഷകൾക്കുള്ള OWASP ടോപ്പ് 10: എൽഎൽഎം ലിസ്റ്റ് ഒരു മോഡൽ എന്താണ് പറയുന്നതെന്ന് ഉൾക്കൊള്ളുന്നു; ഏജന്റ് ലിസ്റ്റ് ഒരു ഏജന്റ് ചെയ്യുന്ന കാര്യങ്ങൾ ഉൾക്കൊള്ളുന്നു.

മിക്ക സ്ഥാപനങ്ങളും ഇപ്പോൾ രണ്ട് തരം ഏജന്റുമാരെ നടത്തുന്നു:

  • നിങ്ങളുടെ ആപ്ലിക്കേഷനുകളിൽ നിങ്ങൾ നിർമ്മിക്കുന്ന ഏജന്റുകൾ: LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel അല്ലെങ്കിൽ LlamaIndex പോലുള്ള ചട്ടക്കൂടുകൾ ഉപയോഗിച്ച് നിർമ്മിച്ച സപ്പോർട്ട് അസിസ്റ്റന്റുമാർ, ഇന്റേണൽ കോപൈലറ്റുകൾ, വർക്ക്ഫ്ലോകൾ, പലപ്പോഴും ടൂളുകളുമായി ബന്ധിപ്പിച്ചിരിക്കുന്നു MCP സെർവറുകൾ.
  • നിങ്ങളുടെ ഡെവലപ്പർമാർ ഉപയോഗിക്കുന്ന AI കോഡിംഗ് ഏജന്റുകൾ: കോഡ് എഴുതുകയും കോൺഫിഗറേഷൻ എഡിറ്റ് ചെയ്യുകയും ഡിപൻഡൻസികൾ ചേർക്കുകയും ചെയ്യുന്ന ക്ലോഡ് കോഡ്, കഴ്‌സർ, ഗിറ്റ്ഹബ് കോപൈലറ്റ്, വിൻഡ്‌സർഫ്, മറ്റുള്ളവ.

AI ഏജന്റ് സുരക്ഷ രണ്ടും ഉൾക്കൊള്ളണം, കാരണം രണ്ടും നിങ്ങളുടെ അനുമതികളോടെയാണ് പ്രവർത്തിക്കുന്നത്.

ഘട്ടം 1: ഓരോ ഏജന്റിന്റെയും, MCP സെർവറിന്റെയും, കഴിവുകളുടെയും ഇൻവെന്ററി

AI ഏജന്റ് സുരക്ഷ ആരംഭിക്കുന്നത് ഒരു ചോദ്യബോർഡിലാണ്, ഇപ്പോൾ ഓഡിറ്റർമാർ ചോദിക്കുന്നു: നമ്മൾ ഏത് AI ആണ് പ്രവർത്തിപ്പിക്കുന്നത്? സൈജെനി AI സുരക്ഷ ഉറവിടത്തിൽ നിന്ന് ഉത്തരം നൽകുന്നു: കോഡ്, കോൺഫിഗറേഷൻ, മാനിഫെസ്റ്റുകൾ, ഡിപൻഡൻസികൾ.

ഇത് മോഡലുകൾ, ഏജന്റുകൾ, ഏജന്റ് സെർവറുകൾ, AI ഫ്രെയിംവർക്കുകൾ, MCP സെർവറുകൾ, അവയുടെ ഉപകരണങ്ങൾ, കഴിവുകൾ എന്നിവ കണ്ടെത്തുന്നു (SKILL.md, AGENTS.md), പ്രോംപ്റ്റുകൾ, guardrails, വെക്റ്റർ സ്റ്റോറുകൾ, ഡാറ്റാസെറ്റുകൾ, അനുമാന എൻഡ്‌പോയിന്റുകൾ, നിങ്ങളുടെ റിപ്പോസിറ്ററികളിൽ കോൺഫിഗർ ചെയ്‌തിരിക്കുന്ന AI കോഡിംഗ് ടൂളുകൾ. അവ എങ്ങനെ ബന്ധിപ്പിക്കുന്നുവെന്നും ഇത് മാപ്പ് ചെയ്യുന്നു: ഏത് ഏജന്റ് ഏത് മോഡൽ ഉപയോഗിക്കുന്നു, ഏത് ടൂളുകൾ എക്‌സിക്യൂട്ട് ചെയ്യുന്നു, ഏത് MCP സെർവറുകൾ അഭ്യർത്ഥിക്കുന്നു.

ഫലം ഒരു ലിവിംഗ് AI ഇൻവെന്ററിയാണ്, CycloneDX ഫോർമാറ്റിൽ AI-BOM ആയി കയറ്റുമതി ചെയ്യാവുന്നതാണ്, EU AI ആക്ട് റിസ്ക് കാറ്റഗറി ഫീൽഡ് ഉൾപ്പെടുന്ന ഓരോ അസറ്റിനും ഒരു ഗവേണൻസ് റെക്കോർഡ് ഉണ്ടായിരിക്കും.

നിങ്ങളുടെ കോഡിൽ ഇതിനകം തന്നെ ഏത് AI ഉണ്ടെന്ന് കാണാൻ ആഗ്രഹിക്കുന്നുണ്ടോ? ഒരു എഞ്ചിനീയറുമായി ഒരു സെഷൻ ബുക്ക് ചെയ്യുക, നിങ്ങളുടെ ഒരു റിപ്പോസിറ്ററിയുടെ AI ഇൻവെന്ററി ഞങ്ങൾ നിർമ്മിക്കും.

ഘട്ടം 2: ഏജന്റുമാർ എങ്ങനെ നിർമ്മിക്കപ്പെടുന്നു എന്നതിലെ അപകടസാധ്യതകൾ മനസ്സിലാക്കുക

മിക്ക ഏജന്റ് ദുർബലതകളും വിചിത്രമല്ല. അവ സ്ട്രിംഗ് കോൺകറ്റനേഷൻ ഉപയോഗിച്ച് നിർമ്മിച്ച ഒരു പ്രോംപ്റ്റ് ആണ്, ഇൻപുട്ട് ഗാർഡ്‌റെയിൽ ഇല്ലാത്ത ഒരു ടൂൾ-കോളിംഗ് ഏജന്റ് അല്ലെങ്കിൽ ഏജന്റിന് ആവശ്യമുള്ളതിനേക്കാൾ വളരെ കൂടുതൽ സ്കോപ്പുള്ള ഒരു ക്രെഡൻഷ്യൽ. അവയെല്ലാം കോഡിൽ വിരലടയാളങ്ങൾ ഇടുന്നതിനാൽ, വിന്യാസത്തിന് മുമ്പ് നിങ്ങൾക്ക് അവയെ CI-യിൽ പിടിക്കാൻ കഴിയും.

കോഡിൽ നിങ്ങൾക്ക് പിടിക്കാൻ കഴിയുന്ന AI ഏജന്റ് അപകടസാധ്യതകൾ

ഓരോ അപകടസാധ്യതയും ഇനിപ്പറയുന്നതിലേക്ക് മാപ്പ് ചെയ്യുന്നു എൽഎൽഎം അപേക്ഷകൾക്കുള്ള OWASP ടോപ്പ് 10 അല്ലെങ്കിൽ അതിന്റെ ഏജന്റുമാരായ കൂട്ടാളികൾ, അതിനാൽ കണ്ടെത്തലുകൾ നിങ്ങളുടെ ഓഡിറ്റർമാരുടെ അതേ ഭാഷയാണ് സംസാരിക്കുന്നത്.

അപകടസാധ്യതകോഡിൽ ഇത് എങ്ങനെ കാണപ്പെടുന്നുOWASP മാപ്പിംഗ്
ഉടനടി കുത്തിവയ്പ്പ്റോൾ സെപ്പറേഷൻ, ഡിലിമിറ്ററുകൾ അല്ലെങ്കിൽ ഇല്ലാതെ ഉപയോക്തൃ ഉള്ളടക്കം സംയോജിപ്പിക്കാൻ സിസ്റ്റം ആവശ്യപ്പെടുന്നു guardrailsLLM01
പരോക്ഷ കുത്തിവയ്പ്പ്ഇൻപുട്ട് ഇല്ലാത്ത ടൂൾ-കോളിംഗ് ഏജന്റുകൾ guardrails, അല്ലെങ്കിൽ വെബ് പേജുകൾ, ഇമെയിലുകൾ അല്ലെങ്കിൽ വീണ്ടെടുത്ത പ്രമാണങ്ങൾ അണുവിമുക്തമാക്കാതെ ഉൾക്കൊള്ളുന്ന ഏജന്റുമാർLLM01
സുരക്ഷിതമല്ലാത്ത ഔട്ട്‌പുട്ട് കൈകാര്യം ചെയ്യൽമോഡൽ ഔട്ട്പുട്ട് എത്തുന്നു eval അല്ലെങ്കിൽ ഫംഗ്ഷനുകളിലും ഫയലുകളിലും കാണപ്പെടുന്ന മറ്റ് അപകടകരമായ സിങ്കുകൾLLM05
അധിക പദവിയുള്ള ഏജന്റ് ഐഡന്റിറ്റികൾമനുഷ്യത്വരഹിതമായ ഐഡന്റിറ്റി ദുരുപയോഗംസ്റ്റാറ്റിക് ദീർഘകാല ക്രെഡൻഷ്യലുകൾ, സ്കോപ്പ് ചുരുക്കൽ ഇല്ലാതെ പങ്കിട്ട ക്രെഡൻഷ്യലുകൾ, ഉയർന്ന പ്രിവിലേജുകളോടെ പ്രവർത്തിക്കുന്ന MCP അല്ലെങ്കിൽ ടൂൾ സെർവറുകൾഎഎസ്ഐ03
ദോഷകരമായ അല്ലെങ്കിൽ അക്ഷരത്തെറ്റുള്ള കഴിവുകൾഏജന്റ് സ്കിൽ സപ്ലൈ ചെയിൻഇതിൽ മറഞ്ഞിരിക്കുന്ന ക്ഷുദ്രകരമായ നിർദ്ദേശങ്ങൾ SKILL.md or AGENTS.md, അറിയപ്പെടുന്ന കഴിവുകളെയോ സംയോജനങ്ങളെയോ അനുകരിക്കുന്ന കഴിവുകളുടെ പേരുകൾഏജന്റ് കഴിവുകൾ ടോപ്പ് 10
പ്രോംപ്റ്റുകളിലെ രഹസ്യങ്ങൾപ്രോംപ്റ്റ് ഫയലുകൾക്കുള്ളിൽ സൂക്ഷിച്ചിരിക്കുന്ന ക്രെഡൻഷ്യലുകൾLLM07

ഓരോ കണ്ടെത്തലിലും അതിന്റേതായ OWASP LLM ടോപ്പ് 10 വിഭാഗം ഉണ്ട്, കൂടാതെ അവ പ്രയോഗിക്കുന്ന OWASP ഏജന്റ് ആപ്ലിക്കേഷനുകളും ഏജന്റ് സ്കിൽസ് ടാഗുകളും ഉൾപ്പെട്ടിരിക്കുന്ന റെഡ്-ടീം ആക്രമണ വെക്റ്ററുകളും ഉണ്ട്.

ഒരു സ്‌കിൽ ഫയലിലെ ഒരു ക്ഷുദ്ര നിർദ്ദേശം കോഡ് അല്ല, പ്രോസസ് ആയതിനാലും ഒരു ഒപ്പിനും അത് കാണാൻ കഴിയാത്തതിനാലും സ്‌കിൽസ് പ്രത്യേക ശ്രദ്ധ അർഹിക്കുന്നു. ഒരു ഓപ്റ്റ്-ഇൻ AI അവലോകനം ഫ്ലാഗ് ചെയ്‌ത സ്‌കിൽ, ഏജന്റ് ഇൻസ്ട്രക്ഷൻ ഫയലുകളുടെ ഉദ്ദേശ്യം പതിപ്പിച്ചതും നിർണായകവുമായ സജ്ജീകരണത്തോടെ വിലയിരുത്തുന്നു, അതിനാൽ ഒരേ ഫയലിന് എല്ലായ്പ്പോഴും ഒരേ വിധി ലഭിക്കും. ഇത് നിങ്ങളുടെ സ്വന്തം സ്വയം ഹോസ്റ്റുചെയ്‌ത മോഡലിൽ പ്രവർത്തിക്കാൻ കഴിയും, അതിനാൽ കോഡും പ്രോംപ്റ്റുകളും നിങ്ങളുടെ പരിസ്ഥിതി വിട്ടുപോകേണ്ടതില്ല. ഒരു സ്‌കിൽ-ലെവൽ സ്കോർ ആ സിഗ്നലുകളെ ഒരു ഉത്തരത്തിലേക്ക് സംയോജിപ്പിക്കുന്നു: സുരക്ഷിതം, ജാഗ്രത അല്ലെങ്കിൽ ഇൻസ്റ്റാൾ ചെയ്യരുത്.

കൂടുതൽ ആഴത്തിൽ പോകുക: നമ്മുടെ സെഷൻ കാണുക ബ്ലാസ്റ്റ് റേഡിയസ്: നിങ്ങൾ ആവശ്യപ്പെടാത്തത് ഏജന്റ് സ്പർശിക്കുമ്പോൾ, ഒരു ഏജന്റിന്റെ അനുമതികൾ അവരുടെ ചുമതലയെക്കാൾ കൂടുതലാകുമ്പോൾ എന്ത് സംഭവിക്കും എന്നതിനെക്കുറിച്ച്.

ഘട്ടം 3: കോഡിംഗ് ഏജന്റിന്റെ ലൂപ്പിനുള്ളിൽ സുരക്ഷ സ്ഥാപിക്കുക

AI കോഡിംഗ് ഏജന്റുകൾ എഴുതുന്നു, commit ആർക്കും അവലോകനം ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ വേഗത്തിൽ കോഡ് ലഭിക്കും. രണ്ടാഴ്ച കഴിഞ്ഞ് ടിക്കറ്റിൽ വരുന്ന ഒരു കണ്ടെത്തൽ അപൂർവ്വമായി മാത്രമേ പരിഹരിക്കപ്പെടുകയുള്ളൂ. ഏജന്റ് ഇപ്പോഴും പ്രവർത്തിക്കുന്ന സമയത്ത് തന്നെ പരിഹാരം സംഭവിക്കണം.

Xygeni MCP സെർവർ ലോക്കലായി പ്രവർത്തിക്കുന്നു, MCP പിന്തുണയ്ക്കുന്ന ഏതൊരു AI കോഡിംഗ് ഏജന്റുമായും ഇത് പ്രവർത്തിക്കുന്നു, അത് ഏത് മോഡലിൽ പ്രവർത്തിക്കുന്നുവോ അത്. ഏജന്റിന് അത് ഇപ്പോൾ എഴുതിയ കോഡ് സ്കാൻ ചെയ്യാനും, പുതിയ പ്രശ്നങ്ങൾ ലിസ്റ്റ് ചെയ്യാനും, AI ട്രയേജ് വെർഡിക്റ്റുകൾ നേടാനും, പരിഹാരങ്ങൾ അഭ്യർത്ഥിക്കാനും കഴിയും. SAST ഒപ്പം SCA കണ്ടെത്തലുകൾ. മാറ്റം വ്യക്തമാകുന്നതുവരെ, എന്തെങ്കിലും വ്യക്തമാകുന്നതിനുമുമ്പ് ഇത് ആവർത്തിക്കുന്നു. commitടെഡ്, നിങ്ങളുടെ ടീം സജ്ജമാക്കുന്ന അംഗീകാരങ്ങളോടെ.

ഇത് നിങ്ങളുടെ അതേ എഞ്ചിനുകൾ, നയങ്ങൾ, നിശബ്ദ നിയമങ്ങൾ എന്നിവ ഉപയോഗിക്കുന്നു pipeline, അതിനാൽ ഏജന്റും നിങ്ങളുടെ സിഐയും ഒരിക്കലും വിയോജിക്കുന്നില്ല. ഏജന്റിനൊപ്പം പ്രവർത്തിക്കുന്ന ഡെവലപ്പർമാർക്ക്, IDE പ്ലഗിനുകൾ അതേ കണ്ടെത്തലുകളും പരിഹാരങ്ങളും എഡിറ്ററിലേക്ക് കൊണ്ടുവരിക.

ഘട്ടം 4: ഏജന്റുമാർ ഇൻസ്റ്റാൾ ചെയ്യുന്ന കാര്യങ്ങൾ സൂക്ഷിക്കുക

ഒരു AI കോഡിംഗ് ഏജന്റിന് സ്വന്തമായി ഒരു ആശ്രിതത്വം ചേർക്കാൻ കഴിയും, കൂടാതെ പരിചിതമായ പേരുള്ള ഒരു പുതിയ പാക്കേജ് നിയമാനുസൃതമാണോ എന്ന് പരിശോധിക്കാൻ അത് നിൽക്കില്ല. ആക്രമണകാരികൾക്ക് ഇത് അറിയാം, ഓപ്പൺ സോഴ്‌സ് രജിസ്ട്രികളാണ് അവർ കാത്തിരിക്കുന്ന സ്ഥലം.

മാൽവെയർ പ്രതിരോധം ഒരു ഒപ്പ് ഉണ്ടാകുന്നതിന് മുമ്പ്, അവ ഇൻസ്റ്റാൾ ചെയ്യുന്നയാൾ, ഒരു ഡെവലപ്പർ അല്ലെങ്കിൽ ഒരു ഏജന്റ്, ക്ഷുദ്ര പാക്കേജുകൾ ഫ്ലാഗ് ചെയ്യുന്നു. ഡെവലപ്പറുടെ മെഷീനിൽ, Shield എന്തെങ്കിലും പ്രവർത്തിക്കുന്നതിന് മുമ്പ് നയം നടപ്പിലാക്കുന്നു: പുതിയ പാക്കേജുകൾക്കുള്ള ഏറ്റവും കുറഞ്ഞ പ്രായം, IDE എക്സ്റ്റൻഷനുകൾക്കും പ്ലഗിനുകൾക്കുമുള്ള കവറേജ്, ക്ഷുദ്ര സൂചകങ്ങളുടെയും അപകടകരമായ ഭൂമിശാസ്ത്രത്തിന്റെയും തടയൽ, ഒരു മെഷീൻ നിയന്ത്രിക്കേണ്ടിവരുമ്പോൾ എൻഡ്‌പോയിന്റ് ഐസൊലേഷൻ.

കൂടുതൽ ആഴത്തിൽ പോകണോ?

ഹാൻഡ്‌ലറിലെ ഒരു പോരായ്മയും അതിലേക്ക് എത്തുന്ന തുറന്ന എൻഡ്‌പോയിന്റും ഒരു പ്രശ്‌നമാണ്, ഒരു ഉടമയുടെ കാര്യത്തിൽ. നിങ്ങൾ ഇതിനകം മറ്റൊരു DAST ടൂൾ പ്രവർത്തിപ്പിച്ചിട്ടുണ്ടെങ്കിൽ, Xygeni അതിന്റെ ഫലങ്ങൾ അതേ റിസ്ക് വ്യൂവിലേക്ക് ഇറക്കുമതി ചെയ്യുന്നു, അത് മാറ്റിസ്ഥാപിക്കാൻ നിങ്ങളോട് ആവശ്യപ്പെടാതെ തന്നെ.

രണ്ട് ലെയറുകളും ഒരുമിച്ച് പ്രവർത്തിക്കുന്നത് കാണാൻ ആഗ്രഹിക്കുന്നുണ്ടോ? ഞങ്ങളുടെ സെഷൻ കാണുക കോഡിൽ നിന്ന് റൺടൈമിലേക്ക്: എന്തുകൊണ്ട് SAST + DAST രണ്ടും ആധുനിക AppSec-ന് അത്യാവശ്യമാണ്, കോഡ് കണ്ടെത്തലുകളും റൺടൈം ടെസ്റ്റുകളും പരസ്പരം എങ്ങനെ സ്ഥിരീകരിക്കുന്നുവെന്ന് നമ്മൾ ഇവിടെ പരിശോധിക്കുന്നു.

ഒരു വർക്ക്ഫ്ലോ, മറ്റൊരു കൺസോൾ അല്ല

സ്വന്തം ക്യൂ ഉള്ള ഒരു പ്രത്യേക ഉപകരണമായി മാറുമ്പോൾ AI ഏജന്റ് സുരക്ഷ പരാജയപ്പെടുന്നു. Xygeni-യിൽ, AI കണ്ടെത്തലുകൾ ഒരേ ഫണലിലൂടെ കടന്നുപോകുന്നു, AI ട്രയേജ്, ടിക്കറ്റുകളും റിപ്പോർട്ടുകളും നിങ്ങളുടെ ബാക്കി കണ്ടെത്തലുകളായി. പത്ത് OWASP LLM വിഭാഗങ്ങൾക്കും AI റെമഡിയേഷൻ സന്ദർഭ-അവബോധ പരിഹാര മാർഗ്ഗനിർദ്ദേശം നൽകുന്നു, കൂടാതെ ASPM കോഡ്, ആശ്രിതത്വം എന്നിവയ്ക്ക് അടുത്തായി AI അപകടസാധ്യത സ്ഥാപിക്കുന്നു pipeline ഒരു കാഴ്ചപ്പാടിൽ അപകടസാധ്യത.

AI ഏജന്റ് സുരക്ഷയും അനുസരണവും

നിങ്ങൾ പ്രവർത്തിപ്പിക്കുന്ന AI യുടെ ഒരു ഇൻവെന്ററിയും അതിന്റെ അപകടസാധ്യത എങ്ങനെ തരംതിരിച്ചിരിക്കുന്നു എന്നതും റെഗുലേറ്റർമാർ, ഓഡിറ്റർമാർ, ഉപഭോക്താക്കൾ എന്നിവർ കൂടുതലായി ആവശ്യപ്പെടുന്നു. EU AI നിയമം ഒപ്പം ISO / IEC 42001 രണ്ടും ആ ദിശയിലേക്ക് നീങ്ങുന്നു, ഒരു AI-BOM ഒരു standard സംഭരണ ​​ചോദ്യാവലിയിലെ ഇനം.

ഓരോ അസറ്റിനും റിസ്ക് കാറ്റഗറി ഫീൽഡ് ഉള്ള ഒരു AI ഇൻവെന്ററി നിങ്ങളുടെ ഗവേണൻസ് ടീമിന് ആ ജോലിക്കുള്ള തെളിവ് അടിസ്ഥാനം നൽകുന്നു. ഇത് EU AI ആക്റ്റ് സന്നദ്ധതയെ പിന്തുണയ്ക്കുന്നു; ഇത് ഒരു അനുരൂപീകരണ വിലയിരുത്തലല്ല, കൂടാതെ ഇത് നിങ്ങളുടെ നിയമ അവലോകനത്തിന് പകരമാവില്ല.

ഇടത്തരം ടീമുകൾ എന്ന് പറയുന്നത് ലളിതമാണ്:

  1. ഓരോന്നിലും pull request: മാറ്റിയ കോഡിൽ CI-യിലെ API സുരക്ഷ, കൂടാതെ വർദ്ധിച്ചുവരുന്ന DAST സ്കാനുകളും.
  2. മുമ്പ് commit: പോലെ pre-commit ഘട്ടം ഘട്ടമായുള്ള ഫയലുകളിൽ ഗേറ്റ്.
  3. രാത്രിയിലോ ലയിപ്പിച്ചപ്പോഴോ: ഒരു പൂർണ്ണ DAST സ്കാൻ.
  4. ഓരോ പ്രധാന റിലീസിനും മുമ്പ്: ബാക്ക്‌ലോഗ് സാധൂകരിക്കുന്നതിനും ഓരോ പരിഹാരവും ദ്വാരം അടച്ചതായി സ്ഥിരീകരിക്കുന്നതിനുമായി സ്റ്റേജിംഗിനെതിരെ AI പെന്റസ്റ്റിംഗ് നടത്തുന്നു.

API സെക്യൂരിറ്റി സ്കാനർ എയർ-ഗ്യാപ്പ്ഡ് പരിതസ്ഥിതികൾ ഉൾപ്പെടെ എവിടെയും പ്രവർത്തിക്കുന്നു, കൂടാതെ Xygeni SaaS-ലേക്കോ നിങ്ങളുടെ on-premiseഎസ് പ്ലാറ്റ്‌ഫോം. ഫലങ്ങൾ JSON ആയി പുറത്തുവരുന്നു, സാരിഫ് 2.1.0, CSV, മാർക്ക്ഡൗൺ എന്നിവയ്ക്കുള്ള pull request അഭിപ്രായങ്ങൾ.

API സുരക്ഷാ പരിശോധനയും അനുസരണവും

ബാങ്കിംഗ്, ഇൻഷുറൻസ്, പൊതുമേഖല എന്നിവയിലെ ടീമുകൾക്ക്, API സുരക്ഷാ പരിശോധനയും തെളിവാണ്. ഓരോ കണ്ടെത്തലിലും അനുസരണ ടാഗുകൾ ഉണ്ട്. GDPR ആർട്ടിക്കിൾ 32, പിസിഐ ഡിഎസ്എസ് 4.0 (ആവശ്യകതകൾ 3.4, 6.4.3, 7.1, 7.2, 8) കൂടാതെ NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), പ്ലാറ്റ്‌ഫോമിലും JSON, SARIF ഔട്ട്‌പുട്ടിലും ദൃശ്യമാണ്.

നിങ്ങളുടെ സ്ഥാപനം ഇതിൽ ഉൾപ്പെട്ടാൽ ഡോറ or NIS2, നിങ്ങളുടെ റെഗുലേറ്റർമാർക്ക് ഇപ്പോഴും ആവശ്യമുള്ള മാനുവൽ പെന്റസ്റ്റുകൾക്കിടയിൽ റൺടൈം പരിശോധന തുടർച്ചയായ തെളിവുകൾ നൽകുന്നു. 

7 ഘട്ടങ്ങളിലൂടെ AI ഏജന്റ് സുരക്ഷ എങ്ങനെ നടപ്പിലാക്കാം

ഒരു യഥാർത്ഥ ഡെവലപ്‌മെന്റ് ടീമിൽ AI ഏജന്റ് സുരക്ഷ ഏറ്റവും വേഗത്തിൽ പ്രവർത്തിക്കുന്ന ക്രമത്തിലുള്ള പ്രായോഗിക ചെക്ക്‌ലിസ്റ്റ് ഇതാ.

  1. കണ്ടെത്തുക

    നിങ്ങളുടെ റിപ്പോസിറ്ററികളിലെ എല്ലാ AI അസറ്റുകളും ഇൻവെന്ററി ചെയ്യുക

    ഏജന്റുമാർ, MCP സെർവറുകൾ, കഴിവുകൾ, മോഡലുകൾ, പ്രോംപ്റ്റുകൾ, AI കോഡിംഗ് ഉപകരണങ്ങൾ എന്നിവയ്ക്കായി എല്ലാ റിപ്പോസിറ്ററികളും സ്കാൻ ചെയ്യുക, ഫലം ഒരു AI-BOM ആയി എക്സ്പോർട്ട് ചെയ്യുക. ഇതാണ് നിങ്ങളുടെ അടിസ്ഥാനം, മറ്റെല്ലാ ഘട്ടങ്ങളും പ്രവർത്തിക്കുന്ന പട്ടിക.

  2. വര്ഗ്ഗീകരിക്കുക

    ഓരോ ഏജന്റിനും ഒരു ഉടമയും ഒരു റിസ്ക് ലെവലും നൽകുക.

    ഓരോ ഏജന്റിനും, അത് ആരുടേതാണ്, ഏതൊക്കെ ഡാറ്റയും ഉപകരണങ്ങളും അതിന് എത്തിച്ചേരാനാകും, അതിന്റെ EU AI ആക്റ്റ് റിസ്ക് വിഭാഗം എന്നിവ രേഖപ്പെടുത്തുക. ആരുടെയും ഉടമസ്ഥതയില്ലാത്ത ഒരു ഏജന്റ് ആരും പരിഹരിക്കാത്ത ഒരു ഏജന്റാണ്.

  3. കണ്ടെത്തുക

    ഓരോന്നിലും CI-യിൽ ഏജന്റ് കോഡ് സ്കാൻ ചെയ്യുക. pull request

    നിങ്ങളുടെ മറ്റ് സ്കാനുകൾക്ക് അടുത്തായി AI റിസ്ക് ഡിറ്റക്ഷൻ പ്രവർത്തിപ്പിക്കുക. അടിസ്ഥാനരേഖ കാണുന്നതിന് നോൺ-ബ്ലോക്കിംഗ് മോഡിൽ ആരംഭിക്കുക, തുടർന്ന് ടീമുകൾ വൃത്തിയാക്കിക്കഴിഞ്ഞാൽ നിർണായക കണ്ടെത്തലുകളിൽ ലയനങ്ങൾ തടയുക.

  4. അവലോകനം

    ആരെങ്കിലും ഇൻസ്റ്റാൾ ചെയ്യുന്നതിന് മുമ്പ് കഴിവുകൾ അവലോകനം ചെയ്യുക.

    പോലുള്ള നൈപുണ്യ, ഏജന്റ് നിർദ്ദേശ ഫയലുകൾ സ്കാൻ ചെയ്യുക SKILL.md ഒപ്പം AGENTS.md, AI ഇന്റന്റ് അവലോകനം ഓണാക്കുക, "ഇൻസ്റ്റാൾ ചെയ്യരുത്" എന്ന വിധിയെ ഒരു ഹാർഡ് സ്റ്റോപ്പായി കണക്കാക്കുക.

  5. നിയന്ത്രിക്കുക

    ഏജന്റ് അനുമതികൾ ചുരുക്കുക

    സ്റ്റാറ്റിക് ദീർഘകാല ക്രെഡൻഷ്യലുകൾ സ്കോപ്പ് ചെയ്തവ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുക, ഏജന്റുമാർക്കിടയിൽ ക്രെഡൻഷ്യലുകൾ പങ്കിടുന്നത് നിർത്തുക, കൂടാതെ ആവശ്യമില്ലാത്ത ഉയർന്ന പ്രിവിലേജുകളുള്ള MCP അല്ലെങ്കിൽ ടൂൾ സെർവറുകൾ ഒരിക്കലും പ്രവർത്തിപ്പിക്കരുത്.

  6. ലൂപ്പിൽ പരിഹരിക്കുക

    കോഡിംഗ് ഏജന്റിന്റെ ലൂപ്പിനുള്ളിൽ സുരക്ഷ സ്ഥാപിക്കുക.

    നിങ്ങളുടെ AI കോഡിംഗ് ഏജന്റുകളെ ഒരു സുരക്ഷാ MCP സെർവറുമായി ബന്ധിപ്പിക്കുക, അതുവഴി അവർ സ്വന്തം കോഡ് സ്കാൻ ചെയ്ത് പരിഹരിക്കും. commitടെഡ്, നിങ്ങളുടെ അതേ നയങ്ങളുമായി pipeline.

  7. സംരക്ഷിക്കുക

    ഡെവലപ്പർ മെഷീനുകളിൽ എന്താണ് പതിക്കുന്നതെന്ന് സൂക്ഷിക്കുക

    പുതിയ പാക്കേജുകൾക്ക് കുറഞ്ഞ പ്രായം നിർബന്ധമാക്കുക, ഒരു ഒപ്പ് ഉണ്ടാകുന്നതിന് മുമ്പ് ക്ഷുദ്രകരമായ പാക്കേജുകൾ കണ്ടെത്തുക, IDE എക്സ്റ്റൻഷനുകളും പ്ലഗിനുകളും, അവ ഇൻസ്റ്റാൾ ചെയ്യുന്നവർ ആരായാലും, ഒരു ഡെവലപ്പർ അല്ലെങ്കിൽ ഒരു ഏജന്റായാലും, കവർ ചെയ്യുക.

അപ്പോൾ: ഓരോ കണ്ടെത്തലും നിങ്ങളുടെ AppSec-ന്റെ ബാക്കി ഭാഗങ്ങളിലെന്നപോലെ അതേ ട്രയേജിലേക്കും ടിക്കറ്റിംഗിലേക്കും റിപ്പോർട്ടിംഗ് വർക്ക്ഫ്ലോയിലേക്കും നയിക്കുക, അങ്ങനെ AI റിസ്ക് അതിന്റേതായ ഒരു ക്യൂവിൽ അവസാനിക്കുന്നില്ല.

നിങ്ങൾ ഒരിക്കലും കണ്ടിട്ടില്ലാത്ത ഒരു ഏജന്റിനെ നിങ്ങൾക്ക് സുരക്ഷിതമാക്കാൻ കഴിയില്ല.

AI ഏജന്റ് സുരക്ഷ എന്നത് മറ്റൊരു സ്കാനർ മാത്രമല്ല. നിങ്ങൾ ഏത് ഏജന്റുകളെയാണ് പ്രവർത്തിപ്പിക്കുന്നതെന്ന് അറിയുക, അവ എങ്ങനെ നിർമ്മിക്കപ്പെടുന്നു എന്നതിലെ അപകടസാധ്യത കണ്ടെത്തുക, കോഡിംഗ് ഏജന്റിന്റെ ലൂപ്പിനുള്ളിൽ സുരക്ഷ നൽകുക, എന്ത് ഏജന്റുകൾ ഇൻസ്റ്റാൾ ചെയ്യുന്നു എന്ന് സംരക്ഷിക്കുക എന്നിവയാണ് ഇത്. ഇൻവെന്ററിയിൽ നിന്ന് ആരംഭിക്കുക: മറ്റെല്ലാം അതിനെ ആശ്രയിച്ചിരിക്കുന്നു.

നിങ്ങളുടെ കോഡിലെ എല്ലാ ഏജന്റുമാരെയും, MCP സെർവറുകളെയും, വൈദഗ്ധ്യത്തെയും കാണാൻ ആഗ്രഹിക്കുന്നുണ്ടോ? ഒരു എഞ്ചിനീയറുമായി ഒരു സെഷൻ ബുക്ക് ചെയ്യുക നിങ്ങളുടെ റിപ്പോസിറ്ററികളുടെ AI ഇൻവെന്ററി നിർമ്മിക്കുന്നതിനും അതിന്റെ കണ്ടെത്തലുകൾ അവലോകനം ചെയ്യുന്നതിനും. അല്ലെങ്കിൽ സൗജന്യമായി ആരംഭിക്കുക AI ഉപയോഗിച്ച് SAST, SCA, രഹസ്യങ്ങൾ കണ്ടെത്തൽ, ഓപ്പൺ സോഴ്‌സ് പാക്കേജുകളിലെ IDE പ്ലഗിനുകൾ, മാൽവെയർ കണ്ടെത്തൽ. ക്രെഡിറ്റ് കാർഡ് ഇല്ല.

AI ഏജന്റ് സുരക്ഷാ പതിവുചോദ്യങ്ങൾ

AI ഏജന്റ് സുരക്ഷ LLM സുരക്ഷയിൽ നിന്ന് എങ്ങനെ വ്യത്യാസപ്പെട്ടിരിക്കുന്നു?

ഒരു മോഡൽ പറയുന്ന കാര്യങ്ങളെക്കുറിച്ചാണ് LLM സുരക്ഷ: ചോർന്ന ഡാറ്റ, കൃത്രിമമായി നിർമ്മിച്ച ഉത്തരങ്ങൾ, സുരക്ഷിതമല്ലാത്ത ഔട്ട്‌പുട്ട്. ഉപകരണങ്ങൾ, മെമ്മറി, ക്രെഡൻഷ്യലുകൾ, മറ്റ് ഏജന്റുകൾ എന്നിവ ഉപയോഗിച്ച് ഒരു ഏജന്റ് ചെയ്യുന്ന കാര്യങ്ങളെക്കുറിച്ചാണ് AI ഏജന്റ് സുരക്ഷ. അതുകൊണ്ടാണ് OWASP LLM ടോപ്പ് 10 ന് മുകളിൽ ഏജന്റ് ആപ്ലിക്കേഷനുകൾക്കായി (ASI01 മുതൽ ASI10 വരെ) ഒരു പ്രത്യേക ടോപ്പ് 10 പ്രസിദ്ധീകരിക്കുന്നത്.

എന്റെ സ്ഥാപനത്തിലെ AI ഏജന്റുമാരെയും MCP സെർവറുകളെയും ഞാൻ എങ്ങനെ കണ്ടെത്തും?

കോഡിൽ നിന്ന് ആരംഭിക്കുക. Xygeni AI സെക്യൂരിറ്റി നിങ്ങളുടെ റിപ്പോസിറ്ററികളിലെ ഏജന്റുകൾ, MCP സെർവറുകൾ, കഴിവുകൾ, മോഡലുകൾ, പ്രോംപ്റ്റുകൾ, AI കോഡിംഗ് ടൂളുകൾ എന്നിവ കണ്ടെത്തുകയും അവ എങ്ങനെ ബന്ധിപ്പിക്കുന്നുവെന്ന് മാപ്പ് ചെയ്യുകയും ഫലം CycloneDX ഫോർമാറ്റിൽ AI-BOM ആയി കയറ്റുമതി ചെയ്യുകയും ചെയ്യുന്നു. ഇത് നിങ്ങളുടെ മറ്റ് സ്കാനുകൾക്ക് അടുത്തായി CI-യിൽ പ്രവർത്തിക്കുന്നു.

ഒരു ക്ഷുദ്ര വൈദഗ്ധ്യത്തിനോ MCP സെർവറിനോ എന്റെ ഡെവലപ്പർമാരെ അപഹരിക്കാൻ കഴിയുമോ?

അതെ: ഒരു സ്കിൽ നിർദ്ദേശങ്ങൾ പ്ലെയിൻ ടെക്സ്റ്റ് ആണ്, കൂടാതെ ഒരു ഏജന്റ് ഡെവലപ്പറുടെ അനുമതികളോടെ അവ പിന്തുടരും. Xygeni മറഞ്ഞിരിക്കുന്ന ക്ഷുദ്ര നിർദ്ദേശങ്ങളും ആൾമാറാട്ട നൈപുണ്യ നാമങ്ങളും ഫ്ലാഗ് ചെയ്യുന്നു, ഒരു ഓപ്റ്റ്-ഇൻ AI അവലോകനത്തിലൂടെ ഒരു സ്കിൽ ഉദ്ദേശ്യത്തെ വിലയിരുത്താൻ കഴിയും, കൂടാതെ ഓരോ സ്കില്ലും സുരക്ഷിതം, ജാഗ്രത, അല്ലെങ്കിൽ ഇൻസ്റ്റാൾ ചെയ്യരുത് എന്നിങ്ങനെ സ്കോർ ചെയ്യുന്നു. മാൽവെയർ പ്രതിരോധവും Shield പാക്കേജുകളും എക്സ്റ്റൻഷൻ ഏജന്റുമാരും കൊണ്ടുവരുന്നവ കവർ ചെയ്യുക.

സ്കാ-ടൂളുകൾ-സോഫ്റ്റ്‌വെയർ-കോമ്പോസിഷൻ-വിശകലന-ടൂളുകൾ
നിങ്ങളുടെ സോഫ്റ്റ്‌വെയർ അപകടസാധ്യതകൾക്ക് മുൻഗണന നൽകുക, പരിഹരിക്കുക, സുരക്ഷിതമാക്കുക
നിങ്ങളുടെ സൗജന്യ അക്കൗണ്ട് നേടൂ.
ക്രെഡിറ്റ് കാർഡ് ആവശ്യമില്ല.

നിങ്ങളുടെ സോഫ്റ്റ്‌വെയർ വികസനവും ഡെലിവറിയും സുരക്ഷിതമാക്കുക

സൈജെനി ഉൽപ്പന്ന സ്യൂട്ടിനൊപ്പം