AI ఏజెంట్ భద్రత

AI ఏజెంట్ భద్రత: ప్రతి ఏజెంట్‌ను తెలుసుకోండి, ప్రమాదాన్ని పసిగట్టండి, అది ఇన్‌స్టాల్ చేసేవాటిని కాపాడండి

విషయ సూచిక

తప్పక చదవాల్సిన పోస్ట్‌లు

AI ఏజెంట్ భద్రత అనేది ఇకపై ఒక మోడల్ చెప్పే దాని గురించి కాదు. అది ఒక ఏజెంట్ చేసే పనుల గురించి: అంటే అది పిలిచే సాధనాలు, అది చదివే డేటా, అది కలిగి ఉన్న ఆధారాలు మరియు అది స్వయంగా ఇన్‌స్టాల్ చేసుకునే ప్యాకేజీల గురించి.

మరియు చాలా జట్లు మొదటి ప్రశ్నకు సమాధానం చెప్పలేవు: మనం నిజానికి ఏ ఏజెంట్లను నడుపుతున్నాము? అవి లాంగ్‌చెయిన్ గ్రాఫ్‌లు, MCP సర్వర్లు వంటి రిపోజిటరీలలో ఉంటాయి, SKILL.md వ్యక్తిగత డెవలపర్లు ఒక శుక్రవారం మధ్యాహ్నం కాన్ఫిగర్ చేసిన ఫైల్స్ మరియు AI కోడింగ్ టూల్స్. వాటిని ఎవరూ సమీక్షించలేదు, మరియు ఒక హానికరమైన స్కిల్ అనేది కేవలం సాదా టెక్స్ట్ మాత్రమే.

TL; DR

నాలుగు దశలలో AI ఏజెంట్ భద్రత: చూడండి, స్కోర్ చేయండి, లూప్‌ను సురక్షితం చేయండి, ఇన్‌స్టాల్‌లను కాపాడండి

మీరు చూడలేని ఏజెంట్లను మీరు సురక్షితం చేయలేరు. AI ఏజెంట్ భద్రత అనేది మీ కోడ్‌లోని ప్రతి ఏజెంట్, MCP సర్వర్, స్కిల్, మోడల్ మరియు AI కోడింగ్ టూల్ యొక్క జాబితాతో మొదలవుతుంది.

  • ఏజెంట్లను నిర్మించే విధానంలో ఉన్న ప్రమాదం: వినియోగదారు ఇన్‌పుట్‌ను కలిపే ప్రాంప్ట్‌లు, టూల్-కాలింగ్ ఏజెంట్లు లేకుండా guardrailsదాచిన సూచనలతో కూడిన అధిక అధికారాలు మరియు నైపుణ్యాలు. దీనిలో చాలా భాగం డిప్లాయ్‌కు ముందు కోడ్‌లో కనిపిస్తుంది మరియు దీనికి మ్యాప్ చేయబడుతుంది ఏజెంటిక్ అప్లికేషన్ల కోసం OWASP టాప్ 10.
  • లూప్ లోపల భద్రత: కోడింగ్ ఏజెంట్లకు వాటి లూప్‌లో భద్రత అవసరం, కాబట్టి అవి తాము రాసినదాన్ని స్కాన్ చేసి, సరిదిద్దుతాయి. commitటెడ్, వారాల తర్వాత టికెట్‌లో కాదు.
  • సంస్థాపనలను కాపాడండి: ఏజెంట్లు కూడా డిపెండెన్సీలను ఇన్‌స్టాల్ చేస్తారు. సిగ్నేచర్ ఏర్పడక ముందే పనిచేసే మాల్వేర్ డిటెక్షన్, హానికరమైన ప్యాకేజీలను ఇన్‌స్టాల్ చేసేది డెవలపరైనా, ఏ ఏజెంట్ అయినా సరే, వాటిని గుర్తిస్తుంది.
  • ఒక వర్క్‌ఫ్లో: AI ఫైండింగ్స్ కూడా మీ మిగతా AppSec ఫైండింగ్స్ లాగే అవే ట్రయేజ్, టికెట్స్ మరియు రిపోర్ట్స్ ప్రక్రియల గుండా వెళ్తాయి.

మొదటి అడుగు: మీ రిపోజిటరీలలోని AI యొక్క జాబితాను రూపొందించండి, దానిని AI-BOMగా ఎగుమతి చేయండి, ఆపై CIలో కొత్త ఏజెంట్ కోడ్‌ను నియంత్రించండి.

AI ఏజెంట్ భద్రత ఎందుకు ఒక భిన్నమైన సమస్య

LLM ఫీచర్ టెక్స్ట్‌ను తిరిగి ఇస్తుంది, మరియు దానితో ఏమి చేయాలో ఒక మనిషి నిర్ణయిస్తాడు. ఒక ఏజెంట్ ఆ ప్రక్రియను స్వయంగా పూర్తి చేస్తుంది: అది ప్రణాళిక వేస్తుంది, టూల్స్‌ను పిలుస్తుంది, వెబ్ పేజీలు, ఈమెయిళ్లు మరియు డాక్యుమెంట్లను చదువుతుంది, ఫైళ్లను రాస్తుంది, మరియు కమాండ్లను అమలు చేస్తుంది. మీరు ఒక ఏజెంట్‌కు ఇచ్చే ప్రతి సామర్థ్యాన్ని ఒక దాడి చేసేవాడు కూడా వాడుకోవచ్చు.

OWASP కూడా అదే వ్యత్యాసాన్ని చూపింది. OWASP ఏజెంటిక్ అప్లికేషన్స్ 2026 కోసం టాప్ 10 (ASI01 నుండి ASI10 వరకు) దీనిపై ఆధారపడి ఉంటుంది LLM అప్లికేషన్లకు OWASP టాప్ 10: LLM జాబితా ఒక మోడల్ ఏమి చెబుతుందో వివరిస్తుంది; ఏజెంటిక్ జాబితా ఒక ఏజెంట్ ఏమి చేస్తుందో వివరిస్తుంది.

చాలా సంస్థలు ఇప్పుడు రెండు రకాల ఏజెంట్లను నడుపుతున్నాయి:

  • మీరు మీ అప్లికేషన్‌లలో పొందుపరిచే ఏజెంట్లు: LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel లేదా LlamaIndex వంటి ఫ్రేమ్‌వర్క్‌లతో నిర్మించిన సహాయకులు, అంతర్గత కో-పైలట్‌లు మరియు వర్క్‌ఫ్లోలు, తరచుగా సాధనాలకు కనెక్ట్ చేయబడతాయి. MCP సర్వర్లు.
  • మీ డెవలపర్లు ఉపయోగించే AI కోడింగ్ ఏజెంట్లు: క్లాడ్ కోడ్, కర్సర్, గిట్‌హబ్ కోపైలట్, విండ్‌సర్ఫ్ మరియు ఇతరాలు, ఇవి కోడ్ రాయడం, కాన్ఫిగరేషన్‌ను సవరించడం మరియు డిపెండెన్సీలను జోడించడం వంటివి చేస్తాయి.

AI ఏజెంట్ భద్రత ఈ రెండింటినీ కవర్ చేయాలి, ఎందుకంటే రెండూ మీ అనుమతులతోనే పనిచేస్తాయి.

దశ 1: ప్రతి ఏజెంట్, MCP సర్వర్ మరియు నైపుణ్యాన్ని జాబితా చేయండి

AI ఏజెంట్ భద్రత ఒక ప్రశ్నల బోర్డుతో మొదలవుతుంది, మరియు ఇప్పుడు ఆడిటర్లు ఇలా అడుగుతున్నారు: మనం ఏ AIని నడుపుతున్నాము? Xygeni AI సెక్యూరిటీ ఇది కోడ్, కాన్ఫిగరేషన్, మానిఫెస్ట్‌లు మరియు డిపెండెన్సీల నుండి సమాధానం ఇస్తుంది.

ఇది మోడల్‌లు, ఏజెంట్‌లు మరియు ఏజెంట్ సర్వర్‌లు, AI ఫ్రేమ్‌వర్క్‌లు, MCP సర్వర్‌లు మరియు వాటి సాధనాలు, నైపుణ్యాలను కనుగొంటుంది (SKILL.md, AGENTS.md), ప్రాంప్ట్‌లు, guardrailsమీ రిపోజిటరీలలో కాన్ఫిగర్ చేయబడిన వెక్టర్ స్టోర్‌లు, డేటాసెట్‌లు, ఇన్ఫరెన్స్ ఎండ్‌పాయింట్‌లు మరియు AI కోడింగ్ టూల్స్‌ను ఇది మ్యాప్ చేస్తుంది. అవి ఎలా కనెక్ట్ అవుతాయో కూడా ఇది చూపిస్తుంది: ఏ ఏజెంట్ ఏ మోడల్‌ను ఉపయోగిస్తుంది, ఏ టూల్స్‌ను ఎగ్జిక్యూట్ చేస్తుంది మరియు ఏ MCP సర్వర్‌లను ఇన్వోక్ చేస్తుంది.

ఫలితంగా, CycloneDX ఫార్మాట్‌లో AI-BOMగా ఎగుమతి చేయగల ఒక సజీవ AI ఇన్వెంటరీ ఏర్పడుతుంది, దీనిలో ప్రతి ఆస్తికి EU AI చట్టం రిస్క్ కేటగిరీ ఫీల్డ్‌తో కూడిన గవర్నెన్స్ రికార్డ్ ఉంటుంది.

మీ కోడ్‌లో ఇప్పటికే ఏఐ ఉందో చూడాలనుకుంటున్నారా? ఇంజనీర్‌తో సెషన్ బుక్ చేసుకోండి, మరియు మేము మీ రిపోజిటరీలలో ఒకదాని AI ఇన్వెంటరీని నిర్మిస్తాము.

దశ 2: ఏజెంట్లను నిర్మించే విధానంలోని ప్రమాదాలను గుర్తించడం

చాలా ఏజెంట్ బలహీనతలు అసాధారణమైనవి కావు. అవి స్ట్రింగ్ సంకలనం ద్వారా నిర్మించబడిన ఒక ప్రాంప్ట్, ఇన్‌పుట్ గార్డ్‌రైల్ లేని టూల్-కాలింగ్ ఏజెంట్ లేదా ఏజెంట్‌కు అవసరమైన దానికంటే చాలా ఎక్కువ పరిధి ఉన్న క్రెడెన్షియల్ వంటివి. అవన్నీ కోడ్‌లో ఆనవాళ్లను వదిలివేస్తాయి, కాబట్టి మీరు వాటిని డిప్లాయ్‌మెంట్‌కు ముందే, CIలో పట్టుకోగలరు.

కోడ్‌లో మీరు పట్టుకోగల AI ఏజెంట్ ప్రమాదాలు

ప్రతి ప్రమాదం దీనికి అనుగుణంగా ఉంటుంది LLM అప్లికేషన్లకు OWASP టాప్ 10 లేదా దాని ఏజెంటిక్ సహచరులు, కాబట్టి ఫలితాలు మీ ఆడిటర్ల భాషనే మాట్లాడతాయి.

ప్రమాదంకోడ్‌లో ఇది ఎలా కనిపిస్తుందిOWASP మ్యాపింగ్
తక్షణ ఇంజెక్షన్పాత్ర విభజన, డెలిమిటర్లు లేకుండా వినియోగదారు కంటెంట్‌ను కలిపే సిస్టమ్ ప్రాంప్ట్‌లు guardrailsఎల్‌ఎల్‌ఎం 01
పరోక్ష ఇంజెక్షన్ఇన్‌పుట్ లేకుండా టూల్-కాలింగ్ ఏజెంట్లు guardrailsలేదా శుద్ధి చేయని వెబ్ పేజీలు, ఇమెయిల్‌లు లేదా తిరిగి పొందిన పత్రాలను స్వీకరించే ఏజెంట్లుఎల్‌ఎల్‌ఎం 01
అసురక్షిత అవుట్‌పుట్ నిర్వహణమోడల్ అవుట్‌పుట్ చేరుతోంది eval లేదా ఇతర ప్రమాదకరమైన సింక్‌లు, ఫంక్షన్‌లు మరియు ఫైల్‌లలో గుర్తించబడ్డాయిఎల్‌ఎల్‌ఎం 05
అధిక అధికారాలు గల ఏజెంట్ గుర్తింపులుమానవేతర గుర్తింపు దుర్వినియోగంస్టాటిక్ దీర్ఘకాలిక ఆధారాలు, పరిధిని తగ్గించని భాగస్వామ్య ఆధారాలు, ఉన్నత అధికారాలతో నడుస్తున్న MCP లేదా టూల్ సర్వర్లుASI03
దురుద్దేశపూర్వక లేదా టైపోస్క్వాటెడ్ నైపుణ్యాలుఏజెంట్ నైపుణ్య సరఫరా గొలుసుదాగి ఉన్న హానికరమైన ఆదేశాలు SKILL.md or AGENTS.mdతెలిసిన నైపుణ్యాలు లేదా ఇంటిగ్రేషన్‌లను అనుకరించే నైపుణ్యాల పేర్లుఏజెంట్ నైపుణ్యాలు టాప్ 10
ప్రాంప్ట్‌లలో రహస్యాలుప్రాంప్ట్ ఫైళ్ళలో నిల్వ చేయబడిన ఆధారాలుఎల్‌ఎల్‌ఎం 07

ప్రతి ఫైండింగ్‌కు దాని OWASP LLM టాప్ 10 కేటగిరీ, దానికి వర్తించే చోట OWASP ఏజెంటిక్ అప్లికేషన్స్ మరియు ఏజెంటిక్ స్కిల్స్ ట్యాగ్‌లు, ఇంకా అందులో ఇమిడి ఉన్న రెడ్-టీమ్ అటాక్ వెక్టర్స్ ఉంటాయి.

నైపుణ్యాలకు ప్రత్యేక శ్రద్ధ అవసరం, ఎందుకంటే ఒక నైపుణ్య ఫైల్‌లోని హానికరమైన సూచన కోడ్ కాకుండా వచనం రూపంలో ఉంటుంది, మరియు ఏ సిగ్నేచర్ కూడా దానిని గుర్తించలేదు. ఐచ్ఛిక AI సమీక్ష, వెర్షన్‌లతో కూడిన, నిర్ధారిత సెటప్‌తో ఫ్లాగ్ చేయబడిన నైపుణ్యం మరియు ఏజెంట్ సూచన ఫైళ్ల ఉద్దేశ్యాన్ని నిర్ధారిస్తుంది, కాబట్టి ఒకే ఫైల్‌కు ఎల్లప్పుడూ ఒకే తీర్పు వస్తుంది. ఇది మీ స్వంత సెల్ఫ్-హోస్టెడ్ మోడల్‌పై నడుస్తుంది, కాబట్టి కోడ్ మరియు ప్రాంప్ట్‌లు మీ పరిసరాలను విడిచి వెళ్లాల్సిన అవసరం లేదు. ఆ తర్వాత నైపుణ్య-స్థాయి స్కోర్ ఆ సంకేతాలను ఒకే సమాధానంగా మిళితం చేస్తుంది: సురక్షితం, జాగ్రత్త లేదా ఇన్‌స్టాల్ చేయవద్దు.

లోతుగా వెళ్ళండి: మా సెషన్‌ను చూడండి విస్ఫోటన పరిధి: ఏజెంట్ మీరు కోరని దాన్ని తాకినప్పుడుఒక ఏజెంట్ యొక్క అనుమతులు దాని పనిని మించిపోయినప్పుడు ఏమి జరుగుతుంది అనే దానిపై.

దశ 3: కోడింగ్ ఏజెంట్ లూప్ లోపల భద్రతను ఉంచండి

AI కోడింగ్ ఏజెంట్లు వ్రాస్తాయి మరియు commit ఎవరూ సమీక్షించకముందే కోడ్ వేగంగా అమలు అవుతుంది. రెండు వారాల తర్వాత టికెట్‌లో కనిపించే లోపం చాలా అరుదుగా సరిచేయబడుతుంది. ఏజెంట్ ఇంకా పని చేస్తున్నప్పుడే ఆ పరిష్కారం జరగాలి.

Xygeni MCP సర్వర్ స్థానికంగా నడుస్తుంది మరియు అది ఏ మోడల్‌లో నడుస్తున్నప్పటికీ, MCPకి మద్దతు ఇచ్చే ఏ AI కోడింగ్ ఏజెంట్‌తోనైనా పనిచేస్తుంది. ఆ ఏజెంట్ తాను ఇప్పుడే రాసిన కోడ్‌ను స్కాన్ చేయగలదు, కొత్త సమస్యలను జాబితా చేయగలదు, AI ట్రయేజ్ తీర్పులను పొందగలదు మరియు వాటి పరిష్కారాలను అభ్యర్థించగలదు. SAST మరియు SCA కనుగొన్న విషయాలు. ఏదైనా జరగడానికి ముందు, మార్పు స్పష్టంగా అయ్యే వరకు ఇది పునరావృతం అవుతుంది. commitటెడ్, మీ బృందం నిర్దేశించిన ఆమోదాలతో.

ఇది మీ మాదిరిగానే అవే ఇంజిన్‌లు, పాలసీలు మరియు మ్యూట్ నియమాలను ఉపయోగిస్తుంది. pipelineకాబట్టి, ఏజెంట్ మరియు మీ CI ఎప్పుడూ విభేదించవు. ఏజెంట్‌తో పాటు పనిచేసే డెవలపర్‌ల కోసం, IDE ప్లగిన్‌లు అవే పరిశోధన ఫలితాలను మరియు సవరణలను ఎడిటర్‌లోకి తీసుకురండి.

దశ 4: ఏజెంట్లు ఇన్‌స్టాల్ చేసే వాటిని కాపాడుకోండి

ఒక AI కోడింగ్ ఏజెంట్ దానంతట అదే ఒక డిపెండెన్సీని జోడించగలదు, మరియు సుపరిచితమైన పేరుతో ఉన్న ఒక సరికొత్త ప్యాకేజీ చట్టబద్ధమైనదేనా అని తనిఖీ చేయడానికి అది ఆగదు. దాడి చేసేవారికి ఈ విషయం తెలుసు, మరియు వారు ఓపెన్-సోర్స్ రిజిస్ట్రీల వద్దే కాచుకొని ఉంటారు.

మాల్వేర్ రక్షణ సిగ్నేచర్ ఏర్పడక ముందే హానికరమైన ప్యాకేజీలను ఫ్లాగ్ చేస్తుంది, వాటిని ఇన్‌స్టాల్ చేసేది డెవలపరైనా లేదా ఏ ఏజెంట్ అయినా సరే. డెవలపర్ మెషీన్‌లో, Shield ఏదైనా అమలు కావడానికి ముందే పాలసీని నిర్ధారిస్తుంది: కొత్త ప్యాకేజీలకు కనీస వయస్సు, IDE ఎక్స్టెన్షన్లు మరియు ప్లగిన్‌లకు కవరేజ్, హానికరమైన సూచికలు మరియు ప్రమాదకర భౌగోళిక ప్రాంతాలను నిరోధించడం, మరియు ఒక మెషీన్‌ను నియంత్రించాల్సిన అవసరం వచ్చినప్పుడు ఎండ్‌పాయింట్ ఐసోలేషన్.

మరింత లోతుగా వెళ్లాలనుకుంటున్నారా?

హ్యాండ్లర్‌లోని లోపం మరియు దానిని చేరుకునే ఎక్స్‌పోజ్డ్ ఎండ్‌పాయింట్ అనేవి ఒకే సమస్య, దానికి ఒకే యజమాని ఉంటారు. మరియు మీరు ఇప్పటికే మరొక DAST టూల్‌ను నడుపుతున్నట్లయితే, Xygeni దానిని మార్చమని మిమ్మల్ని అడగకుండానే, దాని ఫలితాలను అదే రిస్క్ వ్యూలోకి దిగుమతి చేసుకుంటుంది.

రెండు పొరలు కలిసి పనిచేయడం చూడాలనుకుంటున్నారా? మా సెషన్‌ను చూడండి కోడ్ నుండి రన్‌టైమ్ వరకు: ఎందుకు SAST ఆధునిక యాప్‌సెక్ కోసం + DAST రెండూ అత్యవసరంఇక్కడ, కోడ్ ఫైండింగ్స్ మరియు రన్‌టైమ్ టెస్ట్‌లు ఒకదానికొకటి ఎలా నిర్ధారించుకుంటాయో మనం పరిశీలిస్తాము.

ఒకే వర్క్‌ఫ్లో, మరొక కన్సోల్ కాదు

AI ఏజెంట్ దాని స్వంత క్యూతో ఒక ప్రత్యేక సాధనంగా మారినప్పుడు దాని భద్రత విఫలమవుతుంది. Xygeniలో, AI కనుగొన్న విషయాలు అన్నీ ఒకే ఫన్నెల్ ద్వారా వెళ్తాయి. AI ట్రియాజ్మీ మిగిలిన పరిశోధనల వలె టిక్కెట్లు మరియు నివేదికలు. AI రెమెడియేషన్ పది OWASP LLM వర్గాలన్నింటికీ సందర్భోచిత పరిష్కార మార్గదర్శకత్వాన్ని అందిస్తుంది, మరియు ASPM AI ప్రమాదాన్ని కోడ్, డిపెండెన్సీ మరియు pipeline ఒక కోణంలో ప్రమాదం.

AI ఏజెంట్ భద్రత మరియు అనుగుణ్యత

నియంత్రణ సంస్థలు, ఆడిటర్లు మరియు వినియోగదారులు మీరు నిర్వహిస్తున్న AI యొక్క జాబితాను మరియు దాని ప్రమాదాన్ని ఎలా వర్గీకరించారో ఎక్కువగా అడుగుతున్నారు. EU AI చట్టం మరియు ISO / IEC 42001 ఇద్దరూ ఆ దిశగా ముందుకు సాగుతున్నారు, మరియు ఒక AI-BOM రూపుదిద్దుకుంటోంది standard కొనుగోలు ప్రశ్నావళిలోని అంశం.

ప్రతి ఆస్తికి ఒక రిస్క్ కేటగిరీ ఫీల్డ్‌తో కూడిన AI ఇన్వెంటరీ, మీ పాలనా బృందానికి ఆ పని కోసం ఆధారాలను అందిస్తుంది. ఇది EU AI చట్టం సంసిద్ధతకు మద్దతు ఇస్తుంది; ఇది అనుగుణ్యత మదింపు కాదు, మరియు ఇది మీ చట్టపరమైన సమీక్షకు ప్రత్యామ్నాయం కాదు.

లేదా మధ్య తరహా జట్లకు ఇది సులభం:

  1. ప్రతి pull request: మార్చబడిన కోడ్‌పై CIలో API భద్రత, అదనంగా ఇంక్రిమెంటల్ DAST స్కాన్‌లు.
  2. ముందు commit: గా pre-commit స్టేజ్డ్ ఫైల్స్‌పై గేట్.
  3. రాత్రిపూట లేదా విలీనం చేసినప్పుడు: పూర్తి DAST స్కాన్.
  4. ప్రతి ప్రధాన విడుదలకు ముందు: బ్యాక్‌లాగ్‌ను ధ్రువీకరించడానికి మరియు ప్రతి పరిష్కారం లోపాన్ని సరిచేసిందని నిర్ధారించడానికి స్టేజింగ్‌పై AI పెంటెస్టింగ్ చేయడం.

API సెక్యూరిటీ స్కానర్ ఎయిర్-గ్యాప్డ్ పరిసరాలతో సహా ఎక్కడైనా నడుస్తుంది మరియు Xygeni SaaS లేదా మీ సంస్థకు నివేదిస్తుంది. on-premises ప్లాట్‌ఫారమ్. ఫలితాలు JSON రూపంలో వస్తాయి, SARIF 2.1.0, CSV మరియు Markdown కోసం pull request వ్యాఖ్యలు.

API భద్రతా పరీక్ష మరియు అనుగుణ్యత

బ్యాంకింగ్, బీమా లేదా ప్రభుత్వ రంగంలోని బృందాలకు, API భద్రతా పరీక్ష అనేది ఒక రుజువు కూడా. కనుగొన్న ప్రతి అంశానికి కంప్లయన్స్ ట్యాగ్‌లు ఉంటాయి. GDPR ఆర్టికల్ 32, PCI DSS 4.0 (అవసరాలు 3.4, 6.4.3, 7.1, 7.2 మరియు 8) మరియు NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), ప్లాట్‌ఫారమ్‌లో మరియు JSON మరియు SARIF అవుట్‌పుట్‌లో కనిపిస్తాయి.

మీ సంస్థ కింది వాటి కిందకు వస్తే DORA or NIS2, మీ రెగ్యులేటర్లకు ఇప్పటికీ అవసరమైన మాన్యువల్ పెంటెస్ట్‌ల మధ్య, రన్‌టైమ్ టెస్టింగ్ మీకు నిరంతర సాక్ష్యాన్ని అందిస్తుంది. 

7 దశలలో AI ఏజెంట్ భద్రతను ఎలా అమలు చేయాలి

నిజమైన డెవలప్‌మెంట్ టీమ్‌లో AI ఏజెంట్ సెక్యూరిటీ అత్యంత వేగంగా పనిచేసేలా చేసే క్రమంలో, ఆచరణాత్మక చెక్‌లిస్ట్ ఇక్కడ ఉంది.

  1. కనుగొనుట

    మీ రిపోజిటరీలలోని ప్రతి AI ఆస్తిని జాబితా చేయండి

    ఏజెంట్లు, MCP సర్వర్లు, నైపుణ్యాలు, మోడల్‌లు, ప్రాంప్ట్‌లు మరియు AI కోడింగ్ సాధనాల కోసం అన్ని రిపోజిటరీలను స్కాన్ చేసి, ఫలితాన్ని AI-BOMగా ఎగుమతి చేయండి. ఇదే మీ బేస్‌లైన్, మరియు మిగతా ప్రతి దశ దీని ఆధారంగానే పనిచేస్తుంది.

  2. వర్గీకరించడానికి

    ప్రతి ఏజెంట్‌కు ఒక యజమానిని మరియు ఒక రిస్క్ స్థాయిని ఇవ్వండి

    ప్రతి ఏజెంట్‌కు సంబంధించి, దాని యజమాని ఎవరో, అది ఏ డేటా మరియు సాధనాలను యాక్సెస్ చేయగలదో, మరియు దాని EU AI చట్టం రిస్క్ కేటగిరీని నమోదు చేయండి. ఎవరికీ యాజమాన్యం లేని ఏజెంట్‌ను ఎవరూ సరిచేయరు.

  3. గుర్తించడం

    ప్రతి CIలో ఏజెంట్ కోడ్‌ను స్కాన్ చేయండి pull request

    మీ ఇతర స్కాన్‌లతో పాటు AI రిస్క్ డిటెక్షన్‌ను కూడా అమలు చేయండి. బేస్‌లైన్‌ను చూడటానికి నాన్-బ్లాకింగ్ మోడ్‌లో ప్రారంభించండి, ఆపై బృందాలు శుభ్రపరిచిన తర్వాత క్లిష్టమైన ఫలితాలపై విలీనాలను నిరోధించండి.

  4. సమీక్ష

    ఎవరైనా ఇన్‌స్టాల్ చేసే ముందు నైపుణ్యాలను సమీక్షించండి

    నైపుణ్యం మరియు ఏజెంట్ సూచన ఫైల్‌లను స్కాన్ చేయండి, అవి: SKILL.md మరియు AGENTS.mdAI ఉద్దేశ సమీక్షను ఆన్ చేసి, "ఇన్‌స్టాల్ చేయవద్దు" అనే తీర్పును ఖచ్చితమైన ముగింపుగా పరిగణించండి.

  5. పరిమితం

    ఏజెంట్ అనుమతులను తగ్గించండి

    స్టాటిక్ దీర్ఘకాలిక క్రెడెన్షియల్స్‌ను స్కోప్డ్ వాటితో భర్తీ చేయండి, ఏజెంట్ల మధ్య క్రెడెన్షియల్స్‌ను పంచుకోవడం ఆపండి, మరియు MCP లేదా టూల్ సర్వర్‌లను వాటికి అవసరం లేని ఉన్నత అధికారాలతో ఎప్పుడూ నడపవద్దు.

  6. లూప్‌లో పరిష్కరించండి

    కోడింగ్ ఏజెంట్ లూప్‌లో భద్రతను ఉంచండి

    మీ AI కోడింగ్ ఏజెంట్లను ఒక సెక్యూరిటీ MCP సర్వర్‌కు కనెక్ట్ చేయండి, తద్వారా అవి తమ కోడ్‌ను స్కాన్ చేసి, సరిదిద్దుకుంటాయి. commitటెడ్, మీ విధానాలతోనే pipeline.

  7. రక్షించడానికి

    డెవలపర్ మెషీన్‌లపై పడే వాటిని కాపాడండి

    కొత్త ప్యాకేజీలకు కనీస వయస్సును అమలు చేయండి, సిగ్నేచర్ ఏర్పడక ముందే హానికరమైన ప్యాకేజీలను గుర్తించండి, మరియు IDE ఎక్స్టెన్షన్లు మరియు ప్లగిన్లను, వాటిని ఇన్‌స్టాల్ చేసేది డెవలపరైనా లేదా ఏ ఏజెంట్ అయినా సరే, కవర్ చేయండి.

అప్పుడు: కనుగొన్న ప్రతి అంశాన్ని మీ మిగిలిన AppSec మాదిరిగానే అదే ట్రయేజ్, టికెటింగ్ మరియు రిపోర్టింగ్ వర్క్‌ఫ్లోలోకి మళ్లించండి, తద్వారా AI రిస్క్ దానికదే ఒక ప్రత్యేక క్యూలో చేరిపోదు.

మీరు ఎప్పుడూ కలవని ఏజెంట్‌ను నియమించుకోలేరు

AI ఏజెంట్ భద్రత అంటే మరో స్కానర్ కాదు. మీరు ఏ ఏజెంట్లను నడుపుతున్నారో తెలుసుకోవడం, వాటి నిర్మాణంలోని ప్రమాదాన్ని పసిగట్టడం, కోడింగ్ ఏజెంట్ లూప్‌లోనే భద్రతను చేర్చడం, మరియు ఏజెంట్లు ఇన్‌స్టాల్ చేసే వాటిని కాపాడటం. ఇన్వెంటరీతో ప్రారంభించండి: మిగతావన్నీ దానిపైనే ఆధారపడి ఉంటాయి.

మీ కోడ్‌లోని ప్రతి ఏజెంట్, MCP సర్వర్ మరియు స్కిల్‌ను చూడాలనుకుంటున్నారా? ఇంజనీర్‌తో సెషన్ బుక్ చేసుకోండి మీ రిపోజిటరీల AI ఇన్వెంటరీని రూపొందించి, దాని ఫలితాలను సమీక్షించడం. లేదా ఉచితంగా ప్రారంభించండి AI తో SAST, SCAరహస్యాల గుర్తింపు, IDE ప్లగిన్‌లు మరియు ఓపెన్-సోర్స్ ప్యాకేజీలలో మాల్వేర్ గుర్తింపు. క్రెడిట్ కార్డ్ అవసరం లేదు.

AI ఏజెంట్ భద్రత తరచుగా అడిగే ప్రశ్నలు

AI ఏజెంట్ భద్రత LLM భద్రత నుండి ఎలా భిన్నంగా ఉంటుంది?

LLM భద్రత అనేది ఒక మోడల్ చెప్పే విషయాలకు సంబంధించినది: లీక్ అయిన డేటా, తారుమారు చేయబడిన సమాధానాలు, అసురక్షిత అవుట్‌పుట్. AI ఏజెంట్ భద్రత అనేది ఒక ఏజెంట్ టూల్స్, మెమరీ, క్రెడెన్షియల్స్ మరియు ఇతర ఏజెంట్లతో చేసే పనులకు సంబంధించినది. అందుకే OWASP, LLM టాప్ 10 జాబితాకు అదనంగా ఏజెంటిక్ అప్లికేషన్స్ (ASI01 నుండి ASI10 వరకు) కోసం ప్రత్యేకంగా ఒక టాప్ 10 జాబితాను ప్రచురిస్తుంది.

నా సంస్థలో AI ఏజెంట్లను మరియు MCP సర్వర్లను నేను ఎలా కనుగొనగలను?

కోడ్ నుండి ప్రారంభించండి. Xygeni AI సెక్యూరిటీ మీ రిపోజిటరీలలోని ఏజెంట్లు, MCP సర్వర్లు, స్కిల్స్, మోడల్స్, ప్రాంప్ట్‌లు మరియు AI కోడింగ్ టూల్స్‌ను కనుగొంటుంది, అవి ఎలా కనెక్ట్ అయ్యాయో మ్యాప్ చేస్తుంది మరియు ఫలితాన్ని CycloneDX ఫార్మాట్‌లో AI-BOMగా ఎగుమతి చేస్తుంది. ఇది మీ ఇతర స్కాన్‌లతో పాటు CIలో రన్ అవుతుంది.

హానికరమైన స్కిల్ లేదా MCP సర్వర్ నా డెవలపర్‌లను దెబ్బతీయగలదా?

అవును: ఒక స్కిల్ యొక్క సూచనలు సాదా టెక్స్ట్‌లో ఉంటాయి, మరియు డెవలపర్ అనుమతులతో ఒక ఏజెంట్ వాటిని అనుసరిస్తుంది. Xygeni దాగి ఉన్న హానికరమైన ఆదేశాలను మరియు స్కిల్ పేర్లను అనుకరించడాన్ని ఫ్లాగ్ చేస్తుంది, ఐచ్ఛిక AI సమీక్షతో ఒక స్కిల్ యొక్క ఉద్దేశ్యాన్ని అంచనా వేయగలదు, మరియు ప్రతి స్కిల్‌ను సురక్షితం, జాగ్రత్త, లేదా ఇన్‌స్టాల్ చేయవద్దు అని స్కోర్ చేస్తుంది. మాల్వేర్ డిఫెన్స్ మరియు Shield ఏజెంట్లు తీసుకువచ్చే ప్యాకేజీలు మరియు పొడిగింపులను కవర్ చేయండి.

sca-tools-software-composition-analysis-tools
మీ సాఫ్ట్‌వేర్ ప్రమాదాలకు ప్రాధాన్యత ఇవ్వండి, వాటిని పరిష్కరించండి మరియు సురక్షితం చేయండి.
మీ ఉచిత ఖాతాను పొందండి.
క్రెడిట్ కార్డ్ అవసరం లేదు.

మీ సాఫ్ట్‌వేర్ అభివృద్ధి మరియు డెలివరీని సురక్షితం చేసుకోండి

Xygeni ఉత్పత్తి శ్రేణితో