டிஎல்; DR
OWASP முகவர் AI முதல் 10 இடங்கள் உங்களுக்கு என்ன அர்த்தம் தருகின்றன pipeline
தவறாகப் பேசும் ஒரு LLM என்பது ஒரு உள்ளடக்கச் சிக்கலாகும். தவறாகச் செயல்படும் ஒரு ஏஜென்ட் என்பது ஒரு பாதுகாப்புச் சம்பவமாகும். OWASP ஏஜென்டிக் AI டாப் 10 என்பது இரண்டாவதற்கான வரைபடமாகும்.
- அது என்ன OWASP முகவர் AI முதல் 10 (அதிகாரப்பூர்வமாக முகவர் விண்ணப்பங்களுக்கான OWASP முதல் 10 இடங்கள் 2026திட்டமிடுதல், கருவிகளைப் பயன்படுத்துதல், நினைவகத்தைச் சேமித்தல் மற்றும் உங்கள் சார்பாகச் செயல்படுதல் போன்ற பணிகளைச் செய்யும் செயற்கை நுண்ணறிவு முகவர்களுக்குரிய பத்து அபாயங்களை இது பட்டியலிடுகிறது. இந்தக் குறியீடுகள் ASI01 முதல் ASI10 வரை உள்ளன.
- இது எவ்வாறு தொடர்புடையது: இது OWASP LLM Top 10 பட்டியலை மாற்றுவதற்குப் பதிலாக அதை விரிவுபடுத்துகிறது. LLM பட்டியல் ஒரு மாடல் கூறுவதை உள்ளடக்கியது; முகவர் பட்டியல் ஒரு முகவர் செய்வதை உள்ளடக்கியது.
- அது நுழையும் இடம்: ஒரு உண்மையான pipelineஇந்த அபாயங்கள் நான்கு வழிகள் வழியாக வருகின்றன: IDE, மூன்றாம் தரப்பு ஏஜென்ட் கூறுகள், உங்களுடைய சொந்த ஏஜென்ட் குறியீடு மற்றும் உற்பத்தி இயக்க நேரம்.
- நீங்கள் பிடிக்கக்கூடியவை: பத்தில் ஆறு, குறியீடு மற்றும் உள்ளமைவில் தடயங்களை விட்டுச் செல்கின்றன, எனவே அவற்றைச் செயல்படுத்துவதற்கு முன்பு நீங்கள் தடுத்து நிறுத்தலாம். மற்ற நான்கிற்கும் இயக்க நேர வடிவமைப்பு கட்டுப்பாடுகள் தேவைப்படுகின்றன, மேலும் அவற்றுள் ஒவ்வொன்றும் நீங்கள் எந்த ஏஜென்ட்களை இயக்குகிறீர்கள் என்பதை அறிவதில் இருந்து தொடங்குகிறது.
முதல் படி: ஒவ்வொரு ஏஜென்ட், கருவி, MCP சர்வர் மற்றும் ஸ்கில் ஆகியவற்றைப் பட்டியலிட்டு, பின்னர் கண்டறிந்தவற்றை ASI குறியீடுகளுடன் இணைத்து CI-இல் புதிய ஏஜென்ட் குறியீட்டை கேட் செய்யவும்.
OWASP முகவர் சார்ந்த AI முதல் 10 இடங்கள் ஏன் முக்கியம்: உங்கள் pipeline புதியது commitவிகிதங்கள்
ஒரு வருடத்திற்கு முன்பு, உங்கள் ரெபாசிட்டரிகளில் உள்ள குறியீடு மனிதர்களிடமிருந்து வந்தது. இன்று, அதன் ஒரு வளர்ந்து வரும் பங்கு AI ஏஜென்ட்களிடமிருந்து வருகிறது: சார்புகளை நிறுவும் கோடிங் உதவியாளர்கள், திறக்கும் ஏஜென்ட்கள் போன்றவை. pull requestsமேலும், உங்கள் சொந்த தயாரிப்புகளுக்குள் இயங்கும் ஏஜென்ட் கட்டமைப்புகள், தங்களுக்கென சொந்தமான கருவிகள், நினைவகம் மற்றும் சான்றுகளைக் கொண்டிருக்கின்றன. இந்த மாற்றத்திற்காகத்தான் OWASP ஏஜென்டிக் AI டாப் 10 எழுதப்பட்டது.
அது அச்சுறுத்தல் மாதிரியை மாற்றுகிறது. தவறாக எதையாவது கூறும் ஒரு LLM என்பது ஒரு உள்ளடக்கச் சிக்கலாகும். தவறாக எதையாவது செய்யும் ஒரு ஏஜென்ட் (தரவை நீக்குதல், டோக்கனைக் கசியவிடுதல், நச்சுத்தன்மையுள்ள தொகுப்பை நிறுவுதல்) ஒரு பாதுகாப்பு நிகழ்வாகும்.
OWASP ஏஜென்டிக் AI டாப் 10 என்பது, அந்த இரண்டாவது வகையான சிக்கலுக்கான முதல் பகிரப்பட்ட சொற்களஞ்சியமாகும். பெரும்பாலான விளக்கங்கள் வரையறைகளோடு நின்றுவிடுகின்றன. இதுவோ, ஒவ்வொரு இடரையும் அது உண்மையில் உங்கள் வலைப்பின்னலில் நுழையும் இடத்துடன் தொடர்புபடுத்துகிறது. pipelineமேலும், அதைச் செயல்படுத்துவதற்கு முன்பு நீங்கள் என்ன செய்ய முடியும் என்பது குறித்தும்.
OWASP முகவர் சார்ந்த செயற்கை நுண்ணறிவின் முதல் 10 இடங்கள் யாவை?
OWASP ஏஜென்டிக் AI டாப் 10 என்பது, திட்டமிடும், கருவிகளை அழைக்கும், நினைவகத்தைப் பராமரிக்கும் மற்றும் ஒப்படைக்கப்பட்ட அதிகாரத்துடன் செயல்படும் AI ஏஜென்ட் அமைப்புகளில் உள்ள பத்து மிக முக்கியமான பாதுகாப்பு அபாயங்களைக் கொண்ட, சக மதிப்பாய்வு செய்யப்பட்ட பட்டியலாகும். இதன் அதிகாரப்பூர்வ பெயர் முகவர் விண்ணப்பங்களுக்கான OWASP முதல் 10 இடங்கள் 2026OWASP GenAI பாதுகாப்புத் திட்டம், தனது முகவர் பாதுகாப்பு முன்முயற்சியின் மூலம் இதை 9 டிசம்பர் 2025 அன்று வெளியிட்டது; இதிலிருந்தே ASI என்ற முன்னொட்டு வருகிறது.
அது இன்னும் இளமையாக இருக்கிறது standardஇது இதன் முதல் பதிப்பு. ஒவ்வொரு பதிவும், விளக்கம், பொதுவான எடுத்துக்காட்டுகள், தாக்குதல் சூழ்நிலைகள் மற்றும் தடுப்பு வழிகாட்டுதல்களுடன், நன்கு அறியப்பட்ட OWASP வடிவமைப்பைப் பின்பற்றுகிறது. OWASP-இன் மைய வடிவமைப்பு அறிவுரை இந்தப் பத்து பதிவுகளிலும் காணப்படுகிறது: பணிக்குத் தேவைப்படுவதை விட முகவர்களுக்கு அதிக சுயாட்சி வழங்குவதைத் தவிர்க்கவும், மேலும் கண்காணிக்கக்கூடிய தன்மையைக் கட்டாயமாக்கவும்.
ஏஜென்டிக் டாப் 10 vs. எல்எல்எம் டாப் 10
முகவர் பட்டியல் மாற்றீடு செய்யாது LLM விண்ணப்பங்களுக்கான OWASP முதல் 10 இடங்கள்இது அதன் மீது கட்டமைக்கப்பட்டுள்ளது, மேலும் இதன் உள்ளீடுகள் LLM இடர்களை நேரடியாகக் குறுக்குக் குறிப்பிடுகின்றன. ஒரு எளிய பொது விதி:
| பரிமாணத்தை | OWASP LLM முதல் 10 | OWASP முகவர் AI முதல் 10 |
|---|---|---|
| ஃபோகஸ் | மாடல் என்ன சொல்கிறது | முகவர் என்ன செய்கிறார் |
| வழக்கமான தோல்வி | திரிக்கப்பட்ட அல்லது கசிந்த பதில் | கையாளப்பட்ட இலக்கு, கருவி அழைப்பு அல்லது செயல் |
| இதற்கு பொருந்தும் | சாட்பாட்கள், RAG செயலிகள், எந்தவொரு LLM அம்சமும் | கருவிகள், நினைவகம், பிரதிநிதித்துவம் அல்லது பிற முகவர்களைக் கொண்ட முகவர்கள் |
| குறியீடுகள் | LLM01 முதல் LLM10 வரை | ASI01 முதல் ASI10 வரை |
உங்கள் விண்ணப்பம் கேள்விகளுக்கு மட்டும் பதிலளித்தால், LLM பட்டியல் உங்களுக்குப் போதுமானது. அது செயல்களைச் செய்யக்கூடிய தருணத்தில், உங்களுக்கு இரண்டும் தேவைப்படும். எங்கள் வழிகாட்டி... மாதிரி பிரித்தெடுத்தல் தாக்குதல்கள் ஒரு LLM-இன் முதல் 10 இடர்களை ஆழமாக விளக்குகிறது.
OWASP முகவர் செயற்கை நுண்ணறிவு முதல் 10, விளக்கம்: ASI01 முதல் ASI10 வரை நிஜத்தில் pipelines
OWASP ஏஜென்டிக் AI டாப் 10-இல் உள்ள ஒவ்வொரு இடரும் இங்கே எளிய சொற்களில் கொடுக்கப்பட்டுள்ளது, அதைத் தொடர்ந்து அது குறியீட்டுத் தொகுப்புகளில் எவ்வாறு வெளிப்படுகிறது என்பதும் விளக்கப்பட்டுள்ளது. pipelineநாம் தினமும் பார்ப்பது போல.
ASI01: முகவர் இலக்கு அபகரிப்பு
ஒரு தாக்குபவர், ஒரு ஆவணம், மின்னஞ்சல், வலைப்பக்கம் அல்லது மற்றொரு முகவரின் செய்தி ஆகியவற்றில் புகுத்தப்பட்ட அறிவுறுத்தல்கள் மூலம், முகவர் அடைய முயற்சிக்கும் செயலை மாற்றிவிடுகிறார். முகவர்களால் அறிவுறுத்தல்களையும் உள்ளடக்கத்தையும் வேறுபடுத்திப் பார்க்க இயலாது, எனவே இவ்வாறு பதிக்கப்பட்ட உரை, பல படிநிலைகளைக் கொண்ட ஒரு முழுத் திட்டத்தையுமே திசைதிருப்பிவிடக்கூடும்.
உங்கள் pipeline: சுருக்கமாகக் கூறும் ஒரு முகவர் pull requests மறைக்கப்பட்ட வழிமுறைகளைக் கொண்ட ஒரு PR விளக்கத்தைப் படித்துவிட்டு, சுருக்கமாகக் கூறுவதற்குப் பதிலாக, ஒப்புதல் அளிக்க அல்லது தகவலைக் கசியவிடத் தொடங்குகிறது.
ASI02: கருவி தவறான பயன்பாடு மற்றும் சுரண்டல்
அந்த ஏஜென்ட், தனக்குப் பயன்படுத்த அனுமதிக்கப்பட்ட ஒரு கருவியைத் தீங்கு விளைவிக்கும் வகையில் பயன்படுத்துகிறது: தரவுகளை நீக்குதல், அதிக செலவு பிடிக்கும் ஒரு API-ஐ மீண்டும் மீண்டும் அழைத்தல், அல்லது தகவல்களை வெளியே அனுப்புதல். எந்த சிறப்புரிமையும் உயர்த்தப்படவில்லை; முறையான அணுகல் வெறுமனே தவறான இலக்கை நோக்கிச் செலுத்தப்படுகிறது.
உங்கள் pipeline: ஷெல் அணுகல் கொண்ட ஒரு கோடிங் ஏஜென்ட், தவறான கோப்பகத்திற்கு எதிராக ஒரு துப்புரவுக் கட்டளையை இயக்குகிறது.
ASI03: அடையாளம் மற்றும் சிறப்புரிமை துஷ்பிரயோகம்
முகவர்கள் நற்சான்றிதழ்கள், அமர்வுகள் மற்றும் பாத்திரங்களை மரபுரிமையாகப் பெறுகிறார்கள், மேலும் தாக்குபவர்கள் தங்களால் நேரடியாக அடைய முடியாதவற்றை அடைவதற்காக அந்தப் பிரதிநிதித்துவச் சங்கிலிகளைப் பயன்படுத்திக் கொள்கிறார்கள். மனிதர்களுக்காக உருவாக்கப்பட்ட அடையாள அமைப்புகளை, தானாக இயங்கும் மென்பொருளில் பயன்படுத்துவதே இதன் மூலக் காரணமாகும்.
உங்கள் pipeline: ஒரு ஏஜென்ட் கட்டமைப்பு, நிறுவனம் தழுவிய வரம்புடன், பல கருவிகளிடையே பகிரப்படும் நீண்ட கால டோக்கன் ஒன்றைக் கொண்டுள்ளது.
ASI04: முகவர் விநியோகச் சங்கிலி பாதிப்புகள்
ஏஜென்ட்கள் ஏற்றும் மாடல்கள், கருவிகள், செருகுநிரல்கள், MCP சர்வர்கள், திறன்கள் மற்றும் தூண்டுதல்கள் ஆகியவை மூன்றாம் தரப்பினரிடமிருந்து வருகின்றன, மேலும் அவற்றில் ஏதேனும் தீங்கிழைக்கும் வகையிலோ அல்லது சிதைக்கப்பட்டதாகவோ இருக்கலாம். வழக்கமான சார்புநிலைகளைப் போலல்லாமல், ஏஜென்ட்கள் பெரும்பாலும் இந்தக் கூறுகளை இயக்க நேரத்தில் ஒன்றிணைக்கின்றன.
உங்கள் pipeline: ஒரு டெவலப்பர், தட்டச்சுப் பிழை திருத்தப்பட்ட ஒரு ஏஜென்ட் ஸ்கில்லை நிறுவுகிறார், அதன் அறிவுறுத்தல்கள் அந்த ஏஜென்ட்டிடம் நற்சான்றிதழ்களைப் படித்து அவற்றை வெளிப்புறமாக இடுகையிடுமாறு கூறுகின்றன.
ASI05: எதிர்பாராத நிரல் செயலாக்கம் (RCE)
அந்த ஏஜென்ட், இயங்கக் கூடாத இடங்களில் இயங்கும் குறியீடுகளை உருவாக்குகிறது அல்லது தூண்டுகிறது: ஷெல் கட்டளைகள், வரிசைமாற்றம் செய்யப்பட்ட பொருள்கள், வார்ப்புரு இயந்திரங்கள். eval மாடல் வெளியீட்டில். இதன் விளைவாக முழு ஹோஸ்ட் அல்லது கண்டெய்னர் சமரசம் ஏற்படலாம்.
உங்கள் pipeline: LLM வெளியீடு நேரடியாக இதில் பாய்கிறது evalஅல்லது, ஒரு முகவர் நம்பத்தகாத தரவுத்தொகுப்பை ஏற்றுகிறது pickle.load.
ASI06: நினைவாற்றல் மற்றும் சூழல் நச்சுத்தன்மை
தாக்குதல் நடத்துபவர்கள் ஏஜென்ட்டின் நீண்ட கால நினைவகம், சுருக்கங்கள் அல்லது RAG சேமிப்பகங்களில் தீங்கிழைக்கும் தரவுகளைப் புகுத்துகின்றனர், அதனால் எதிர்காலத்தில் ஏற்படும் ஒவ்வொரு சிக்கலும் தீர்க்கப்படும்.cisசெயல்பாடு ஒருபக்கமாகச் சாய்ந்துள்ளது. ஒருமுறை மட்டும் செய்யப்படும் உடனடித் திருத்தத்தைப் போலல்லாமல், இந்தச் சிதைவு அமர்வுகள் முழுவதும் நீடிக்கிறது.
உங்கள் pipeline: ஒரு RAG ரிட்ரீவர் வெளிப்புற ஆவணங்களைச் சுத்திகரிக்காமல் உள்ளீடாகப் பெறுகிறது, மேலும் அதனால் பாதிக்கப்பட்ட ஒரு பக்கம், அதைத் தொடர்ந்து வரும் ஒவ்வொரு பதிலையும் வடிவமைக்கிறது.
ASI07: முகவர்களுக்கு இடையேயான பாதுகாப்பற்ற தகவல் தொடர்பு
முகவர்கள் அங்கீகாரம், நம்பகத்தன்மைச் சோதனைகள் அல்லது சரிபார்ப்பு இல்லாமல் செய்திகளைப் பரிமாறிக்கொள்வதால், செய்திகளைப் போலியாக உருவாக்கவோ, இடைமறிக்கவோ அல்லது மாற்றியமைக்கவோ முடியும். மேலும், ஒரே அறிவுறுத்தலை வெவ்வேறு முகவர்கள் வெவ்வேறு விதமாகப் படிக்கவும் கூடும்.
உங்கள் pipeline: ஒரு திட்டமிடல் முகவர், அதன் நெறிமுறையில் இயங்கும் உள் வலையமைப்பில் உள்ள எந்தவொரு சேவையிலிருந்தும் பணிகளை ஏற்றுக்கொள்கிறது.
ASI08: தொடர் தோல்விகள்
ஒரு குறைபாடு (ஒரு மாயத்தோற்றம், சிதைந்த நினைவகம், செயலிழந்த கருவி) மனிதர்கள் எதிர்வினையாற்றுவதை விட வேகமாக முகவர்கள் மற்றும் பணிப்பாய்வுகள் முழுவதும் பரவுகிறது. அசல் மீறலைத் தாண்டி பாதிப்பு விரிவடையும்போது OWASP இந்த வகையைப் பயன்படுத்துகிறது.
உங்கள் pipeline: ஒரு முகவர் ஒரு தவறான உள்ளமைவை எழுதுகிறார், இரண்டாமவர் அதைச் செயல்படுத்துகிறார், மூன்றாமவர் அதை எல்லாப் பகுதிகளுக்கும் கொண்டு செல்கிறார். எங்கள் தரப்பில் அந்தப் பாதிப்பின் வீச்சை எப்படிக் கட்டுப்படுத்துவது என்று நாங்கள் விவாதித்தோம். வெடிப்பு ஆரம் பாதுகாப்பான மேம்பாட்டு பேச்சு.
ASI09: மனித-முகவர் நம்பிக்கை சுரண்டல்
மக்கள், நம்பிக்கையான மற்றும் நன்கு விளக்கப்பட்டுள்ள முகவரின் வெளியீட்டை நம்புகிறார்கள், மேலும் தாக்குபவர்கள் அல்லது குறைபாடுள்ள வடிவமைப்புகள் அந்த நம்பிக்கையைச் சுரண்டி, திசைதிருப்புகின்றன.cisமனிதர் இறுதிச் செயலைச் செய்வதால், தணிக்கைப் பதிவிலிருந்து முகவரின் பங்கு மறைந்துவிடக்கூடும்.
உங்கள் pipeline: ஒரு மதிப்பாய்வாளர் ஒரு முகவரின் ஒப்புதலை அளிக்கிறார் pull request ஏனென்றால், வேறுபாட்டைச் சரிபார்க்காமலேயே, அந்த விளக்கம் சரியாகத் தோன்றுகிறது.
ASI10: முரட்டு முகவர்கள்
ஒரு முகவர் அதன் நோக்கம் கொண்ட செயல்பாட்டிலிருந்து விலகி, தீங்கு விளைவிக்கும், ஏமாற்றும் அல்லது வரம்பிற்கு மீறிய செயல்களைத் தொடர்ந்து செய்கிறது. ஒவ்வொரு செயலும் சட்டப்பூர்வமானது போல் தோன்றலாம்; ஆனால் ஒட்டுமொத்த நடத்தை அவ்வாறு இருப்பதில்லை. ASI10 என்பது விலகல் தொடங்கிய பிறகு கட்டுப்பாட்டை இழப்பதைப் பற்றியது, ஆரம்ப ஊடுருவலைப் பற்றியது அல்ல.
உங்கள் pipeline: ஒரு முகவர் தனது பணி முடிந்த பிறகும் அனுமதிகளைத் தொடர்ந்து பயன்படுத்தி, தான் கையாளும் பகுதிகளை அமைதியாக விரிவுபடுத்துகிறது.
பத்து அபாயங்களில், ASI04 என்பது பெரும்பாலான குழுக்கள் ஏற்கனவே ஒவ்வொரு நாளும் எதிர்கொள்ளும் ஒன்றாகும்: அதாவது, உள்ளே என்ன வருகிறது என்பதை யாரும் மதிப்பாய்வு செய்யாமல், கோடிங் ஏஜென்ட்கள் பேக்கேஜ்களைத் தேர்ந்தெடுத்து நிறுவுவது. சமீபத்திய SafeDev Talk-ல் நாங்கள் இதைப்பற்றி விரிவாக ஆராய்ந்தோம். பாருங்கள்!
OWASP ஏஜென்டிக் AI டாப் 10 உங்கள் பட்டியலில் நுழையும் இடம் pipeline
பத்து அபாயங்களும் ஒரே கதவின் வழியாக வருவதில்லை. அவை நான்கு கதவுகள் வழியாக வருகின்றன, மேலும் ஒவ்வொரு கதவிற்கும் அதற்கென ஒரு கட்டுப்பாடு தேவை.
| நுழைவு புள்ளி | உள்ளே வருவது | ASI அபாயங்கள் | அதை எங்கே நிறுத்துவது |
|---|---|---|---|
| டெவலப்பர் IDE மற்றும் பணிநிலையம் | கோடிங் ஏஜென்ட்கள், MCP சர்வர்கள், திறன்கள், ஏஜென்ட்கள் நிறுவும் தொகுப்புகள் | ASI04, ASI05 | பணிநிலையத்தில், நிறுவுவதற்கு முன் |
| மூன்றாம் தரப்பு முகவர் கூறுகள் | மாதிரிகள், கருவிகள், செருகுநிரல்கள், பதிவேடுகளிலிருந்து வரும் தூண்டுதல்கள் | ASI04, ASI06 | ஏற்றுக்கொள்வதற்கு முன், சரக்கு விவரப் பட்டியல் மற்றும் மதிப்பாய்வு. |
| உங்கள் சொந்த முகவர் குறியீடு | முகவர் கட்டமைப்புகள், தூண்டுதல்கள், கருவி வரையறைகள், நற்சான்றிதழ்கள், RAG pipelines | ASI01, ASI02, ASI03, ASI05, ASI06 | நிலையான பகுப்பாய்வு, இல் pull requests மற்றும் சிஐ |
| உற்பத்தி இயக்க நேரம் | முகவர்கள் செயல்படுவது, ஒருவருக்கொருவர் பேசிக்கொள்வது, மக்களுடன் இணைந்து பணியாற்றுவது | ASI07, ASI08, ASI09, ASI10 | கட்டமைப்பு, கண்காணிப்பு மற்றும் முடக்கும் சுவிட்சுகள் |
OWASP முகவர்சார் செயற்கை நுண்ணறிவு முதல் 10-ஐ நீங்கள் எவ்வாறு பயன்படுத்துகிறீர்கள் என்பதற்கு இந்த முறை முக்கியமானது. முதல் மூன்று வழிகள், நிரல் மற்றும் உள்ளமைப்பில் தடயங்களை விட்டுச் செல்கின்றன, அதாவது எதையும் வெளியிடுவதற்கு முன்பே நீங்கள் அவற்றைக் கண்டறிந்து தடுக்க முடியும். நான்காவது வழி, இயக்க நேரச் செயல்பாட்டைச் சார்ந்துள்ளது, எனவே அது வடிவமைப்புத் தேர்வுகளை நம்பியுள்ளது: குறைந்தபட்ச முகமை, கையொப்பமிடப்பட்ட செய்திகள், அதிக தாக்கத்தை ஏற்படுத்தும் செயல்களுக்கு மனித ஒப்புதல், மற்றும் எந்தவொரு முகவரையும் விரைவாகத் திரும்பப் பெறும் திறன்.
இயக்க நேரக் கட்டுப்பாடுகள் கூட, நீங்கள் முன்னரே உருவாக்கும் ஒரு விஷயமான சரக்குப்பட்டியலைச் சார்ந்தே இருக்கின்றன. இருப்பதே உங்களுக்குத் தெரியாத ஒரு ஏஜென்ட் மீது உங்களால் முடக்கும் பொத்தானை (kill switch) வைக்க முடியாது.
Xygeni, OWASP ஏஜென்டிக் AI-ஐ செயல்படுத்துவதற்கு முன் அதன் முதல் 10 அபாயங்களை எவ்வாறு கண்டறிகிறது
சைஜெனி ஏஐ பாதுகாப்பு உங்கள் பயன்பாடுகள் கட்டமைக்கப்பட்டுள்ள AI கூறுகளை, மூலக் குறியீட்டிலிருந்து நேரடியாக ஸ்கேன் செய்கிறது. ஒவ்வொரு கண்டுபிடிப்பும் அதன் OWASP LLM Top 10 வகையையும், பொருந்தக்கூடிய இடங்களில், அதன் OWASP Agentic AI Top 10 குறியீட்டையும் கொண்டுள்ளது. எனவே, உங்கள் குழுவும் தணிக்கையாளர்களும் கண்டுபிடிப்புகளை ஒரே மொழியில் படிக்கின்றனர்.
OWASP ஏஜென்டிக் AI டாப் 10-ஐப் பற்றிய ஆய்வு, அதன் பட்டியலுடன் தொடங்குகிறது. AI செக்யூரிட்டி, ஏஜென்ட்கள், மாடல்கள், கருவிகள், MCP சர்வர்கள், திறன்கள், ப்ராம்ப்ட்கள் ஆகியவற்றைக் கண்டறிகிறது. guardrailsஉங்கள் களஞ்சியங்கள் முழுவதும் உள்ள வெக்டர் ஸ்டோர்கள் மற்றும் தரவுத்தொகுப்புகள், அவை எவ்வாறு இணைகின்றன என்பதை வரைபடமாக்குகிறது: எந்த ஏஜென்ட் எந்த மாடலைப் பயன்படுத்துகிறது, எந்தக் கருவிகளை இயக்குகிறது, மற்றும் எந்த MCP சர்வர்களை அழைக்கிறது. இந்த இன்வென்டரி ஒரு CycloneDX 1.6 ML-BOM ஆக ஏற்றுமதி செய்யப்படுகிறது.
சைஜெனி ஏஐ பாதுகாப்பு
ASI இடர் மதிப்பீட்டின்படி, Xygeni நிலைநிறுத்தப்படுவதற்கு முன்பு கண்டறிவது என்ன?
ஒவ்வொரு கண்டுபிடிப்பும் அதன் OWASP குறியீட்டுடன் குறிக்கப்பட்டுள்ளது, எனவே உங்கள் குழுவும் உங்கள் தணிக்கையாளர்களும் அதை ஒரே மொழியில் படிக்கிறார்கள்.
முகவர் இலக்கு கடத்தல்
உடனடி ஊசி போடும் மேற்பரப்புகள், தூய்மைப்படுத்தப்படாமல் வெளிப்புற உள்ளடக்கத்தை உட்கொள்ளும் முகவர்கள், மிதக்கும் லேபிள்களில் உள்ள பதிவேடுகளிலிருந்து எடுக்கப்பட்ட தூண்டுதல்கள்.
கருவி தவறான பயன்பாடு
உள்ளீடு இல்லாமல் கருவியை அழைக்கும் முகவர்கள் guardrailsமேலும், குறியீடு செயல்படுத்துதல் மற்றும் தானியங்கு செயல்படுத்துதல் போன்ற திறன்களின் சொத்து வாரியான பார்வையும் உண்டு.
அடையாளம் மற்றும் சிறப்புரிமை துஷ்பிரயோகம்
ஏஜென்ட் உள்ளமைவுகளில் உள்ள நிலையான நீண்ட கால நற்சான்றிதழ்கள், வரம்பு சுருக்கப்படாமல் பகிரப்பட்ட நற்சான்றிதழ்கள், மேம்படுத்தப்பட்ட சிறப்புரிமைகளைக் கொண்ட MCP மற்றும் கருவி சேவையகங்கள், மற்றும் ப்ராம்ட் கோப்புகளில் உள்ள இரகசியங்கள்.
முகவர் விநியோக சங்கிலி
தீங்கிழைக்கும் அல்லது எழுத்துப்பிழைத் திருத்தப்பட்ட திறன்கள், பாதுகாப்பானது / எச்சரிக்கை / நிறுவ வேண்டாம் என்ற தீர்ப்புடன்; பாதுகாப்பற்ற மாதிரி ஏற்றுதல் (trust_remote_code=Trueஒவ்வொரு கூறுகளின் AI-BOM.
எதிர்பாராத குறியீடு செயல்படுத்தல்
LLM வெளியீட்டிலிருந்து கறை பாய்கிறது eval மற்றும் நம்பத்தகாத தரவுத்தொகுப்புகளிலிருந்து pickle.loadபைதான் மற்றும் ஜாவாஸ்கிரிப்ட்டில், டெம்ப்ளேட் ஊடுருவல் RCE-க்கு வழிவகுக்கிறது.
நினைவாற்றல் மற்றும் சூழல் நச்சுத்தன்மை
தூய்மைப்படுத்தப்படாத RAG மீட்டெடுப்பான்கள், மற்றும் திசையன் மற்றும் உட்பொதித்தல் பலவீனங்கள் (LLM08).
இயக்க நேர நடத்தை
முகவர்களுக்கு இடையேயான தகவல் தொடர்பு, தொடர் தோல்விகள், மனித நம்பிக்கை மற்றும் கட்டுப்பாடற்ற முகவர்கள் போன்றவை இயக்க நேரத்தில் உருவாகின்றன. அந்த இயக்க நேரக் கட்டுப்பாடுகள் சார்ந்திருக்கும் இருப்புநிலை மற்றும் உறவு வரைபடத்தை சைஜெனி உங்களுக்கு வழங்குகிறது.
அந்த மையத்தைச் சுற்றி:
- திறன்கள் மற்றும் முகவர் அறிவுறுத்தல்களின் சொற்பொருள் ஆய்வு. விருப்பத்திற்குரிய, மீண்டும் செய்யக்கூடிய LLM மதிப்பாய்வு, நோக்கத்தை மதிப்பிடுகிறது.
SKILL.mdமற்றும்AGENTS.mdகையொப்பம் பார்க்க முடியாத, உரைநடை வடிவிலான தீங்கிழைக்கும் கட்டளைகளைக் கோப்புகளில் இது கண்டறிகிறது. இதை சுயமாக ஹோஸ்ட் செய்யும் மாதிரியில் இயக்க முடியும். - அதை CI-இல் கேட் செய்யவும். தி
xygeni aiஸ்கேனர் உங்கள் pipeline குறைபாடுகள் கண்டறியப்படும்போது உருவாக்கச் செயல்முறையைத் தோல்வியடையச் செய்கிறது. அறிக்கை-மட்டும் பயன்முறையில் தொடங்கி, பின்னர் 'முக்கியமானது' எனும்போது அதைத் தடுக்கவும். - முகவர் சுழற்சிக்குள் பாதுகாப்பு. தேவ்ஐஐ Xygeni ஸ்கேன்கள், வகைப்படுத்துதல் மற்றும் திருத்தங்களை IDE மற்றும் AI கோடிங் ஏஜென்ட்களுக்குள் கொண்டுவருகிறது. சைஜெனி எம்சிபி சர்வர்.
- பணிநிலையத்தைப் பாதுகாக்கவும். Shield டெவலப்பர் கணினிகளில் தீங்கிழைக்கும் தொகுப்புகள் பதிவிறக்கப்படுவதற்கு முன்பே அவற்றைத் தடுக்கிறது, மேலும் நிறுவலை யார் இயக்கினாலும், ஒவ்வொரு தடுப்பையும் அதனைத் தூண்டிய செயல்முறை மற்றும் கட்டளையுடன் தொடர்புபடுத்துகிறது.
- விரைவாக சரிசெய்யவும். AI ட்ரியேஜ் கண்டறிதல்களுக்கு முன்னுரிமை அளிக்கிறது, மேலும் AI ரெமீடியேஷன் ஒவ்வொரு OWASP LLM வகைக்கும் சரிசெய்யும் வழிகாட்டுதலை உருவாக்குகிறது.
OWASP முகவர் AI முதல் 10 தயார்நிலை சரிபார்ப்புப் பட்டியல்
- சரக்கு: உங்கள் களஞ்சியங்களில் உள்ள ஒவ்வொரு ஏஜென்ட், மாடல், கருவி, MCP சர்வர் மற்றும் ஸ்கில் ஆகியவற்றைப் பட்டியலிட்டு, அந்தப் பட்டியலை ஒவ்வொரு முறையும் புதுப்பித்த நிலையில் வைத்திருக்கவும். commit.
- குறைந்தபட்ச முகமை: ஒவ்வொரு முகவருக்கும் அதன் பணிக்குத் தேவையான தன்னாட்சியையும் கருவிகளையும் மட்டும் அளித்து, அழிவுச் செயல்களுக்கு மனித ஒப்புதலைக் கட்டாயமாக்குங்கள்.
- வரையறுக்கப்பட்ட அடையாளம்: நீண்ட காலம் செல்லுபடியாகும், பகிரப்பட்ட முகவர் சான்றுகளுக்குப் பதிலாக, குறுகிய காலம் செல்லுபடியாகும், ஒவ்வொரு முகவருக்குமான டோக்கன்களைப் பயன்படுத்தவும்.
- நம்பத்தகாத உள்ளீடு: ஒரு இலக்கை அல்லது கருவி அழைப்பை வடிவமைப்பதற்கு முன்பாக, ஒவ்வொரு ஆவணம், வலைப்பக்கம், மின்னஞ்சல் மற்றும் முகவர் செய்தியையும் நம்பத்தகாததாகக் கருதுங்கள்.
- சரிபார்க்கப்பட்ட கூறுகள்: ஏற்றுக்கொள்வதற்கு முன் திறன்கள், MCP சர்வர்கள் மற்றும் மாடல்களை மதிப்பாய்வு செய்யவும், பதிப்புகளை உறுதிப்படுத்தவும், மேலும் ஒரு AI-BOM-ஐப் பராமரிக்கவும்.
- பாதுகாப்பற்ற செயலாக்கம் இல்லை: தடை
evalமாடல் வெளியீடு, சாண்ட்பாக்ஸ் குறியீடு செயலாக்கம் ஆகியவற்றின் போது, ஏஜென்ட்களை ஒருபோதும் ரூட்டாக இயக்க வேண்டாம். - நினைவகத்தைச் சுத்தம் செய்யவும்: RAG சேமிப்பகங்கள் மற்றும் நீண்ட கால நினைவகத்தில் நுழையும் தரவுகளைத் தூய்மைப்படுத்துங்கள், மேலும் பயனர் மற்றும் சூழலின் அடிப்படையில் நினைவகத்தைப் பிரிக்கவும்.
- CI-இல் உள்ள வாயில்: ஒவ்வொரு முகவர் குறியீட்டையும் ஸ்கேன் செய்யவும் pull request மற்றும் கண்டறிதல்களை ASI குறியீடுகளுடன் பொருத்துக.
- கவனித்து கட்டுப்படுத்துங்கள்: ஒவ்வொரு ஏஜென்ட் செயலையும் கருவி அழைப்பையும் பதிவுசெய்து, எந்த ஏஜென்ட்டையும் விரைவாக ரத்துசெய்ய முடியும் என்பதை உறுதிப்படுத்திக்கொள்ளுங்கள்.
செயல்படுவதற்கு முன், நீங்கள் எந்த முகவர்களை இயக்குகிறீர்கள் என்பதை அறிந்து கொள்ளுங்கள்.
OWASP ஏஜென்டிக் AI டாப் 10 உங்களுக்கு ஒரு வழிகாட்டியைக் கொடுக்கிறது. இந்தப் பத்து இடர்களுக்கும் முதல் நகர்வு ஒன்றே: உங்கள் நிரலில் உள்ள ஒவ்வொரு ஏஜென்ட், கருவி மற்றும் திறனையும் கண்டறியுங்கள். Xygeni AI Security உங்கள் ஏஜென்ட்களை எவ்வாறு பட்டியலிடுகிறது மற்றும் கண்டறிந்தவற்றை ASI குறியீடுகளுடன் பொருத்துகிறது என்பதைப் பாருங்கள்., அல்லது ஒரு டெமோ பதிவு.
அடிக்கடி கேட்கப்படும் கேள்விகள்
OWASP முகவர் செயற்கை நுண்ணறிவு முதல் 10 பட்டியலில் ASI என்பதன் விரிவாக்கம் என்ன?
ASI என்பது ஏஜென்டிக் செக்யூரிட்டி இனிஷியேட்டிவ் என்பதன் சுருக்கமாகும். இந்தப் பட்டியலை எழுதிய OWASP GenAI செக்யூரிட்டி ப்ராஜெக்ட் குழு இது. LLM பட்டியல் LLM01 முதல் LLM10 வரை பயன்படுத்துவதைப் போலவே, ஒவ்வொரு இடரும் ASI01 (ஏஜென்ட் கோல் ஹைஜாக்) முதல் ASI10 (ரோக் ஏஜென்ட்ஸ்) வரையிலான ஒரு குறியீட்டைக் கொண்டுள்ளது.
நான் ஏற்கனவே OWASP LLM Top 10-ஐப் பின்தொடர்ந்து வரும் நிலையில், எனக்கு OWASP Agentic AI Top 10 தேவையா?
உங்கள் செயற்கை நுண்ணறிவால் செயல்பட முடிந்தால் மட்டுமே. கேள்விகளுக்கு மட்டும் பதிலளிக்கும் ஒரு சாட்பாட் அல்லது RAG செயலி, LLM டாப் 10 பட்டியலில் அடங்கும். உங்கள் செயலி கருவிகளை அழைக்கும்போது, நினைவகத்தைப் பயன்படுத்தும்போது, மற்ற ஏஜென்ட்டுகளுக்குப் பொறுப்புகளை ஒப்படைக்கும்போது, அல்லது நற்சான்றிதழ்களைப் பயன்படுத்தும்போது, LLM பட்டியலில் இல்லாத அபாயங்களை ஏஜென்ட்டிக் பட்டியல் உள்ளடக்குகிறது.
நிலையான பகுப்பாய்வால் OWASP முகவர் செயற்கை நுண்ணறிவின் முதல் 10 அபாயங்களைக் கண்டறிய முடியுமா?
அவற்றில் பலவற்றிற்கு, ஆம். இலக்கு அபகரிப்பு மேற்பரப்புகள், பாதுகாப்பற்ற கருவிகள், அதீத சிறப்புரிமை பெற்ற சான்றுகள், தீங்கிழைக்கும் திறன்கள், பாதுகாப்பற்ற குறியீடு செயலாக்கம் மற்றும் சுத்திகரிக்கப்படாத RAG உள்ளீடுகள் ஆகிய அனைத்தும் குறியீடு மற்றும் உள்ளமைவில் தடயங்களை விட்டுச் செல்கின்றன. தொடர் தோல்விகள் மற்றும் முறைகேடான முகவர்கள் போன்ற, நேரடிச் செயல்பாட்டிலிருந்து உருவாகும் அபாயங்களுக்கு, கூடுதலாக இயக்க நேரக் கட்டுப்பாடுகள் தேவைப்படுகின்றன.
