டிஎல்; DR
மாடல் பிரித்தெடுப்புத் தாக்குதல் என்றால் என்ன, மற்றும் இன்வென்டரி ஏன் முதலிடம் பெறுகிறது
ஒரு மாதிரி பிரித்தெடுப்புத் தாக்குதல், அதன் சொந்த API மூலம் உங்கள் AI-ஐ நகலெடுக்கிறது. இதில் எந்தப் பாதுகாப்பு மீறலும் இல்லை, தரவு எடைகள் திருடப்படவில்லை, தீம்பொருளும் இல்லை.
- எப்படி இது செயல்படுகிறது: ஒரு மாதிரி பிரித்தெடுத்தல் தாக்குதல் (மாதிரி திருட்டு அல்லது மாதிரி களவு என்றும் அழைக்கப்படுகிறது) ஒரு அனுமான முனையத்தில் பெரிய அளவில் வினவி, அதன் பதில்களைக் கொண்டு ஒரு நகலுக்குப் பயிற்சி அளிக்கிறது. உங்கள் பதிவுகளின்படி, தாக்குபவர் ஒரு பெரிய குற்றவாளியாகத் தெரிவார்.
- அது எங்கே அமர்ந்திருக்கிறது: OWASP மாதிரி பிரித்தெடுத்தலை கீழ் வகைப்படுத்துகிறது LLM10:2025 வரம்பற்ற நுகர்வு மேலும், அதன் தணிப்பு நடவடிக்கைகளில் மையப்படுத்தப்பட்ட மாதிரிப் பட்டியலையும் பட்டியலிடுகிறது.
- பாதுகாப்பு அணிகள் ஏன் தவறவிடுகின்றன: விகித வரம்புகள், அங்கீகாரம் மற்றும் கண்காணிப்பு ஆகியவை உங்களுக்குத் தெரிந்த முனையங்களை மட்டுமே பாதுகாக்கின்றன. ஷேடோ ஏஐ முனையங்களுக்கு இவற்றில் எதுவும் கிடைப்பதில்லை.
முதல் பாதுகாப்பு: உங்கள் நிரல் வெளியிடும் ஒவ்வொரு மாடல், ஏஜென்ட் மற்றும் இன்ஃபரன்ஸ் எண்ட்பாயிண்ட் ஆகியவற்றின் ஒரு AI பட்டியல்; இது வெளியிடப்படுவதற்கு முன்பு மூலக் குறியீட்டிலிருந்து கண்டறியப்படுகிறது. நீங்கள் பட்டியலிடாத இன்ஃபரன்ஸ் எண்ட்பாயிண்ட்டுகளை உங்களால் பாதுகாக்க முடியாது.
உங்கள் சர்வர்களை யாரும் தொடாமலேயே உங்கள் மாடலைத் திருட முடியும்.
உங்கள் குழு, தனியுரிமைத் தரவுகளைக் கொண்டு ஒரு மாதிரியை மாதக்கணக்கில் செம்மைப்படுத்தியது. அது, ஒரு நாளைக்கு ஆயிரக்கணக்கான கோரிக்கைகளுக்குப் பதிலளிக்கும் ஒரு API-இன் பின்னால் இயங்குகிறது. இப்போது, ஒரு போட்டியாளர் அந்த API அழைப்புகளின் விலையில் தனது மதிப்பில் பெரும்பகுதியை மீண்டும் உருவாக்குவதைக் கற்பனை செய்து பாருங்கள்.
அது ஒரு மாதிரிப் பிரித்தெடுப்புத் தாக்குதல் ஆகும். யாரும் உங்கள் உள்கட்டமைப்பை மீறுவதோ அல்லது உங்கள் எடைகளைப் பதிவிறக்குவதோ இல்லை. தாக்குபவர் உங்கள் மாதிரியிடம் போதுமான அளவு நன்கு தேர்ந்தெடுக்கப்பட்ட கேள்விகளைக் கேட்டு, பதில்களைப் பதிவுசெய்து, அதன் ஒரு நகலுக்குப் பயிற்சி அளிக்கிறார்.
பெரும்பாலான குழுக்கள் இந்த இடருக்கு விகித வரம்புகள், அங்கீகாரம் மற்றும் வெளியீட்டுக் கண்காணிப்பு ஆகியவற்றைக் கொண்டு பதிலளிக்கின்றன. அந்தக் கட்டுப்பாடுகள் செயல்படுகின்றன. ஆனால் அவற்றுக்கு ஒரு பொதுவான குறைபாடு உள்ளது: அவை, இருப்பதை நீங்கள் அறிந்திருக்கும் அனுமான முனைகளை மட்டுமே பாதுகாக்கின்றன. இந்த வழிகாட்டியில், மாதிரிப் பிரித்தெடுப்புத் தாக்குதல் என்றால் என்ன, நடைமுறையில் மாதிரித் திருட்டு எவ்வாறு செயல்படுகிறது, மற்றும் ஒவ்வொரு பாதுகாப்பும் ஏன் ஒரு சரக்குப்பட்டியலுடன் தொடங்குகிறது என்பதை நாங்கள் விளக்குகிறோம்.
மாடல் பிரித்தெடுப்புத் தாக்குதல் என்றால் என்ன?
மாதிரிப் பிரித்தெடுப்புத் தாக்குதல் என்பது, ஒரு எதிரி ஒரு இயந்திரக் கற்றல் மாதிரிக்கு வினவல்களை அனுப்பி, அதன் வெளியீடுகளிலிருந்து கற்றுக்கொள்வதன் மூலம், அதன் செயல்பாட்டு நகல் ஒன்றை மீண்டும் உருவாக்கும் ஒரு தாக்குதல் ஆகும். இது மாதிரித் திருட்டு அல்லது மாதிரிக் களவு என்றும் அழைக்கப்படுகிறது. தாக்குபவருக்கு அசல் எடைகள், பயிற்சித் தரவுகள் அல்லது மூலக் குறியீடு ஒருபோதும் தேவைப்படுவதில்லை: பொது இடைமுகமே போதுமானது.
இந்தக் கருத்து புதியதல்ல. ஆராய்ச்சியாளர்கள் 2016-ஆம் ஆண்டில் வணிகரீதியான முன்கணிப்பு API-களுக்கு எதிராக இதைச் செய்து காட்டினர்.டிராமர் மற்றும் பலர், யூசெனிக்ஸ் செக்யூரிட்டி2024 ஆம் ஆண்டில், கூகிள் டீப் மைண்ட் குழு ஒன்று அதன் பொது ஏபிஐ (API) மூலம் உற்பத்தி மொழி மாதிரியின் ஒரு பகுதியை மீட்டெடுத்தது.கார்லினி மற்றும் பலர்.). மிட்டர் அட்லஸ் செயற்கை நுண்ணறிவு அமைப்புகளுக்கு எதிரான ஒரு எதிரி உத்தியைப் போலவே இதுவும் செயல்படுகிறது.
LLM பயன்பாடுகளுக்கு, OWASP மாதிரி திருட்டை உள்ளடக்கிக் கொள்கிறது. LLM10:2025 வரம்பற்ற நுகர்வுஇது இரண்டு வகைகளை விவரிக்கிறது: வடிவமைக்கப்பட்ட API வினவல்கள் வழியாகத் தரவைப் பிரித்தெடுத்தல், மற்றும் செயல்பாட்டுப் பிரதிசெய்தல், இதில் இலக்கு மாதிரியானது போட்டியிடும் ஒன்றைச் செம்மைப்படுத்த செயற்கைத் தரவை உருவாக்குகிறது.
மாதிரி பிரித்தெடுத்தல் தாக்குதல்: முக்கிய சொற்கள்
ஒரே அச்சுறுத்தல் பல பெயர்களில் அழைக்கப்படுகிறது. ஒவ்வொன்றின் அர்த்தமும், அவை எங்கு ஒன்றுடன் ஒன்று பொருந்துகின்றன என்பதும் இங்கே கொடுக்கப்பட்டுள்ளன.
| கால | அதன் பொருள் என்ன |
|---|---|
| மாதிரி பிரித்தெடுத்தல் தாக்குதல் | அதன் வினவல் பதில்களிலிருந்து ஒரு மாதிரியின் நடத்தையை மீண்டும் உருவாக்குதல் |
| மாடல் திருட்டு / மாடல் களவு | பொதுவான ஒத்த சொற்கள்; மாடல் திருட்டு என்பது வெயிட் ஃபைல்களின் நேரடித் திருட்டையும் உள்ளடக்கியது. |
| செயல்பாட்டு மாதிரி பிரதிபலிப்பு | இலக்கின் வெளியீடுகளை ஒரு மாற்று மாதிரிக்கான பயிற்சித் தரவுகளாகப் பயன்படுத்துதல் |
| நிழல் மாதிரி | தாக்குபவரின் குளோன், இலக்கைப் போல நடிக்கப் பயிற்சி பெற்றது |
ஒரு மாதிரி பிரித்தெடுப்பு தாக்குதல் எவ்வாறு செயல்படுகிறது
ஒவ்வொரு மாதிரி பிரித்தெடுப்புத் தாக்குதலும் ஒரே சுழற்சியைப் பின்பற்றுகிறது: ஒரு இறுதிப்புள்ளியைக் கண்டறிதல், அதை பெரிய அளவில் வினவுதல், அதன் ஒரு நகலுக்குப் பயிற்சி அளித்தல்.
- இறுதிப் புள்ளியைக் கண்டறியவும். தாக்குபவர் ஒரு அனுமான API-ஐக் கண்டறிகிறார்: அது ஒரு அரட்டை பின்தளம், ஒரு வகைப்படுத்தல் சேவை, ஒரு உட்பொதிவு முனையம், அல்லது ஒரு கூட்டாளர் அணுகக்கூடிய ஒரு உள் மாதிரி ஆகும்.
- வினவல்களை வடிவமைக்கவும். மாதிரியின் வரையறையை உள்ளடக்கும் வகையில் உள்ளீடுகள் தேர்ந்தெடுக்கப்படுகின்றன.cisஅயனி வெளியை திறமையாகக் கையாளுதல், சில சமயங்களில் செறிவான பதில்களைப் பெறுவதற்காக உடனடி உட்செலுத்தலுடன் இணைத்தல்.
- விளைச்சலை அறுவடை செய்யுங்கள். லேபிள்கள், நம்பகத்தன்மை மதிப்பெண்கள், லாஜிட்கள் அல்லது முழு உரை நிரப்புதல்கள் என இவை அனைத்தும் தகவல்களைக் கசியவிடுகின்றன. பதில் எவ்வளவு செழுமையாக இருக்கிறதோ, திருட்டு அவ்வளவு வேகமாக நடக்கும்.
- மாற்று நபருக்குப் பயிற்சி அளியுங்கள். சேகரிக்கப்பட்ட உள்ளீடு மற்றும் வெளியீடு ஜோடிகள், அசலைப் பிரதிபலிக்கும் ஒரு நிழல் மாதிரிக்கான பயிற்சித் தொகுப்பாக மாறுகின்றன.
- குளோனைப் பயன்படுத்திக் கொள்ளுங்கள். உரிமக் கட்டணங்களைத் தவிர்ப்பதற்கும், நேரடியாகப் போட்டியிடுவதற்கும், அல்லது உண்மையான மாதிரியின் மீது தாக்குதல்களைத் தொடுப்பதற்கு முன் அவற்றை ஆஃப்லைனில் ஒத்திகை பார்ப்பதற்கும் இந்த நகல் பயன்படுத்தப்படுகிறது.
ஒவ்வொரு கோரிக்கையும் முறையானதாக இருப்பதுதான் மாடல் திருட்டைக் கண்டுபிடிப்பதை கடினமாக்குகிறது. அதன் அறிகுறி, கோரிக்கைகளின் எண்ணிக்கை, அதன் வடிவம், எல்லாவற்றிற்கும் மேலாக, அந்தக் கோரிக்கைகள் எங்கு வந்து சேர்கின்றன என்பதில் அடங்கியுள்ளது.
வழக்கமான தற்காப்பு முறைகள் ஏன் தவறுகின்றன: சரக்கு இருப்பு இடைவெளி
தி standard மாடல் எக்ஸ்ட்ராக்ஷன் தாக்குதலுக்கு எதிரான ஆலோசனை சரியானதே: அழைப்பவர்களை அங்கீகரிக்கவும், வேக வரம்பை நிர்ணயித்து கட்டுப்படுத்தவும், பதில்களிலிருந்து நம்பகத்தன்மை மதிப்பெண்களை நீக்கவும், வெளியீடுகளில் வாட்டர்மார்க் இடவும், மற்றும் இயல்புக்கு மாறான வினவல் வடிவங்களைக் கண்காணிக்கவும். ஒவ்வொரு கட்டுப்பாடும் ஒவ்வொரு எண்ட்பாயிண்டிற்கும் தனித்தனியாகப் பயன்படுத்தப்படுகிறது. சரியாக அந்த இடத்தில்தான் அது தோல்வியடைகிறது.
பாதுகாப்புக் குழுக்கள் கண்காணிப்பதை விட வேகமாக, செயற்கை நுண்ணறிவு இப்போது குறியீட்டுத் தொகுப்புகளில் நுழைகிறது. ஒரு டெவலப்பர், ஒரு LLM SDK-ஐ ஒரு மைக்ரோசர்வீஸுடன் இணைக்கிறார். ஒரு தரவுக் குழு, ஒரு உள் கருவிக்காகச் செம்மைப்படுத்தப்பட்ட ஒரு மாடலை வெளிப்படுத்துகிறது. ஒரு ஏஜென்ட் கட்டமைப்பு, தனக்கென ஒரு சேவை அடுக்கை உருவாக்குகிறது. இவற்றில் எதுவும் ஒரு மதிப்பாய்வு வரிசை வழியாகச் செல்வதில்லை, மேலும் பல ஒருபோதும் API கேட்வேயிலோ அல்லது ஒரு விவரக்குறிப்புக் கோப்பிலோ தோன்றுவதில்லை.
இதன் விளைவாக நிழல் செயற்கை நுண்ணறிவு (Shadow AI) உருவாகிறது: அதாவது, உற்பத்திச் சூழலில் இருக்கும், ஆனால் யாருடைய பட்டியலிலும் இல்லாத மாதிரிகள், முகவர்கள் மற்றும் அனுமான முனையங்கள். யாருக்கும் தெரியாத ஒரு முனையத்திற்கு விகித வரம்பு, அங்கீகார ஆய்வு மற்றும் கண்காணிப்பு எதுவும் இருப்பதில்லை. ஒரு மாதிரி பிரித்தெடுப்புத் தாக்குதலுக்கு, இதுவே மிகச் சிறந்த இலக்காகும்.
OWASP-ம் இதே வழியையே சுட்டிக்காட்டுகிறது. LLM10-க்கான அதன் தணிப்பு நடவடிக்கைகளில் ஒன்றாக, ML மாடல்களின் மையப்படுத்தப்பட்ட இருப்பைப் பராமரிக்க அது பரிந்துரைக்கிறது. அதன் தர்க்கம் எளிமையானது: நீங்கள் பட்டியலிடாத அனுமான முனைகளைப் பாதுகாக்க முடியாது.
முதலில் கணக்கெடுப்பை மேற்கொள்ளுங்கள்: ஒவ்வொரு முனையத்தையும் கண்டறிந்து, பின்னர் அதைப் பாதுகாக்கவும்.
ஒரு பயனுள்ள AI விவரப்பட்டியல் ஒவ்வொரு சொத்து குறித்தும் நான்கு கேள்விகளுக்குப் பதிலளிக்கிறது: அது என்ன, அது எங்கு அறிவிக்கப்பட்டுள்ளது, அது எதனுடன் தொடர்பு கொள்கிறது, மற்றும் அதை எது பாதுகாக்கிறது.
| சரக்கு கேள்வி | மாதிரி பிரித்தெடுப்பிற்கு எதிராக இது ஏன் முக்கியமானது |
|---|---|
| என்னென்ன மாதிரிகள் மற்றும் அனுமான முனைகள் உள்ளன? | பட்டியலிடப்படாத ஒவ்வொரு முனையமும் ஒரு பாதுகாப்பற்ற பிரித்தெடுப்பு இலக்காகும். |
| அவை குறியீட்டில் எங்கே குறிப்பிடப்பட்டுள்ளன? | உரிமை: விடுபட்ட கட்டுப்பாட்டை யாராவது சரிசெய்ய வேண்டும். |
| என்னென்ன தரவுகளும் கருவிகளும் இணைக்கப்பட்டுள்ளன? | ரகசியத் தரவுகளில் பயிற்சி பெற்ற ஒரு மாடலைத் திருடுவது அதிக மதிப்புடையது. |
| எந்த guardrails மற்றும் கட்டுப்பாடுகள் பொருந்துமா? | தாக்குபவர் கண்டுபிடிப்பதற்கு முன்பே பாதுகாப்பு இடைவெளிகளைக் காட்டுகிறது |
இந்த இன்வென்டரியை உருவாக்குவதற்கான சிறந்த இடம் சோர்ஸ் கோட் ஆகும். ஒரு எண்ட்பாயிண்ட் கோடில்தான் பிறக்கிறது, எனவே ரெபாசிட்டரியில் உள்ள AI அசெட்களைக் கண்டறிவது, அவை ப்ரொடக்ஷனை அடைவதற்கு முன்பே அவற்றைக் கண்டறிய உதவுகிறது. மேலும் இது ஒவ்வொரு அசெட்டையும் ஒரு ப்ராஜெக்ட்டுடன் இணைக்கிறது. commitமற்றும் ஒரு குழு, அதுதான் ஒரு பட்டியலைச் செயலாக மாற்றுகிறது.
மேலும் இரண்டு பழக்கவழக்கங்கள் இந்தச் சுழற்சியை நிறைவு செய்கின்றன. நிர்வாக மற்றும் தணிக்கைக் குழுக்கள் ஒரே மாதிரியான நிலையைப் பார்க்கும் வகையில், சரக்குப் பட்டியலை ஒரு AI மூலப்பொருட்கள் பட்டியலாக (AI-BOM) ஏற்றுமதி செய்யுங்கள். மேலும், ஒவ்வொரு மாற்றத்தின்போதும் மீண்டும் ஸ்கேன் செய்யுங்கள், ஏனெனில் சரக்குப் பட்டியலின் தரம் அதன் கடைசிப் புதுப்பிப்பைப் பொறுத்தே அமைகிறது.
ஒரு மாடல் பிரித்தெடுப்புத் தாக்குதல் தொடங்குவதற்கு முன்பு சைஜெனி அந்த இடைவெளியை எவ்வாறு மூடுகிறது
சைஜெனி ஏஐ பாதுகாப்பு மூலக் குறியீட்டிலிருந்து நேரடியாக AI சரக்கிருப்பை உருவாக்குகிறது. இது AI மாதிரிகள், முகவர்கள், AI கட்டமைப்புகள், MCP சேவையகங்கள் மற்றும் கருவிகள், தூண்டுதல்கள் ஆகியவற்றைக் கண்டறிகிறது. guardrailsஉங்கள் களஞ்சியங்கள் முழுவதிலும் உள்ள வெக்டர் ஸ்டோர்கள், தரவுத்தொகுப்புகள், அனுமான முனைகள் மற்றும் AI குறியீட்டுக் கருவிகள், மாதிரி கோப்புகள் போன்றவை உட்பட. .onnx, .pt மற்றும் .pklஉறவுகளும் வரைபடமாக்கப்பட்டுள்ளன: எந்த முகவர் எந்த மாதிரியைப் பயன்படுத்துகிறது, அது எந்தக் கருவிகளை இயக்குகிறது, எந்தத் தரவுத்தொகுப்புகளில் அது பயிற்சி அளிக்கிறது என்பனவாகும்.
AI சொத்துக்கள் சரக்கிருப்பில் உள்ள ஒவ்வொரு சொத்தும் அதன் மாதிரிகள் மற்றும் வழங்குநர்கள், PII கொடிகளுடன் இணைக்கப்பட்ட தரவு மூலங்கள், பாதுகாப்பு வரம்பு பாதுகாப்பு, மற்றும் EU AI சட்ட இடர் வகை போன்ற ஆளுகைப் புலங்களைக் காட்டுகிறது. AI வரைபடக் காட்சி, முகவர்கள், மாதிரிகள், கருவிகள் மற்றும் தரவுத்தொகுப்புகள் எவ்வாறு இணைகின்றன என்பதைக் காட்டுகிறது. ஒரே கிளிக்கில் ஒரு CycloneDX 1.6 ML-BOM-ஐ ஏற்றுமதி செய்யலாம், இது உங்கள் அருகில் உள்ளது. SBOM மற்றும் சிபிஓஎம்.
சரக்கு இருப்பு முதல் பாதுகாப்புகள் வரை:
- OWASP உடன் இணைக்கப்பட்ட இடர் கண்டறிதல். கண்டறிதல் தொகுப்புகள், LLM10 வரம்பற்ற நுகர்வு உட்பட, OWASP LLM-இன் பத்து முதல் 10 பிரிவுகள் அனைத்தையும் உள்ளடக்கியுள்ளன, எனவே ஒவ்வொரு கண்டுபிடிப்பும் உங்கள் தணிக்கையாளர்கள் பயன்படுத்தும் மொழியில் பேசுகிறது.
- எண்ட்பாயிண்ட் கட்டுப்பாடுகள் குறியீட்டில் சரிபார்க்கப்பட்டன. சைஜெனி ஏபிஐ பாதுகாப்பு குறியீடு மற்றும் விவரக்குறிப்புகளிலிருந்து API எண்ட்பாயிண்ட்களைக் கண்டறிந்து, அங்கீகரிக்கப்படாத எண்ட்பாயிண்ட்கள், விடுபட்ட விகித வரம்பு மற்றும் விவரக்குறிப்பிலிருந்து விலகிச் சென்ற ஷேடோ API-கள் ஆகியவற்றைக் கொடியிடுகிறது.
- இயங்கும் செயலியில் ஆதாரம். சைஜெனி ஏஐ பென்டெஸ்டிங், நிறுவப்பட்ட பயன்பாட்டைச் சோதித்து, எந்தெந்த பலவீனங்களைப் பயன்படுத்திக்கொள்ள முடியும் என்பதை நிரூபிக்கிறது.
- விரைவாக சரிசெய்யவும். AI ட்ரியேஜ், AI கண்டுபிடிப்புகளுக்கு முன்னுரிமை அளிக்கிறது மற்றும் AI ரெமீடியேஷன், OWASP LLM-இன் பத்து பிரிவுகள் அனைத்திற்கும் சரிசெய்யும் வழிகாட்டுதலை உருவாக்குகிறது.
இவை அனைத்தும் ஒரு நிலையான ஸ்கேனாக இயங்குகின்றன. CI/CD அல்லது உள்ளூரில், SaaS உடன், on-premise மற்றும் இடைவெளி விடப்பட்ட விருப்பங்கள். சொற்பொருள் மறுஆய்வு கட்டம் நிறுவனத்திற்குள்ளேயே இருக்க வேண்டிய குழுக்கள், அதை சுய-ஹோஸ்ட் செய்யப்பட்ட மாதிரியில் இயக்கலாம்.
மாதிரி பிரித்தெடுத்தல் தாக்குதல் தடுப்பு சரிபார்ப்புப் பட்டியல்
வரிசைப்படி எட்டு கட்டுப்பாடுகள். முதல் இரண்டு கட்டுப்பாடுகள் மற்ற ஆறு கட்டுப்பாடுகளையும் சாத்தியமாக்குகின்றன.
- சரக்குமூலக் குறியீட்டிலிருந்து ஒவ்வொரு மாடல், ஏஜென்ட் மற்றும் இன்ஃபரன்ஸ் எண்ட்பாயிண்ட்டையும் பட்டியலிட்டு, அவற்றை ஒவ்வொரு முறையும் புதுப்பித்த நிலையில் வைத்திருக்கவும். commit.
- ஓனர்ஷிப்இருப்பில் உள்ள ஒவ்வொரு AI சொத்துக்கும் ஒரு உரிமையாளரை நியமிக்கவும்.
- அங்கீகாரஉள் முனையங்கள் உட்பட, ஒவ்வொரு அனுமான முனையத்திலும் அங்கீகாரத்தைக் கட்டாயமாக்குங்கள்.
- விகித வரம்புஒவ்வொரு அழைப்பாளருக்கும் விகித வரம்புகள், ஒதுக்கீடுகள் மற்றும் காலக்கெடுவைப் பயன்படுத்துங்கள்.
- வெளியீட்டைக் குறைத்தல்தேவையான குறைந்தபட்ச வெளியீட்டை வழங்கவும்: பயனர்களுக்குத் தேவையில்லாத இடங்களில் நம்பிக்கை மதிப்பெண்களையும் லாஜிட்களையும் நீக்கிவிடவும்.
- கண்காணிப்புமுறையான ஆய்விற்காக வினவல்களின் எண்ணிக்கை மற்றும் வடிவங்களைக் கண்காணிக்கவும்.
- வாட்டர்மார்க்கிங்உயர் மதிப்புள்ள தனியுரிம மாதிரிகளின் வெளியீடுகளில் வாட்டர்மார்க்கிங் செய்வதைக் கருத்தில் கொள்ளுங்கள்.
- கவர்னன்ஸ்ஆளுகை மற்றும் தணிக்கைக்காக ஒரு AI-BOM-ஐ ஏற்றுமதி செய்து, கண்டறிந்த முடிவுகளை OWASP LLM10 உடன் பொருத்துக.
தாக்குபவர்களுக்கு முன்பாகவே உங்கள் அனுமான முனைகளைக் கண்டறியுங்கள்.
ஒரு மாடல் பிரித்தெடுப்புத் தாக்குதலுக்கு, நீங்கள் மறந்துவிட்ட ஒரே ஒரு எண்ட்பாயிண்ட் மட்டுமே தேவை. உங்கள் கோட் உண்மையில் எந்த AI-ஐ இயக்குகிறது என்பதைக் கண்டறியுங்கள்: Xygeni AI Security உங்கள் AI இன்வென்டரியை எவ்வாறு உருவாக்குகிறது என்பதைப் பாருங்கள். or ஒரு டெமோ பதிவு.
FAQ
மாதிரி பிரித்தெடுத்தல் தாக்குதலுக்கும் மாதிரி தலைகீழாக்கத்திற்கும் என்ன வேறுபாடு?
ஒரு மாதிரி பிரித்தெடுப்புத் தாக்குதல், மாதிரியின் நடத்தை மற்றும் அதன் தன்மைகளை அப்படியே நகலெடுக்கிறது.cisஅயன் லாஜிக். மாடல் இன்வெர்ஷன் என்பது பயிற்சித் தரவை இலக்காகக் கொண்டு, மாடல் கற்றுக்கொண்ட முக்கியமான பதிவுகளை மீண்டும் உருவாக்க முயற்சிப்பதாகும். இரண்டுமே வினவல் அணுகலைத் தவறாகப் பயன்படுத்துகின்றன, ஆனால் எக்ஸ்ட்ராக்ஷன் அறிவுசார் சொத்துரிமையைத் திருடுகிறது, அதேசமயம் இன்வெர்ஷன் தனிப்பட்ட தரவுகளைக் கசியவிடுகிறது.
ஒரு மாதிரி பிரித்தெடுப்புத் தாக்குதல் LLM-களைக் குறிவைக்க முடியுமா, அல்லது கிளாசிக் ML மாதிரிகளை மட்டுமா?
இரண்டுமே. ஆரம்பகால ஆராய்ச்சி, முன்கணிப்பு API-களுக்குப் பின்னால் உள்ள வகைப்படுத்திகளை இலக்காகக் கொண்டது. இன்று OWASP, மாதிரிப் பிரித்தெடுத்தல் மற்றும் செயல்பாட்டு மாதிரி நகலெடுத்தல் ஆகியவற்றை LLM10:2025 வரம்பற்ற நுகர்வு என்பதன் கீழ் LLM அபாயங்களாகப் பட்டியலிடுகிறது, இதில் ஒரு தாக்குபவர் ஒரு மாற்றீட்டை நுட்பமாகச் சரிசெய்ய LLM-இன் சொந்த வெளியீடுகளைப் பயன்படுத்துகிறார்.
எனது இன்ஃபரன்ஸ் எண்ட்பாயிண்ட்களில் எவை மாடல் ஸ்டீலிங்கிற்கு ஆளாகியுள்ளன என்பதை நான் எப்படி அறிவது?
மூலக் குறியீட்டிலிருந்து உருவாக்கப்பட்ட ஒரு பட்டியலுடன் தொடங்குங்கள்: உங்கள் பயன்பாடுகள் அறிவிக்கும் ஒவ்வொரு மாடல், ஏஜென்ட் மற்றும் இன்ஃபரன்ஸ் எண்ட்பாயிண்ட் ஆகியவற்றையும் அதில் சேர்க்கவும். பின்னர், ஒவ்வொன்றையும் அங்கீகாரம், விகித வரம்பு மற்றும் வெளியீட்டு வெளிப்பாடு ஆகியவற்றிற்காகச் சரிபார்க்கவும். Xygeni AI Security உங்கள் களஞ்சியங்கள் முழுவதும் உள்ள AI சொத்துக்களைக் கண்டறிந்து அவற்றை ஒரு AI-BOM ஆக ஏற்றுமதி செய்கிறது, மேலும் Xygeni API Security அங்கீகாரம் அல்லது விகித வரம்பு இல்லாத எண்ட்பாயிண்ட்களைக் கொடியிடுகிறது.
