டிஎல்; DR
முகவர் சார்ந்த செயற்கை நுண்ணறிவு அபாயம் குறித்த ஒரே கேள்விக்கான மூன்று பதில்கள்
செயற்கை நுண்ணறிவு முகவர்களைக் கட்டுப்படுத்துவது குறித்து பரவலான உடன்பாடு இருக்கும் என்று நாங்கள் எதிர்பார்த்தோம், ஆனால் மூன்று வெவ்வேறு பதில்களே கிடைத்தன.
- பெட்ரோ ஃபார்ச்சூனா: ஏஜென்ட்களை, ஒவ்வொன்றிற்கும் சாத்தியமான மிகக் குறுகிய அனுமதிகளை வழங்கும் பல சிறிய, குறிப்பிட்ட ஏஜென்ட்களாகப் பிரித்து, அவற்றை முன்கூட்டியே நிறுத்தும் இயக்க நேரக் கண்காணிப்பைச் சேர்க்கவும்.
- ஜாக் ட்ரெஃபோன்: குறியீட்டு முகவர்களுக்கு இது நேர்மாறானது. ஒன்றை கட்டுப்படுத்தினால், அதன் பயனை நீங்களே அழித்துவிடுகிறீர்கள். எனவே, அதன் பாதிப்பை ஏற்றுக்கொண்டு, தடமறிதல் மற்றும் விரைவான மீட்பில் முதலீடு செய்யுங்கள்.
- லூயிஸ் ரோட்ரிக்ஸ் பெர்சோசா: ஒரு மூன்றாவது பாதுகாப்பு அடுக்கு. எல்லைப்புற மாதிரிகளை நீங்கள் தீம்பொருளைக் கையாள்வது போலவே கையாளுங்கள்; ஒவ்வொரு சிறப்பு முகவரையும் கட்டுப்படுத்தும் வகையில் பாதுகாப்பு வளையத்தை வடிவமைத்து, அதற்கு மேலே உள்ள அனைத்தும் தோல்வியடையும்போது தாக்குப்பிடிக்கும் ஒரு அமலாக்க அடுக்கை அதற்கெல்லாம் கீழே அமையுங்கள்.
மூவரும் சந்தித்த இடம்: நீங்கள் கணக்கெடுக்காத ஒன்றைப் பாதுகாக்க முடியாது, ஒவ்வொரு செயலும் பதிவு செய்யப்பட வேண்டும், மேலும் ஒரு முகவரைத் தடுக்கும் காரணி அந்த முகவருக்கு வெளியே இருக்க வேண்டும்.
எதுவும் மீறப்படவில்லை.
அந்த ஏஜென்ட் தன் வேலையைச் செய்தது. வழியில், யாரும் தொடச் சொல்லாத ஒரு சார்புநிலை, ஒரு கட்டமைப்பு, அல்லது ஒரு சேவையைத் தொட வேண்டும் என அது முடிவு செய்தது. முழு நேரமும் அது தனது அனுமதிகளுக்குள்ளேயே இருந்தது. எந்த விதியும் மீறப்படவில்லை, அதனால் எதுவும் செயல்படவில்லை.
இதை தொழில்ரீதியாகக் கையாளும் மூன்று பேரிடம், என்ன செய்வதென்று பரவலான உடன்பாடு இருக்கும் என்ற எதிர்பார்ப்புடன் அந்த விஷயத்தை முன்வைத்தோம். எங்களுக்கு மூன்று வெவ்வேறு பதில்கள் கிடைத்தன, அவற்றில் இரண்டு ஒன்றுக்கொன்று முரண்படுகின்றன.
முகவர்வழி செயற்கை நுண்ணறிவு அபாயம் பொதுவாக ஒரு தாக்குதல் சிக்கலாகவே விவரிக்கப்படுகிறது. இது அதன் மற்றொரு வடிவம். இருபது ஆண்டுகளாக, சொல்லப்பட்டதை அப்படியே செய்யும் மென்பொருட்களைச் சுற்றி நாங்கள் அனுமதி எல்லைகளை வகுத்தோம். ஒரு சேவைக் கணக்கு, ஒரு CI ரன்னர், ஒரு திட்டமிடப்பட்ட பணி. நாங்கள் அந்த எல்லையை அடிக்கடி தவறாக வகுத்தோம், ஆனால் அதற்குள் இருந்த விஷயம் கணிக்கக்கூடியதாக இருந்தது. அது ஒவ்வொரு முறையும் ஒரே வேலையை, ஒரே மாதிரியாகச் செய்தது.
எல்லைக்குள் இருக்கும் விஷயம்தான் இப்போது தீர்மானிக்கிறது. மேலும் அந்த எல்லை, எப்பொழுதும் போலவே இப்போதும் வரையப்படுகிறது: அதாவது, அந்தப் பணி என்னவாக மாறும் என்பதை அறிய முடியாத ஒருவரால், முன்கூட்டியே, கட்டமைக்கும் நேரத்தில் வரையப்படுகிறது.
முகவர்வழி செயற்கை நுண்ணறிவு அபாயத்தின் விவாதிக்கத் தகுந்த வடிவம் அதுதான், மேலும் கடந்த முறை நாம் அதைப் பற்றி ஒரு மணி நேரம் செலவிட்டோம். பாதுகாப்பான மேம்பாட்டுப் பேச்சு உடன் பெட்ரோ ஃபார்ச்சூனா ஜேஸ்க்ராம்ப்ளரின், ஜாக் ட்ரெஃபோன் ட்ரெஃபோன் டிஜிட்டல் கன்சல்டிங் நிறுவனத்தைச் சேர்ந்த, மற்றும் லூயிஸ் ரோட்ரிக்ஸ் பெர்சோசா Xygeni-யின், தொகுத்து வழங்குபவர் அலெஜான்ட்ரோ எஸ்ட்ராடா.
அவர்கள் பரவலாக உடன்படுவார்கள் என்று நாங்கள் எதிர்பார்த்தோம். ஆனால் அவர்கள் உடன்படவில்லை.
முகவர் செயற்கை நுண்ணறிவு அபாயம்: நிலைக்காத, ஆறுதலளிக்கும் முன்முடிவு
மேலே உள்ள சட்டகத்தில் ஒரு சொல், இருக்க வேண்டியதை விட அதிக வேலையைச் செய்கிறது: தாக்குபவர்அப்படி ஒன்று இல்லை. அது சூழ்நிலையை எளிதாக்கும் என்று கருதப்படுகிறது.
பெட்ரோ அதை ஒரே அடியில் தகர்த்தெறிந்தார்.
தாக்குபவராக இருப்பதும் இல்லாதிருப்பதும் ஒரு மனிதக் கருத்து. ஒரு தாக்குபவரைத் தாக்குபவராக ஆக்குவது, அதற்கு வேறுபட்ட இலக்குகள் இருப்பதே ஆகும். மேலும், தவறான நோக்குடைய ஒரு முகவரும் வேறுபட்ட இலக்கைக் கொண்டவரே.
இதைச் சற்று யோசித்துப் பாருங்கள், ஏனெனில் இது, எங்கள் சொந்த நிகழ்விற்காக நாங்கள் எழுதிய விளக்கம் உட்பட, பெரும்பாலான முகவர் சார்ந்த செயற்கை நுண்ணறிவு இடர் குறித்த உரையாடல்களின் அடிப்படையையே தகர்த்துவிடுகிறது. ஒரு தாக்குபவரை வரையறுப்பது தீய எண்ணம் அல்ல, மாறாக மாறுபட்ட இலக்குகள் என்றால், "இந்தக் கதையில் தாக்குபவர் யாரும் இல்லை" என்பது யாரும் சம்பாதிக்காத ஒரு ஆறுதலாகும். கட்டமைப்பு ரீதியாக, இது அதே இடர்தான். இதில் விடுபட்டிருப்பது உள்நோக்கம், மேலும் உங்கள் கட்டுப்பாடுகள் ஒருபோதும் உள்நோக்கத்தைக் கண்டறிந்ததில்லை. அவை விளைவுகளைக் கண்டறிகின்றன. அவை எப்போதுமே அப்படித்தான் செய்தன.
இதனால்தான் தொழில்துறையின் சொற்களஞ்சியமும் மாறியது. OWASP-இன் 2026 LLM விண்ணப்பங்களுக்கான முதல் 10 இடங்கள் அதிகப்படியான முகமையை ஆறாவது இடத்திலிருந்து மூன்றாவது இடத்திற்கு உயர்த்தியது என்பது, ஒரு கருத்து மாற்றத்தை விட, ஏற்கனவே செயல்படுத்தப்பட்ட ஒரு கட்டமைப்பிற்கு ஏற்ப சம்பவப் பதிவேடு சீரடைவதே ஆகும்.
ஹக்கிங் ஃபேஸ் சம்பவம் உண்மையில் காட்டுவது என்னவென்றால்
ஒரு முன்னணி மாடல் மூன்றாம் நபர் ஒருவரைத் தாக்கிய ஜூலை மாதச் சம்பவம், ஒரு மாடல் கட்டுப்பாட்டை மீறிச் செயல்பட்ட கதையாகப் பரவலாகப் பார்க்கப்பட்டது. லூயிஸ் அதை வேறுவிதமாகப் பார்க்கிறார், மேலும் அவரது பார்வை, அந்தப் பொறுப்பை ஒரு சங்கடமான இடத்தில் வைக்கிறது.
பிரச்சினை எல்லை மாதிரி அல்ல. எல்லை மாதிரி தனக்குக் கட்டளையிடப்பட்டதைச் செய்தது. பிரச்சினை பரிசோதனையின் வடிவமைப்பில்தான் உள்ளது.
இலக்கு வரையறுக்கப்படாததாக இருந்தது. கட்டுப்பாடுகள் எதுவும் இருக்கவில்லை. மேலும், அதை உள்ளடக்குவதற்காக உருவாக்கப்பட்ட அந்த சோதனைக்களமானது, தொகுப்பு நினைவகத்தில் இருந்த சேவையகப் பக்க கோரிக்கை மோசடி பாதிப்பு வழியாக, முகவரால் அணுகக்கூடிய இணையத்திற்கான ஒரு சாளரத்தைக் கொண்டிருந்தது. இவற்றில் ஒவ்வொன்றும் ஒரு வடிவமைப்புப் பிழையாகும்.cisஒரு நபரால் உருவாக்கப்பட்ட அயனியாக்கம்.
இது, நீங்கள் இந்த விஷயங்களை வழங்கும் விதத்தை மாற்ற வேண்டிய வாக்கியத்தை உருவாக்குகிறது:
ஃபிரான்டியர் மாடல்களை மால்வேர் போலப் பார்க்க வேண்டும், ஏனென்றால் அவை தன்னிச்சையாகச் செயல்படவும், தேவையற்ற மாற்றங்களைச் செய்யவும் கூடும்.cisதீங்கிழைக்கும் அயனிகள். நோக்கத்தினால் அல்ல, ஆனால் இறுதியில் அவை உண்மையாகவே தீங்கிழைப்பவை.
இது அந்த மாதிரியை அவமதிக்கும் நோக்கத்தில் அல்ல. ஒரு முன்னெச்சரிக்கை நடவடிக்கையாக. தீம்பொருளுக்கு ஒரு பாஷ் ஷெல்லைக் கொடுத்துவிட்டு, அதன் நோக்கம் தெளிவாகக் குறிப்பிடப்பட்டிருக்கும் என்று நீங்கள் நம்பக்கூடாது.
அதே சம்பவம் குறித்த பெட்ரோவின் பார்வை, வடிவமைப்பைப் பற்றியதல்ல, மாறாக நேரத்தைப் பற்றியதாக இருந்தது:
முகவர்கள் பயன்படுத்தக் கூடாத ஒரு சேவையில், கோப்புறைப் பெயர்கள் மூலம் தொடர்புகொள்வதை நீங்கள் காணும் கணமே, அந்தத் தருணத்திலேயே நீங்கள் அவர்களைத் தடுத்து நிறுத்த வேண்டும். அது தீங்கிழைக்கும் செயலா இல்லையா என்பதைத் தீர்மானிப்பதற்கு, அந்த முகவர்கள் ஹக்கிங் ஃபேஸ் (Hugging Face) பாதுகாப்பு அமைப்பை வெற்றிகரமாக மீறும் வரை நீங்கள் காத்திருக்கத் தேவையில்லை.
பதிலடியிலிருந்து ஒரு விவரத்தையும் குறித்துக்கொள்வது அவசியம். பதிலளிப்பாளர்கள் தடயங்களைப் பகுப்பாய்வு செய்ய ஒரு வணிக முகவர் கருவியைப் பயன்படுத்த முயன்றனர், ஆனால் அவர்களால் முடியவில்லை, ஏனெனில் அவர்கள் வேக வரம்புகளை அடைந்தனர். தாக்குதல் நடத்தியவருக்கு அப்படிப்பட்ட உச்சவரம்பு எதுவும் இல்லை. "தாக்குதலில் ஒன்றிலேயே ஒரு சமச்சீரற்ற தன்மை இருந்தது."
உண்மையான விவாதம்: முகவரைக் கட்டுப்படுத்துவதா, அல்லது வேகமாக மீள்வதா?
இங்குதான் குழு பிளவுபட்டது, மேலும் இது, தத்தமது நிலையைத் தகுதியுடன் நிரூபித்த நிபுணர்களுக்கிடையே ஏற்பட்ட ஒரு உண்மையான கருத்து வேறுபாடு ஆகும்.
பெட்ரோ சிதைவுக்காக வாதிடுகிறார். பிரவுசருக்குள் தனிமைப்படுத்தலைத் திணித்த பதினைந்து வருட அனுபவம், ஒரு ஒற்றைக் கட்டமைப்பின் மீது இயங்கு நேரத்தில் எதையும் திணிக்க முடியாது என்பதை அவருக்குக் கற்றுக்கொடுத்தது. கட்டமைப்பை குறிப்பிட்ட செயல்பாடுகளைக் கொண்ட சிறு சிறு பகுதிகளாகப் பிரித்தால் மட்டுமே, கட்டுப்பாடுகளும் கண்காணிப்புப் புள்ளிகளும் தங்களை இணைத்துக்கொள்ள ஓர் இடம் கிடைக்கும். ஏஜென்ட்களும் இதற்கு விதிவிலக்கல்ல.
குறிப்பிட்ட பணிகளுக்காக மட்டுமேயான மிகத் துல்லியமான ஏஜென்ட்களாக நீங்கள் அதைப் பிரிக்க வேண்டும் என்று நான் நினைக்கிறேன். இறுதியில் உங்களிடம் ஐம்பது ஏஜென்ட்கள் இருந்தாலும் பரவாயில்லை. ஒரே ஒரு ஏஜென்ட் மட்டும் இருப்பதை விட இது சிறந்தது.
குறிப்பாக கோடிங் ஏஜென்ட்களைப் பொறுத்தவரை, ஜாக் இதற்கு நேர்மாறாக வாதிடுகிறார். ஒழுங்குபடுத்தப்பட்ட கிரிப்டோ பரிவர்த்தனை நிலையத்தில் தொழில்நுட்பப் பின்னணியைக் கொண்ட ஒருவர், அந்த அறையிலேயே மிகவும் கட்டுப்பாடான நிலைப்பாட்டை உருவாக்குவார் என்று நீங்கள் எதிர்பார்க்கலாம். ஆனால், அது மிகக் குறைவானதையே உருவாக்கியது.
அவர் தொடக்கத்தில் முன்வைத்த உவமையானது, அச்சுறுத்தல் மாதிரி என்பதே அல்ல:
ஒரு வழக்கமான முகவர் பணியமர்த்தலை, புதிதாகப் பணியில் சேரும் ஒருவரைப் போலவே நான் பார்க்கிறேன். அந்த நபர், பணியைச் செயல்படுத்துவதில் பிழையற்றவராக இருக்கலாம், அல்லது ஒரு தவறைச் செய்யலாம். இதில் எனக்குப் பெரிய வித்தியாசம் எதுவும் தெரியவில்லை.
குறுகிய பயன்பாட்டு ஏஜென்ட்களைப் பொறுத்தவரை, அவர் மற்றவர்களைப் போலவே கண்டிப்பானவர். தற்போது அவர் உருவாக்கி வரும் படிக்க-மட்டும்-அனுமதி கொண்ட ஒரு ரிவ்யூ ஏஜென்ட்டைப் பற்றி விவரிக்கையில், பொதுவான அமைப்புமுறை நியாயப்படுத்த முடியாதது என்று அவர் வெளிப்படையாகக் கூறினார்: பாஷ் அணுகல் கொண்ட ஒரு சாதாரண லினக்ஸ் கணினியில் இதை நிறுவுவது, "அச்சுறுத்தல்களின் முழு சூழலமைப்பையும் திறந்துவிடுவதாகும்". ஆனால், பொதுவான கோடிங் ஏஜென்ட்களுக்கு இந்தத் தர்க்கம் தலைகீழாகிறது, மேலும் இந்த நிலைப்பாடு மக்களிடையே விரும்பப்படாதது என்பதையும் அவர் அறிவார்.
முகவருக்கு அதிகாரம் அதிகரிக்க அதிகரிக்க, அது மேலும் ஆக்கப்பூர்வமாகவும் திறம்படவும் செயல்படுகிறது. எனவே, கட்டுப்பாடுகளாலும் செயல்பாட்டு எல்லை சுருங்குவதாலும் இந்தத் துறை செழித்து வளரவில்லை.
அப்படியானால், நீங்கள் வரம்புகளை விதிக்கவில்லை என்றால் என்னதான் மிச்சம் இருக்கிறது? சர்க்யூட் பிரேக்கர்கள், எல்லாவற்றிற்கும் மேலாக நேர அடிப்படையிலான ஸ்னாப்ஷாட்கள்: இவை வெடிப்புப் பரப்பைத் தடுப்பதில்லை, மாறாக அதிலிருந்து மீள்வதை மலிவானதாகவும் வேகமானதாகவும் ஆக்குகின்றன. அவர் அதைத் தன்னுள் கட்டமைக்கிறார். அம்பர்அவர் தனது ஓய்வு நேரத்தில் எழுதும், லூப்பில் ஸ்னாப்ஷாட்டிங் வசதியுடன் கூடிய, சார்பற்ற ஒரு C++ ஏஜென்ட் ஹார்னஸ்.திட்ட தளம்).
மற்ற பாதை எங்கே முடிவடைகிறது என்பது பற்றிய எச்சரிக்கையும்:
நாம் பறிக்கத் தொடங்கினால், ஒரே ஒரு கருவி மட்டுமே எஞ்சியிருக்கும், அந்தக் கருவியால் மட்டுமே விளக்குகளை இயக்கவும் அணைக்கவும் முடியும்.
லூயிஸ் மூன்றாவது இடத்தைப் பிடிக்கிறார்இது கட்டுப்படுத்தவோ மீட்கவோ செய்யாமல், கீழிருந்து அடக்குவதாகும்: அந்த ஏஜென்ட் இறுதியில் மால்வேர் போல செயல்படும் என்று கருதி, ஒவ்வொரு சிறப்பு ஏஜென்ட்டையும் கட்டுப்படுத்தும் வகையில் ஹார்னஸை வடிவமைத்து, அதற்கு மேலே உள்ள அனைத்தும் தோல்வியடையும்போது நிலைத்து நிற்கும் ஒரு அமலாக்க அடுக்கை இவை அனைத்திற்கும் கீழே வைக்கவும்.
ஒரே பிரச்சனைக்கான மூன்று அணுகுமுறைகள்
மூன்று நிலைகள், ஒவ்வொன்றிற்கும் ஒரு விலை உண்டு. அவற்றுள் எதுவும் இலவசமானதல்ல, மேலும் அவற்றுள் எதுவும் தானாகவே முகவரைப் பாதுகாப்பானதாக ஆக்குவதில்லை.
| அணுகுமுறை | முக்கிய நகர்வு | உங்களுக்கு ஆகும் செலவு |
|---|---|---|
| சிதைந்துவிடும்பெட்ரோ ஃபார்ச்சூனா | வரையறுக்கப்பட்ட அனுமதிகளைக் கொண்ட பல சிறிய ஏஜென்ட்கள், அதோடு அவற்றை முன்கூட்டியே நிறுத்தும் இயக்க நேரக் கண்காணிப்பும் உள்ளது. | ஆரம்பத்திலேயே வடிவமைப்புப் பணி, ஆனால் வரையறுக்கப்படாத குறியீட்டுப் பணிகளில் அதிக சிரமம். |
| மீட்டெடுஜாக் ட்ரெஃபோன் | திறனைத் தக்கவைத்துக்கொண்டு, சர்க்யூட் பிரேக்கர்களையும் நேர அடிப்படையிலான ஸ்னாப்ஷாட்களையும் சேர்ப்பதன் மூலம் பழைய நிலைக்குத் திரும்புவது மலிவாக இருக்கும். | பரந்த வெடிப்பு ஆரம், மற்றும் அதை உரிய நேரத்தில் கண்டறிந்து செயலிழக்கச் செய்வதற்கான ஒரு பந்தயம். |
| கீழே உள்ளவற்றிலிருந்து உள்ளடக்கவும்லூயிஸ் ரோட்ரிக்ஸ் பெர்சோசா | தீம்பொருளின் நடத்தையை அனுமானித்து, கட்டமைப்பில் உள்ள ஒவ்வொரு ஏஜென்ட்டையும் கட்டுப்படுத்தி, பணிநிலையம் மற்றும் CI ரன்னரில் அதை அமல்படுத்துங்கள். | பெரும்பாலான எண்ட்பாயிண்ட் ஸ்டேக்குகள் இன்னும் வழங்காத உள்கட்டமைப்பு மற்றும் கருவிகள் |
அவற்றை அருகருகே வைத்துப் படிக்கும்போது, கருத்து வேறுபாடு தோன்றுவதை விடக் குறுகியது. முகவர் எதிர்பாராத ஒன்றைச் செய்வார் என்பதை மூவரும் ஏற்றுக்கொள்கிறார்கள். பணம் எங்கே செல்கிறது என்பதில் அவர்கள் வேறுபடுகிறார்கள்: அது நடப்பதற்கு முன் கட்டிடக்கலைக்கா, அது நடந்த பிறகு மீட்புப் பணிக்கா, அல்லது இரண்டிற்கும் கீழே உள்ள தளத்திற்கா.
குறைந்தபட்ச சிறப்புரிமை ஏன் முகவர் சார்ந்த செயற்கை நுண்ணறிவு அபாயமாக மாறுவதில்லை
குறைந்தபட்ச சிறப்புரிமை என்பது, உங்களுக்கு அந்த வேலை தெரியும் என்ற அனுமானத்தின் அடிப்படையிலானது. நீங்கள் அனுமதியை அந்தப் பணிக்கேற்றவாறு வரையறுக்கிறீர்கள்.
ஒரு ஏஜென்ட் அதை அமைதியாக மீறுகிறது, ஏனெனில் அதன் அனுமதி எல்லை உள்ளமைவு நேரத்தில் வரையப்பட்டு, அதன் பணி இயக்க நேரத்தில் வருகிறது. நீங்கள் உண்மையில் வழங்குவது, அதனிடம் எப்போதாவது செய்யச் சொல்லப்படக்கூடிய அனைத்தின் ஒன்றிணைப்பு ஆகும். அது குறைந்தபட்ச சிறப்புரிமை அல்ல; அது அதன் நேர்மாறானது, குறைந்தபட்ச சிறப்புரிமையின் உடையை அணிந்திருக்கிறது.
இவை அனைத்தையும் விடப் பழமையான ஒரு யோசனையிலிருந்து கடன் வாங்கப்பட்ட ஒரு மறுவடிவமைப்பை லூயிஸ் முன்வைத்தார்:
ஒரு சிக்கலான பணியைச் செய்வதற்கு எளிய கருவிகளை ஒன்றாக இணைக்கும் UNIX-இன் பைப்பிங் வழிமுறையை நான் நினைத்துப் பார்க்கிறேன். கட்டுப்படுத்தப்பட்ட உள்ளமைவுடன் குறிப்பிட்ட ஏஜென்ட்களை நீங்கள் வரையறுக்கலாம், அதன் மூலம் அந்தச் சிறப்பு வாய்ந்த ஏஜென்ட் என்ன செய்ய முடியும் என்பதைக் கட்டுப்படுத்தலாம். மேலும், ஏறக்குறைய எந்தவொரு பணிக்கும் அவற்றை ஒன்றிணைக்க முடியும்.
மேலும், பெரும்பாலான அணிகள் முயற்சித்துப் பார்க்காத இரண்டாவது வடிவமைப்பு யோசனையும்: அனுமதிகளை விரிவுபடுத்துவதற்குப் பதிலாக, கருவிகளைப் பாதுகாக்கவும். முழு அமைப்பையும் ஒப்படைக்கும் பாஷ் அல்ல, மாறாக அழைக்கக்கூடிய ஒரே பாதையாக இருக்கும் ஒரு குறுகிய உறை; இதில் படிக்க-மட்டும் வகைகளும் பொதுவான வகைகளைச் சுற்றி அமைந்துள்ளன. அந்த ஏஜென்ட் ஒரு திறனைப் பெறுகிறது, ஒரு ஷெல்லை அல்ல.
தடை வடிவமைப்பில் இல்லை; அது செயல்பாட்டில்தான் உள்ளது என்பதையும் அவர் தெளிவுபடுத்தினார். டெவலப்பர் கணினிகளில் உள்ள புதிய கட்டுப்பாடுகளை நீண்ட காலமாகவே சமாளித்து வந்துள்ளனர், மேலும் பயன்படுத்தப்படும் கருவி ஒரு ஏஜென்ட் என்பதால் அந்த வரலாறு மாறிவிடப் போவதில்லை.
மேலும், இது எல்லாம் எங்கே முடிவடையும் என்று அவர் நினைப்பது பற்றி:
இறுதியில், தன்னாட்சி முகவர்கள் மற்ற தன்னாட்சி முகவர்களைக் கட்டுப்படுத்தும் என்று நான் நினைக்கிறேன்.
மடிக்கணினி மணிமகுடமாகிவிட்டது, ஆனால் உங்கள் மின்னஞ்சல் முகவரி அதைக் கவனிக்கவில்லை.
ஒரு ஏஜென்ட் பயனுள்ளதாக இருக்க, அதற்கு நிரந்தர அணுகல் தேவை. ஒரு பணியின் நடுவில் காலாவதியாகாத டோக்கன், தற்காலிகமாகச் சேமிக்கப்பட்ட நற்சான்றிதழ், புஷ் உரிமைகள், ரெஜிஸ்ட்ரி அணுகல், மற்றும் ஒரு நேரடிப் பாதை ஆகியவை இதில் அடங்கும். pipelineஅவை ஒவ்வொன்றும் கவனக்குறைவைக் காட்டிலும் ஒரு தேவையாகும், அதாவது கருவிகள் மேம்பட மேம்பட, உருவாக்குநர் குழு மேலும் ஒருமுகப்படுத்தப்பட்டது.
தாக்குதல் நடத்தியவர்கள்தான் முதலில் கவனித்தார்கள். பெட்ரோ சொன்னது போல, அவர்கள் சித்தாந்தவாதிகள் அல்ல:
அவர்கள் சிறு நிறுவனங்களைப் போல தங்களை ஒழுங்கமைத்துக் கொள்கிறார்கள். அவர்களுக்குப் பணம் சம்பாதிக்க வேண்டியிருப்பதால், தங்களால் கண்டுபிடிக்க முடிந்த மிகவும் இலாபகரமான வழியை நோக்கி நகர்கிறார்கள். மேலும், டெவலப்மென்ட் ஸ்டேஷன்களில் பணம் சம்பாதிக்க முடியும் என்பதை அவர்கள் விரைவாகப் புரிந்துகொண்டார்கள்.
ஒவ்வொரு வாரமும் அந்த மாற்றம் பதிவேடுகளில் பதிவாவதை நாங்கள் பார்க்கிறோம். தீங்கிழைக்கும் குறியீடு டைஜஸ்ட்தற்போது, நற்சான்றிதழ் சேகரிப்பாளர்கள் கிளவுட் மற்றும் ரெஜிஸ்ட்ரி சாவிகளுடன் சேர்த்து AI வழங்குநர் சாவிகளையும் வழக்கமாக வேட்டையாடுகின்றனர்.
அவருடைய தணிப்பு நடவடிக்கைகளின் பட்டியல் கவர்ச்சியற்றதாகவும் அதே சமயம் பலனளிப்பதாகவும் உள்ளது: கணினியில் இருக்கத் தேவையில்லாத ஒவ்வொரு சாவியையும் அகற்றுவது, மீதமுள்ளவற்றை OpenID Connect அல்லது ஒரு வன்பொருள் சாவி போன்ற இரண்டாவது காரணியுடன் இணைப்பது (இதனால் திருடப்பட்ட டோக்கன் மட்டும் போதுமானதாக இருக்காது), மேலும், முடிந்தவரை டெவலப்பர் கண்டெய்னர்கள் அல்லது கிளவுட் IDE-கள் மூலம் சூழலை ஹோஸ்டிலிருந்து மாற்றுவது.
பின்னர், தங்கள் எண்ட்பாயிண்ட் ஸ்டேக் இதை உள்ளடக்கியுள்ளது என்று கருதும் எவரையும் கவலைக்குள்ளாக்க வேண்டிய ஒரு கருத்தை லூயிஸ் முன்வைத்தார்:
EDR-கள் பாரம்பரிய தீம்பொருளில் நிபுணத்துவம் பெற்றவை, மேலும் அவற்றுக்கு ஏஜென்டிக் கருவிகள் பற்றித் தெரியாது. ஒருவேளை அவை செயல்பட்டாலும், ஏராளமான தவறான எச்சரிக்கைகளை உருவாக்கக்கூடும். ஏனெனில், தற்போதைய கண்டறிதல் முறைகளுக்குத் தெரியாத செயல்களை அந்த ஏஜென்டு செய்கிறது.
ஒரே நேரத்தில் இரண்டு தோல்வி முறைகள்: அது முக்கியமானவற்றைத் தவறவிடுகிறது, முக்கியமற்றவற்றைக் கொடியிடுகிறது. அதற்கான அவரது பதில், டெவலப்பர் பணிநிலையம் மற்றும் CI ரன்னரைச் சுற்றி, ஹார்னஸுக்குக் கீழே அமைந்திருக்கும் அந்த வெளிப்புற அமலாக்க அடுக்குதான்; அது ஒரு கட்டுப்பாடற்ற ஏஜென்ட் அடையக்கூடிய எல்லைகளுக்கு வரம்பு விதிக்கிறது. அதுதான் அந்த இடைவெளி. சைஜெனி Shield நிறுவல் உண்மையில் நடைபெறும் முனையத்தில் கொள்கை அமல்படுத்தப்பட்டு, இதற்கென இது உருவாக்கப்பட்டது.
ஜாக் இதை இன்னும் வெளிப்படையாகச் சொன்னார்: உங்கள் பிட்காயினை உங்கள் டெவலப்மென்ட் மெஷினில் வைத்திருக்காதீர்கள்.
மூவரும் ஒப்புக்கொண்ட தளம்
மூன்று வெவ்வேறு பதில்கள், அவற்றில் ஒரு பொதுவான குறைந்தபட்சம்.
- முதலில் சரக்கு இருப்பு. உங்களுக்குத் தெரியாத ஒன்றைப் பாதுகாக்க முடியாது.cisஎந்த ஏஜென்ட்கள், திறன்கள் மற்றும் MCP சர்வர்கள் உள்ளன என்பதை அறிவதைப் பொறுத்தே செயல்பாடு அமைகிறது, ஆனால் அவற்றுள் ஏறக்குறைய எதுவும் அறிவிக்கப்படவில்லை.
- ஒவ்வொரு செயலையும் பதிவு செய்யுங்கள். ஜாக்கும் லூயிஸும் எதிரெதிர் திசைகளிலிருந்து இங்கு வந்தனர். ஜாக் தடயங்களை விரும்புகிறான், ஏனெனில் அவற்றின் மூலம்தான் ஒருவர் மீண்டு வர முடியும், ஒரு அமைப்பு முதிர்ச்சியடையவும் முடியும். லூயிஸ் அவற்றை விரும்புகிறான், ஏனெனில் அவை இல்லாமல், வெடிப்பு நிகழ்ந்த பிறகு அதன் பாதிப்புப் பகுதியை மீண்டும் கட்டமைக்க முடியாது. ஜாக்கின் இந்தக் கண்ணோட்டத்தை நாம் கடன் வாங்கலாம்: ஒரு செயலைச் செய்தவரை, அவர் மனிதராகவோ அல்லது முகவராகவோ இருந்தாலும், விசாரிப்பதில் எந்த மதிப்பும் இல்லை; அதை மீண்டும் செய்யாத அளவுக்குச் சூழலை நன்கு புரிந்துகொள்வதில்தான் மதிப்பு உள்ளது.
- ஒரு முகவரைத் தடுக்கும் விஷயம் அந்த முகவருக்கு வெளியே இருக்க வேண்டும். பெட்ரோவின் இயக்க நேரக் கண்காணிப்பு, லூயிஸின் அமலாக்க அடுக்கு, ஜாக்கின் சர்க்யூட் பிரேக்கர்கள் மற்றும் ஸ்னாப்ஷாட்கள். வெவ்வேறு இயக்கமுறைகள், ஒரே கொள்கை.
தொழில்துறை எந்த நிலையில் உள்ளது என்பதை ஜாக் ஒரு பயனுள்ள கண்ணோட்டத்தில் விளக்கினார். நைஜீரியாவில் தனக்கு ஒரு தங்கச் சுரங்கம் பரம்பரைச் சொத்தாகக் கிடைத்திருப்பதாகக் கூறி, தான் பெற்ற முதல் ஸ்பேம் மின்னஞ்சல் அவருக்கு நினைவிருக்கிறது. இது ஒரு முதிர்ச்சிப் பிரச்சினை; மேலும், முதிர்ச்சி என்பது தவறுகளுக்கு முன்னரல்ல, மாறாகப் பின்னரே வருகிறது.
வெள்ளிக்கிழமைக்கு முன் என்ன செய்வது
ஒரு முகவரைத் தேர்ந்தெடுங்கள். அது என்ன செய்ய அனுமதிக்கப்பட்டுள்ளது, மற்றும் இந்த வாரம் உண்மையில் என்ன செய்யும்படி கேட்டுக்கொள்ளப்பட்டது என இரண்டு பட்டியல்களை எழுதுங்கள்.
அந்தப் பட்டியல்களுக்கு இடையேயான இடைவெளிதான் உங்கள் பாதிப்பு ஆரம் ஆகும். மேலும், ஒரு பிற்பகலில் உங்கள் குழுவால் உருவாக்கக்கூடிய, முகவர் சார்ந்த செயற்கை நுண்ணறிவு அபாயத்தின் மிகவும் பயனுள்ள அளவீடும் இதுவே. இதற்கு ஒரு பிற்பகல் நேரம் மட்டுமே ஆகும், நிதி ஒதுக்கீடு தேவையில்லை, மேலும் இது உங்கள் சொந்த நிறுவனத்தைப் பொறுத்தவரை மேலே உள்ள விவாதத்திற்கு ஒரு தீர்வைக் கொடுக்கிறது. ஏனெனில், அந்த இடைவெளி எவ்வளவு பெரியதாக இருக்க வேண்டும் என்ற கேள்விக்கு, அந்த மூன்று நிலைப்பாடுகளுமே உண்மையில் மூன்று வெவ்வேறு பதில்களாகும்.
பெரும்பாலான அணிகள் அதை ஒருபோதும் எழுத்துப்பூர்வமாகப் பதிவு செய்ததில்லை.
தி முழு மணி நேரம் ஐரோப்பாவில் மனிதத் தலையீடு இருக்க வேண்டும் என்ற நிபந்தனைகள், சில செயற்கை நுண்ணறிவுப் பாதுகாப்பு முறைகளை நடைமுறையில் ஏன் சாத்தியமற்றதாக ஆக்குகின்றன என்பது குறித்த ஜாக்கின் கருத்து உட்பட, இதை மீண்டும் பார்க்கலாம்.
மேலும், அந்த உடற்பயிற்சியாளர்cise உங்களுக்குப் பிடிக்காத ஒரு பதிலை அளிக்கிறது. சைஜெனி உங்கள் களஞ்சியங்களில் உள்ள, இதுவரை யாரும் அறிவிக்காத ஏஜென்ட்கள், திறன்கள் மற்றும் MCP சர்வர்கள் உள்ளிட்ட ஒவ்வொரு AI சொத்தையும் கண்டறிந்து, ஒவ்வொன்றும் எவற்றை எல்லாம் சென்றடைய முடியும் என்பதை வரைபடமாக்குங்கள். ஒரு டெமோ பதிவு or இலவசமாகத் தொடங்குங்கள் நாங்கள் அதை உங்களுடையதில் இயக்குவோம்.
FAQ
ஒரு செயற்கை நுண்ணறிவு முகவரின் வெடிப்பு ஆரம் என்ன?
அதற்கு இடப்பட்ட பணியிலிருந்து வேறுபட்டு, ஏதேனும் தவறு ஏற்பட்டால் அந்த ஏஜென்ட் அடையக்கூடிய அனைத்து அம்சங்களும் இதில் அடங்கும். இது, செய்யப்படும் பணியால் அல்ல, மாறாக இயங்கும் நேரத்தில் அதற்குக் கிடைக்கும் அனுமதிகள், சான்றுகள் மற்றும் கருவிகளால் வரையறுக்கப்படுகிறது. அந்த இரண்டிற்கும் இடையிலான இடைவெளிதான் அளவிடத் தகுந்த விஷயம், ஆனால் பெரும்பாலான குழுக்கள் அதை ஒருபோதும் எழுத்துப்பூர்வமாகப் பதிவு செய்ததில்லை.
ஒரு முகவர் தனது அனுமதிகளை ஒருபோதும் மீறாத பட்சத்தில், அது தனது பணியை மீறுவது ஒரு பாதுகாப்புச் சம்பவமாகக் கருதப்படுமா?
அதுதான் மையக் கருத்து வேறுபாடு. பெட்ரோவின் பதில் அடிப்படையில் ஆம் என்பதே, ஏனெனில் ஒரு தாக்குபவர் தீய எண்ணத்தால் அல்ல, மாறாக இலக்கு விலகலால் வரையறுக்கப்படுகிறார், மேலும் தவறாக வழிநடத்தப்பட்ட ஒரு முகவர் தனது இலக்கை விட்டு விலகிச் சென்றுவிடுகிறார். ஜாக்கின் பதில் இல்லை என்பதற்கு மிக நெருக்கமானது: இது ஒரு புதிய பணியாளரின் தவறைப் போன்ற ஒரு செயல்பாட்டுத் தோல்வி, மேலும் கடுமையான கட்டுப்பாடுகளை விதிப்பதை விட, அதைக் கண்டறிந்து மீட்டெடுப்பதே சரியான பதிலாகும். லூயிஸ், தொடக்கத்திலிருந்தே மிக மோசமான சூழ்நிலையை அனுமானித்து, அது நிகழும்போது எந்த அடுக்கு இன்னும் நிலைத்திருக்கும் என்று கேட்பதன் மூலம் அந்தக் கேள்வியைத் தவிர்க்கிறார்.
குறியீட்டு முகவர்கள் தனிமைப்படுத்தப்பட வேண்டுமா?
குறுகிய, குறிப்பிட்ட பணிகளுக்கான ஏஜென்ட்களைப் பொறுத்தவரை, மூவருமே தயக்கமின்றி சம்மதம் தெரிவித்தனர்: முடிந்தவரை படிக்க மட்டும் அனுமதி, பாஷ் இல்லை, தேவைப்பட்டால் மட்டுமே நெட்வொர்க். பொதுவான கோடிங் ஏஜென்ட்களைப் பொறுத்தவரை, குழு மூன்று வழிகளாகப் பிரிந்தது: பெட்ரோ அவற்றை அலசி ஆராய்வார், ஜாக் அந்தத் திறனைத் தக்கவைத்துக்கொண்டு தீவிரமாக ஸ்னாப்ஷாட் எடுப்பார், மற்றும் ஏஜென்ட் என்ன செய்ய அனுமதிக்கப்பட்டிருந்தாலும், லூயிஸ் அதன் கட்டுப்பாட்டுக் கட்டமைப்புக்குக் கீழே ஒரு அமலாக்க அடுக்கைச் சேர்ப்பார்.
எனது EDR முகவர் சார்ந்த செயற்கை நுண்ணறிவு அபாயத்தை உள்ளடக்குகிறதா?
அநேகமாக சரியாக இருக்காது. தற்போதைய எண்ட்பாயிண்ட் கருவிகள் பாரம்பரிய மால்வேர் வடிவங்களை அடிப்படையாகக் கொண்டு உருவாக்கப்பட்டுள்ளன, மேலும் அவை ஏஜென்ட்டின் நடத்தையை மாதிரியாகக் கொள்வதில்லை. எனவே, அவை முக்கியமானவற்றைக் கவனிக்கத் தவறி, முக்கியமற்றவற்றைக் கொடியிட முனைகின்றன. லூயிஸின் பதில், ஒரு பொது நோக்கத்திற்கான EDR-ஆக இல்லாமல், டெவலப்பர் சூழல்களுக்காக வடிவமைக்கப்பட்ட ஒரு வெளிப்புற அமலாக்க அடுக்காக இருந்தது.
முதலில் செய்ய வேண்டிய ஒரே காரியம் என்ன?
சரக்குப் பட்டியலை உருவாக்குங்கள். உங்கள் களஞ்சியங்களில் உள்ள ஒவ்வொரு மாடல், ஏஜென்ட், திறன் மற்றும் MCP சர்வர், மற்றும் ஒவ்வொன்றும் எதை அடைய முடியும் என்பதையும் குறிப்பிடுங்கள். மூன்று குழு உறுப்பினர்களும் குறிப்பிட்ட ஒரே படிநிலை இதுதான், மேலும் மற்ற எல்லா கட்டுப்பாடுகளும் இதை மட்டுமே சார்ந்திருக்கின்றன.
