ഹാലുസ്ക്വാട്ടിംഗ് എന്നത് അഡ്‌വേഴ്‌സറിയൽ ഹാലുസിനേഷൻ സ്ക്വാട്ടിംഗിന്റെ ചുരുക്കെഴുത്താണ്, ഒരു AI മോഡൽ കണ്ടുപിടിക്കാൻ സാധ്യതയുള്ള റിപ്പോസിറ്ററി, പാക്കേജ് അല്ലെങ്കിൽ സ്കിൽ നാമങ്ങൾ ആരെങ്കിലും രജിസ്റ്റർ ചെയ്യുകയും, ഒരു ഏജന്റ് ഒന്ന് തിരയുന്നതിനായി കാത്തിരിക്കുകയും ചെയ്യുന്ന ഒരു ആക്രമണമാണ്. ഏജന്റ് വിശ്വസിക്കുന്നത് അത് ഒരു യഥാർത്ഥ പ്രോജക്റ്റ് നേടുകയാണെന്ന്. ഇതിന് പകരം ആക്രമണകാരി നിയന്ത്രിത ഉള്ളടക്കം ലഭിക്കുന്നു, ഏജന്റ് സ്വന്തം ടെർമിനലിലൂടെ നടപ്പിലാക്കുന്ന നിർദ്ദേശങ്ങൾ വഹിക്കുന്നു. ഹാലുസിനേഷനുകൾ ക്രമരഹിതമല്ലാത്തതിനാൽ ഇത് സ്കെയിലിൽ പ്രവർത്തിക്കുന്നു: മോഡലുകളിലും റണ്ണുകളിലും ഒരേ കെട്ടിച്ചമച്ച പേരുകൾ ആവർത്തിക്കുന്നു, അതിനാൽ അവ മുൻകൂട്ടി പ്രവചിക്കാനും രജിസ്റ്റർ ചെയ്യാനും കഴിയും. ഒരു ഏജന്റ് ഒരു ഡെവലപ്പർക്ക് എങ്ങനെയാണോ അങ്ങനെയാണെന്ന് ടൈപ്പോസ്ക്വാട്ട് ചെയ്യുന്നതാണ് ഹാലുസ്ക്വാട്ടിംഗ്. ഒന്ന് മനുഷ്യൻ തെറ്റായി ടൈപ്പ് ചെയ്യുന്നതിനായി കാത്തിരിക്കുന്നു. മറ്റൊന്ന് ഒരു മെഷീൻ സങ്കൽപ്പിക്കാൻ കാത്തിരിക്കുന്നു.
ഹാലുസ്ക്വാട്ടിംഗ് എന്താണ്? ഒരു പ്രവർത്തനപരമായ നിർവചനം #
സപ്ലൈ ചെയിൻ ആക്രമണങ്ങൾക്ക് എപ്പോഴും ഒരു തെറ്റ് ആവശ്യമായിരുന്നു. ടൈപ്പോസ്ക്വാട്ടിംഗിന് ഒരു പാക്കേജ് നാമം നൽകാൻ ആരെങ്കിലും ആവശ്യമാണ്. ആശ്രിതത്വ ആശയക്കുഴപ്പത്തിന് സ്വകാര്യ രജിസ്ട്രിയേക്കാൾ പൊതു രജിസ്ട്രിക്ക് മുൻഗണന നൽകാൻ ഒരു പരിഹാരകൻ ആവശ്യമാണ്. ഒടുവിൽ എന്തെങ്കിലും വരുത്തുന്ന ഒരു പിശകിനായി ഇരുവരും കാത്തിരിക്കുന്നു.
ഹാലുസ്ക്വാട്ടിംഗ് ഒരു പിശകിനായി കാത്തിരിക്കുന്നില്ല; അത് ഒരു കണ്ടുപിടുത്തത്തിനായി കാത്തിരിക്കുന്നു.
അതിനാൽ പ്രവർത്തന നിർവചനം: ഹാലുസ്ക്വാട്ടിംഗ് എന്നത് ഒരു സപ്ലൈ ചെയിൻ ആക്രമണമാണ്, അതിൽ ഒരു എതിരാളി വലിയ ഭാഷാ മോഡലുകൾ സ്ഥിതിവിവരക്കണക്കനുസരിച്ച് കെട്ടിച്ചമയ്ക്കാൻ സാധ്യതയുള്ള റിസോഴ്‌സ് ഐഡന്റിഫയറുകൾ മുൻകൂട്ടി രജിസ്റ്റർ ചെയ്യുന്നു, അങ്ങനെ ഒരു AI ഏജന്റ് കണ്ടുപിടിച്ച ഉറവിടം കണ്ടെത്തുമ്പോൾ അത് നിയമാനുസൃതമായ ഒരു പ്രോജക്റ്റിന് പകരം ആക്രമണകാരി നിയന്ത്രിത ഉള്ളടക്കം വീണ്ടെടുക്കുന്നു. ഉറവിടം ഒരു GitHub ശേഖരം, ഒരു പൊതു രജിസ്ട്രിയിലെ ഒരു പാക്കേജ്, ഒരു പ്ലഗിൻ അല്ലെങ്കിൽ ഒരു ഏജന്റ് വൈദഗ്ദ്ധ്യം എന്നിവ ആകാം. അവർ പങ്കിടുന്നത് ഏജന്റ് പേര് ഉപയോഗിച്ച് എന്തെങ്കിലും ചോദിച്ചു, പേര് കോൾ പ്രതീക്ഷിച്ചിരുന്ന ഒരാളുടേതായിരുന്നു എന്നതാണ്.
ഈ സാങ്കേതികത ഔപചാരികമായി വിവരിച്ചത് ഏജന്റ് ബോട്ട്‌നെറ്റുകൾ സൂക്ഷിക്കുക: യൂണിവേഴ്‌സൽ, ട്രാൻസ്ഫറബിൾ അഡ്വർസറിയൽ ഹാലു സ്ക്വാട്ടിംഗ് വഴി സ്‌കേലബിൾ അൺടാർഗെറ്റഡ് പ്രോംപ്റ്റ്‌വെയർ ആക്രമണങ്ങൾ.ടെൽ അവീവ് സർവകലാശാല, ടെക്നിയൻ, ഇന്റ്യൂട്ട് എന്നിവിടങ്ങളിലെ ഗവേഷകർ 2026 ജൂലൈ 8-ന് പ്രസിദ്ധീകരിച്ചത്. മെക്കാനിസത്തെപ്പോലെ തന്നെ പ്രധാനമാണ് പ്രബന്ധത്തിന്റെ ഫ്രെയിമിംഗും. ലക്ഷ്യമില്ലാത്ത ഒരു ആക്രമണത്തെ ഇത് വിവരിക്കുന്നു: എതിരാളിക്ക് ഒരു പ്രത്യേക ഇരയിലേക്കും ഒരു ചാനൽ ഒരിക്കലും ആവശ്യമില്ല. ഇമെയിലില്ല, സന്ദേശമില്ല, ആക്‌സസ്സില്ല. അവർ പേരുകൾ രജിസ്റ്റർ ചെയ്യുകയും ആവാസവ്യവസ്ഥയെ ഡെലിവറി ചെയ്യാൻ അനുവദിക്കുകയും ചെയ്യുന്നു.
മൂന്ന് ഭാഗങ്ങളായി വിഭജിച്ചിരിക്കുന്ന ഭ്രമാത്മകത #
ചെറിയ പേരിനേക്കാൾ പൂർണ്ണമായ പേര് മെക്കാനിസത്തെ നന്നായി വിശദീകരിക്കുന്നു, അതിനാൽ അത് വേർപെടുത്തുന്നത് മൂല്യവത്താണ്.
- ഭ്രമാത്മകത. ഒരു മോഡൽ അപരിചിതമായ ഒരു അഭ്യർത്ഥന നിറവേറ്റുമ്പോൾ, അത് അറിയില്ലെന്ന് പറയുന്നില്ല. അത് വിശ്വസനീയമായ എന്തെങ്കിലും സൃഷ്ടിക്കുന്നു. അത് കണ്ടിട്ടില്ലാത്ത ഒരു ഉപകരണത്തിന്റെ ശേഖരം ആവശ്യപ്പെടുമ്പോൾ, അത്തരം ഐഡന്റിഫയറുകൾ സാധാരണയായി എടുക്കുന്ന രൂപത്തിൽ വിശ്വസനീയമായ ഒരു ഉടമയെയും പ്രോജക്റ്റ് നാമത്തെയും ഇത് നിർമ്മിക്കുന്നു.
- സ്ക്വാട്ടിംഗ്. ടൈപ്പോസ്ക്വാട്ടിംഗിന്റെയും സൈബർസ്ക്വാട്ടിംഗിന്റെയും അതേ യുക്തി. ഒരു പേര് അതിന്റെ നിയമപരമായ അവകാശി കണ്ടെത്തുന്നതിന് മുമ്പ്, അല്ലെങ്കിൽ ആരെങ്കിലും അത് ഒരിക്കലും അവകാശപ്പെട്ടിട്ടില്ലെന്ന് ശ്രദ്ധിക്കുന്നതിന് മുമ്പ് അത് കൈവശപ്പെടുത്തുക.
- എതിരാളി. ഇതാണ് ഒരു ശല്യത്തെ ആക്രമണമാക്കി മാറ്റുന്നത്. പ്ലെയിൻ ഹാലുസിനേഷൻ സ്ക്വാട്ടിംഗ് അവസരവാദപരമാണ്: ഒരു മോഡലിന് അനുകൂലമായി രജിസ്റ്റർ പേരുകൾ നൽകുകയും പിന്നീട് പ്രതീക്ഷിക്കുകയും ചെയ്യുന്നു. എതിരാളി പതിപ്പ് മനഃപൂർവ്വം നിർമ്മിച്ചതാണ്, സാർവത്രികവും കൈമാറ്റം ചെയ്യാവുന്നതുമായ ട്രിഗറുകൾ ഉപയോഗിച്ച് മോഡലുകളെ ഒരു പ്രത്യേക ആക്രമണകാരി തിരഞ്ഞെടുത്ത പേരിലേക്ക് നയിക്കുന്നു. അത് കാത്തിരിപ്പ് നീക്കം ചെയ്യുകയും ആക്രമണം ആവർത്തിക്കാവുന്നതാക്കുകയും ചെയ്യുന്നു.
ഒരുമിച്ച് ചേർത്താൽ, ഹാലുസ്ക്വാട്ടിംഗിന്റെ അർത്ഥം ഒറ്റ വരിയിൽ ഇങ്ങനെയാണ്: നിങ്ങൾക്ക് ഇതിനകം സ്വന്തമായുള്ള ഒരു പേര് മോഡലിനെ കൊണ്ട് കണ്ടുപിടിക്കാൻ പ്രേരിപ്പിക്കുക, തുടർന്ന് ഏജന്റ് അതിൽ പ്രവർത്തിക്കാൻ അനുവദിക്കുക.
കൃഷി ചെയ്യാൻ ഭ്രമാത്മകത പ്രവചിക്കാൻ കഴിയുന്നത് എന്തുകൊണ്ട്? #
ഭ്രമാത്മകതകൾ ക്രമരഹിതമാണെന്നും അതിനാൽ അവയിൽ ഒന്നും കെട്ടിപ്പടുക്കാൻ കഴിയില്ലെന്നുമാണ് സഹജമായ എതിർപ്പ്. അളവുകൾ മറിച്ചാണ് പറയുന്നത്, ഹാലുസ്ക്വാട്ടിംഗ് എന്താണെന്ന് മനസ്സിലാക്കേണ്ട ഏറ്റവും പ്രധാനപ്പെട്ട ഒറ്റ കാര്യം ഇതാണ്.
| സാഹചര്യം | അതിന്റെ അർത്ഥമെന്താണ് | ഭ്രമാത്മക നിരക്ക് |
|---|---|---|
| സ്കിൽ ഇൻസ്റ്റലേഷൻ പ്രോംപ്റ്റുകൾ | ആവശ്യപ്പെടുമ്പോഴെല്ലാം ഏജന്റ് ഐഡന്റിഫയർ കണ്ടുപിടിക്കുന്നു. | പരമാവധി XNUM% വരെ |
| റിപ്പോസിറ്ററി ക്ലോണിംഗ് പ്രോംപ്റ്റുകൾ | ഒരു പ്രോജക്റ്റ് ക്ലോൺ ചെയ്യാൻ ഒരു ഏജന്റിനോട് ആവശ്യപ്പെടുന്നത് നിങ്ങൾക്കെതിരെ ചുമത്തുന്ന ഒരു നാണയം ഫ്ലിപ്പ് പോലെയാണ്. | പരമാവധി XNUM% വരെ |
| 2025-ൽ പ്രസിദ്ധീകരിച്ച ശേഖരങ്ങൾ | സമീപകാല പദ്ധതികൾ എപ്പോഴും തിരിച്ചുവിളിക്കുന്നതിനു പകരം കെട്ടിച്ചമച്ചതാണ്. | 92.4% ശരാശരി |
| 2019-ലോ അതിനുമുമ്പോ പ്രസിദ്ധീകരിച്ച ശേഖരങ്ങൾ | സ്ഥാപിതമായ പ്രോജക്ടുകൾ വിശ്വസനീയമായി പുനർനിർമ്മിക്കപ്പെടുന്നു. സമീപകാലമാണ് വേരിയബിൾ. | 0.9% ശരാശരി |
രണ്ട് പാറ്റേണുകൾ കേടുപാടുകൾ വരുത്തുന്നു. ഒന്നാമതായി, പുതിയ കാര്യങ്ങൾ കൃത്രിമത്വം സൃഷ്ടിക്കുന്നു. മോഡലുകൾ വളരെക്കാലമായി സ്ഥാപിതമായ പ്രോജക്റ്റുകളുടെ ഐഡന്റിഫയറുകൾ വിശ്വസനീയമായി പുനർനിർമ്മിക്കുകയും സമീപകാല പ്രോജക്റ്റുകളുടെ ഐഡന്റിഫയറുകൾ ഉറപ്പിനോട് അടുക്കുന്ന നിരക്കിൽ കണ്ടുപിടിക്കുകയും ചെയ്യുന്നു. പരിശീലന കട്ട്ഓഫിന് ശേഷം പ്രത്യക്ഷപ്പെട്ട എന്തും മോഡൽ പൂരിപ്പിക്കുന്ന ഒരു ശൂന്യതയാണ്. രണ്ടാമതായി, ഭ്രമാത്മകതയുടെ കൈമാറ്റം. വ്യത്യസ്ത ഫൗണ്ടേഷൻ മോഡലുകളിലും ആവർത്തിച്ചുള്ള റണ്ണുകളിലും ഒരേ കെട്ടിച്ചമച്ച പേരുകൾ ആവർത്തിക്കുന്നു, അതിനാൽ ഒരു ആക്രമണകാരിക്ക് ഒരു ലക്ഷ്യം ഏത് സഹായിയാണ് ഉപയോഗിക്കുന്നതെന്ന് അറിയേണ്ടതില്ല. ഒരു രജിസ്റ്റർ ചെയ്ത പേര് നിരവധി ഉൾക്കൊള്ളുന്നു.
ആ സംയോജനമാണ് ഒരു വിചിത്രമായ ആശയത്തെ അടിസ്ഥാന സൗകര്യങ്ങളാക്കി മാറ്റുന്നത്. ഒരു മോഡൽ ഒരിക്കൽ കണ്ടുപിടിച്ച പേര് ഒരു കൗതുകമാണ്. ട്രെൻഡിംഗ് ഉപകരണത്തെക്കുറിച്ച് ആരെങ്കിലും ചോദിക്കുമ്പോഴെല്ലാം, നിരവധി മോഡലുകൾ സ്ഥിരമായി കണ്ടുപിടിച്ച പേര് ഒരു വിതരണ ചാനലാണ്.
ഹാലുസ്ക്വാട്ടിംഗ് ആക്രമണം എങ്ങനെയാണ് പ്രവർത്തിക്കുന്നത്? #
ചെയിനിന് അഞ്ച് ലിങ്കുകളുണ്ട്, ശ്രദ്ധേയമായ കാര്യം, സജ്ജീകരിച്ചതിനുശേഷം ആക്രമണകാരി എത്രമാത്രം കാര്യമായി ചെയ്യുന്നില്ല എന്നതാണ്.
1. പ്രവചിക്കുക. ഒരു നിശ്ചിത ക്ലാസ് അഭ്യർത്ഥനയ്ക്കായി ഐഡന്റിഫയർ മോഡലുകൾ നിർമ്മിക്കുന്ന ആക്രമണകാരി പ്രൊഫൈലുകൾ: ഈ ശേഖരം ക്ലോൺ ചെയ്യുക, ഈ സ്കിൽ ഇൻസ്റ്റാൾ ചെയ്യുക, ഈ പാക്കേജ് ചേർക്കുക. സമീപകാലവും ട്രെൻഡിംഗുമായ ഉറവിടങ്ങൾ ഏറ്റവും ഉയർന്ന വിളവ് നൽകുന്നു.
2. രജിസ്റ്റർ ചെയ്യുക. യഥാർത്ഥ പ്ലാറ്റ്‌ഫോമിൽ അവർ ആ പേരുകൾ അവകാശപ്പെടുന്നു. റിപ്പോസിറ്ററി നിലവിലുണ്ട്. പാക്കേജ് പരിഹരിക്കുന്നു. അടിസ്ഥാന നിലനിൽപ്പ് പരിശോധനയിൽ ഒന്നും പരാജയപ്പെടുന്നില്ല, കാരണം റിസോഴ്‌സ് യഥാർത്ഥത്തിൽ നിലവിലുണ്ട്.
3. വിത്ത്. ഒരു മോഡലിന്റെ നിർദ്ദേശങ്ങളായി വായിക്കുന്നതിനായി എഴുതിയ ഉള്ളടക്കം കൊണ്ട് റിസോഴ്‌സ് നിറഞ്ഞിരിക്കുന്നു: ഒരു README-യിലെ ഒരു എതിരാളി പ്രോംപ്റ്റ്, ഒരു കോൺഫിഗറേഷൻ ഫയൽ, ഡോക്യുമെന്റേഷൻ അല്ലെങ്കിൽ റിസോഴ്‌സ് വിവരണം. ഇത് പ്രോംപ്റ്റ്‌വെയർ ആണ്, ഇത് പരോക്ഷമായി ബന്ധപ്പെട്ടിരിക്കുന്നു. പെട്ടെന്നുള്ള കുത്തിവയ്പ്പ്പേലോഡ് പ്രധാനമായും കോഡല്ല, അടുത്തതായി എന്ത് വായിക്കുന്നുവോ അതിനെ ലക്ഷ്യം വച്ചുള്ള ഭാഷയാണ്.
4. ലഭ്യമാക്കുക. ഒരു ഡെവലപ്പർ ഒരു ഏജന്റിനോട് റിപ്പോസിറ്ററി ക്ലോൺ ചെയ്യാനോ സ്കിൽ ഇൻസ്റ്റാൾ ചെയ്യാനോ ആവശ്യപ്പെടുന്നു. ഏജന്റ് ആ പേര് ഭ്രമിപ്പിക്കുകയും, ആക്രമണകാരിയുടെ ഉറവിടത്തിൽ എത്തുകയും, അതിലെ ഉള്ളടക്കം വീണ്ടെടുക്കാൻ ആവശ്യപ്പെട്ട മെറ്റീരിയലായി സ്വന്തം സന്ദർഭത്തിലേക്ക് വലിച്ചെടുക്കുകയും ചെയ്യുന്നു.
5. നടപ്പിലാക്കുക. എംബഡഡ് നിർദ്ദേശങ്ങൾ ഏജന്റിന്റെ എക്സിക്യൂഷനെ ഹൈജാക്ക് ചെയ്യുന്നു. നിലവിലെ ഏജന്റുകൾ ഇന്റഗ്രേറ്റഡ് ടെർമിനലുകൾ ഉപയോഗിച്ചാണ് ഷിപ്പ് ചെയ്യുന്നത് എന്നതിനാൽ, പ്രദർശിപ്പിച്ച ഫലം റിമോട്ട് ടൂൾ എക്സിക്യൂഷനും റിമോട്ട് കോഡ് എക്സിക്യൂഷനുമാണ്, അവസാനിക്കുന്ന ഒരു ബോട്ട് ഹോസ്റ്റിൽ ഇൻസ്റ്റാൾ ചെയ്യപ്പെടുന്നു.
ആ അവസാന ലിങ്കാണ് ഗവേഷണത്തിന് അതിന്റെ പേര് നൽകുന്നത്. ഓരോ അപഹരിക്കപ്പെട്ട മെഷീനും ഒരു ഏജന്റിക് ബോട്ട്‌നെറ്റിൽ ചേരുന്നു: ദുർബലതകളിലൂടെയോ ദുർബലമായ യോഗ്യതകളിലൂടെയോ അല്ല, മറിച്ച് ആരും നേരിട്ട് ലക്ഷ്യം വയ്ക്കാത്ത മെഷീനുകളിൽ, ഒരിക്കലും അനുസരിക്കാൻ പാടില്ലാത്ത നിർദ്ദേശങ്ങൾ വായിക്കുന്ന ഏജന്റുമാരിലൂടെയാണ് ഇത് വ്യാപിക്കുന്നത്.
ഹാലുസ്ക്വാട്ടിംഗ് vs ടൈപ്പോസ്ക്വാട്ടിംഗ് vs സ്ലോപ്സ്ക്വാട്ടിംഗ് #
ഇവ മൂന്നും പരസ്പരം മാറിമാറി ഉപയോഗിക്കപ്പെടുന്നു, അവ ഒരേ കാര്യമല്ല. വ്യത്യാസം ആരാണ് തെറ്റ് ചെയ്യുന്നത് എന്നതും അടുത്തതായി എന്ത് സംഭവിക്കുമെന്നതുമാണ്.
| സന്വദായം | ആരാണ് തെറ്റ് ചെയ്യുന്നത് | ആക്രമണകാരി കാത്തിരിക്കുന്നത് എന്താണ് |
|---|---|---|
| ടൈപ്പോസ്ക്വാട്ടിംഗ് | ഒരു മനുഷ്യൻ, യഥാർത്ഥ പേര് തെറ്റായി ടൈപ്പ് ചെയ്യുകയോ ഓർമ്മിക്കുകയോ ചെയ്യുന്നു | നിലവിലുള്ള ഒരു പേരിനെക്കുറിച്ചുള്ള ഒരു ചെറിയ പരാമർശം |
| സ്ലോപ്സ്ക്വാട്ടിംഗ് | ഒരു മോഡൽ, ഒരു പാക്കേജിന് പേര് കണ്ടുപിടിച്ച് ഒരു ഡെവലപ്പർ പിന്നീട് ഇൻസ്റ്റാൾ ചെയ്യുന്നു | ഒരു അസിസ്റ്റന്റിന്റെ ശുപാർശയിൽ വിശ്വസിക്കുന്ന ഒരു ഡെവലപ്പർ |
| ഹാലുസ്ക്വാട്ടിംഗ് | ഒരു മോഡൽ, ഒരു വിഭവം കണ്ടുപിടിക്കുന്നു, തുടർന്ന് ഒരു ഏജന്റ് അത് ലഭ്യമാക്കി പ്രവർത്തിപ്പിക്കുന്നു. | ഒന്നുമില്ല. ഏജന്റ് സ്വന്തമായി ലഭ്യമാക്കുകയും വായിക്കുകയും നടപ്പിലാക്കുകയും ചെയ്യുന്നു. |
സ്ലോപ്സ്ക്വാട്ടിംഗ് ആണ് ഏറ്റവും അടുത്ത ബന്ധുവും പൊതുവായ പൂർവ്വികനും: രജിസ്റ്റർ പാക്കേജ് നാമ മോഡലുകൾ ഭ്രമാത്മകമാക്കുന്നു, ആരെങ്കിലും ഇൻസ്റ്റാൾ പ്രവർത്തിപ്പിക്കുന്നതുവരെ കാത്തിരിക്കുക. ഹാലുസ്ക്വാട്ടിംഗ് അതിനെ രണ്ട് ദിശകളിലേക്ക് വർദ്ധിപ്പിക്കുന്നു. ലക്ഷ്യം ഡെവലപ്പറിൽ നിന്ന് ഏജന്റിലേക്ക് നീങ്ങുന്നു, ഇത് മനുഷ്യ പരിശോധനയെ പൂർണ്ണമായും നീക്കംചെയ്യുന്നു. കൂടാതെ പോസ്ചർ അവസരവാദത്തിൽ നിന്ന് എതിരാളിയിലേക്ക് നീങ്ങുന്നു, കാരണം പേര് പ്രതീക്ഷിക്കുന്നതിനുപകരം നയിക്കാനാകും.
ഇതിനകം തന്നെ പ്രവർത്തിക്കുന്ന ടീമുകൾക്ക് ഈ മാറ്റം ഏറ്റവും പ്രധാനമാണ് ഏജന്റിക് കോഡിംഗ്, എവിടെയാണ് ഡിcision, ഡെവലപ്പർ ആവശ്യപ്പെട്ടതും ഇനി കാണാത്തതുമായ ഒരു പ്രക്രിയയ്ക്കുള്ളിലെ ഒരു ഘട്ടത്തിലാണ് ലുക്കപ്പും നിർവ്വഹണവും നടക്കുന്നത്.
നിലവിലുള്ള നിയന്ത്രണങ്ങൾ എന്തുകൊണ്ട് അത് നഷ്ടപ്പെടുത്തുന്നു #
പരമ്പരാഗത വിതരണ ശൃംഖല പരിശോധനയ്ക്ക് പിന്നിലെ എല്ലാ അനുമാനങ്ങളും ഇവിടെ വിപരീതമാണ്, അതാണ് അസുഖകരമായ ഭാഗം.
ആ നിയന്ത്രണങ്ങളിൽ ഓരോന്നും "ഇതിന് മുമ്പ് ആരെങ്കിലും കണ്ടിട്ടുണ്ടോ" എന്നതിന്റെ ഏതെങ്കിലും പതിപ്പ് ചോദിക്കുന്നു എന്നതാണ് ഇതിന്റെ സാരം. നാല് മണിക്കൂർ മുമ്പ് രജിസ്റ്റർ ചെയ്ത പേരിന് നേരെ, സത്യസന്ധമായ ഉത്തരം ഇല്ല എന്നാണ്, ഇല്ല എന്നത് ഒരു ബ്ലോക്ക് അല്ല.
ഏജന്റ് തുറക്കുന്നതിന് മുമ്പ് വിൻഡോ അടയ്ക്കൽ #
ഉപയോഗപ്രദമായ ചോദ്യം, നിങ്ങളുടെ ഡെവലപ്പർമാർ കണ്ടുപിടിച്ച ഒരു പാക്കേജ് നാമം ഇഷ്ടപ്പെടുമോ എന്നതല്ല. നിങ്ങളുടെ pipeline നാല് മണിക്കൂർ പഴക്കമുള്ളതും, ചരിത്രമില്ലാത്തതും, ഒരു വ്യക്തിക്ക് പകരം ഒരു ഏജന്റ് ചേർത്തതുമായ ഒരു ആശ്രിതത്വം ശ്രദ്ധയിൽപ്പെടും.
മൂന്ന് നിയന്ത്രണങ്ങൾ ആ വിൻഡോയുടെ ഭൂരിഭാഗവും അടയ്ക്കുന്നു, കൂടാതെ അവയിൽ ഒന്നും തന്നെ ആക്രമണകാരിയുടെ പേര് എന്താണെന്ന് ഊഹിക്കേണ്ടതില്ല.
പ്രായവും ഉത്ഭവവും ഒരു കവാടമായി പരിഗണിക്കുക. മണിക്കൂറുകൾക്ക് മുമ്പ് സൃഷ്ടിച്ച് ഒരു ഏജന്റ് പിൻവലിച്ച ഒരു ഉറവിടം അഞ്ച് വർഷത്തെ ചരിത്രമുള്ളതിൽ നിന്ന് വ്യത്യസ്തമായ ഒരു നിർദ്ദേശമാണ്, കൂടാതെ പാക്കേജ് പ്രായം ആരും വായിക്കാത്ത മെറ്റാഡാറ്റയേക്കാൾ പോളിസി ഇൻപുട്ടായി വളരെ മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നു. പ്രശസ്തിക്ക് പകരം പെരുമാറ്റത്തിൽ സ്ക്രീൻ ചെയ്യുക, കാരണം പുതുതായി രജിസ്റ്റർ ചെയ്ത പേര് എല്ലായ്പ്പോഴും "ആരെങ്കിലും ഇത് കണ്ടിട്ടുണ്ടോ" എന്ന പരിശോധന പാസാക്കുകയും "ഇത് യഥാർത്ഥത്തിൽ എന്താണ് ചെയ്യുന്നത്" എന്ന പരിശോധന ഒരിക്കലും പാസാക്കാതിരിക്കുകയും ചെയ്യുന്നു. ഇൻസ്റ്റാൾ എവിടെയാണ് സംഭവിക്കുന്നതെന്ന് നടപ്പിലാക്കുക, കാരണം decisഅയോൺ പോയിന്റ് ഡെവലപ്പറുടെ മെഷീനിലേക്കും ഏജന്റിന്റെ ടെർമിനലിലേക്കും നീങ്ങി, കൂടാതെ കോഡ് ലോക്കലായി എക്സിക്യൂട്ട് ചെയ്തതിനുശേഷം CI-യിൽ മാത്രം പ്രവർത്തിക്കുന്ന ഒരു നിയന്ത്രണം എത്തിച്ചേരുന്നു.
സൈജെനി ആ ലെയറിൽ പ്രവർത്തിക്കുന്നു. മാൽവെയർ മുൻകൂർ മുന്നറിയിപ്പ് പ്രശസ്തിയെക്കാൾ പെരുമാറ്റത്തെക്കുറിച്ചുള്ള പാക്കേജുകൾ സ്ക്രീൻ ചെയ്യുന്നു, ഒപ്പ് നിലനിൽക്കുന്നതിന് മുമ്പ് ക്ഷുദ്രകരമായവയെ ഫ്ലാഗ് ചെയ്യുന്നു, ഇന്ന് രാവിലെ രജിസ്റ്റർ ചെയ്ത പേര് ഇന്ന് രാവിലെ പിടിക്കപ്പെടുന്നതിനുള്ള ഒരേയൊരു വ്യവസ്ഥയാണിത്. ആഴ്ചതോറുമുള്ള ഫലങ്ങൾ പരസ്യമായി പ്രസിദ്ധീകരിക്കുന്നു. ക്ഷുദ്രകരമായ കോഡ് ഡൈജസ്റ്റ്. Shield ഡെവലപ്പർ എൻഡ്‌പോയിന്റിൽ തന്നെ പാക്കേജുകൾക്കുള്ള കുറഞ്ഞ പ്രായപരിധിയും ക്ഷുദ്രകരമായ ഇൻസ്റ്റാളുകൾ തടയുന്നതും ഉൾപ്പെടെയുള്ള നയം നടപ്പിലാക്കുന്നു, അതിനാൽ ഒരു ഏജന്റിന് അത് സങ്കൽപ്പിക്കുന്ന നിമിഷം തന്നെ പിൻവലിക്കാൻ കഴിയില്ല. ദേവഐഐ ബാധകമാണ് guardrails IDE-ക്കുള്ളിലും കോഡിംഗ് ഏജന്റിനുള്ളിലും, ഏജന്റ് എന്താണ് ചേർക്കുന്നതെന്ന് അവലോകനം ചെയ്യുന്നത്, അത് ഒരു commitതുടർച്ചയായി AI അസറ്റ് കണ്ടെത്തൽ നിങ്ങളുടെ റിപ്പോസിറ്ററികളിൽ ഇതിനകം പ്രവർത്തിക്കുന്ന ഏജന്റുമാർ, കഴിവുകൾ, MCP സെർവറുകൾ എന്നിവ മാപ്പ് ചെയ്യുന്നു, കാരണം ഈ ആക്രമണം ഉയർത്തുന്ന ആദ്യ ചോദ്യം മിക്ക ടീമുകൾക്കും ഉത്തരം നൽകാൻ കഴിയാത്ത ഒന്നാണ്: നമ്മുടെ പേരിൽ എന്താണ് കാര്യങ്ങൾ കൊണ്ടുവരുന്നത്, ആരുടെ അധികാരത്തിൻ കീഴിലാണ്?
ഒരു ഡെമോ ബുക്ക് ചെയ്യുക നിങ്ങളുടെ ഏജന്റുമാർ എന്താണ് ചെയ്യുന്നതെന്ന് കാണാൻ.
പതിവ് ചോദ്യങ്ങൾ: എന്താണ് ഹാലുസ്ക്വാട്ടിംഗ്, ചുരുക്കത്തിൽ #
ഒരു ആക്രമണകാരി AI മോഡലുകൾ കണ്ടുപിടിക്കാൻ സാധ്യതയുള്ള വ്യാജ പേരുകൾ രജിസ്റ്റർ ചെയ്യുന്നു, അങ്ങനെ ഒരു ഏജന്റ് ഒരെണ്ണം തിരയുമ്പോൾ യഥാർത്ഥ പ്രോജക്റ്റിന് പകരം ആക്രമണകാരിയുടെ ഉള്ളടക്കം കണ്ടെത്തുന്നു. മോഡലിന്റെ തെറ്റ് ഡെലിവറി മെക്കാനിസമായി മാറുന്നു.
പ്രധാനമായും. എൽഎൽഎം റെഡ് ടീമിംഗ് ഭാഷാ മോഡലുകളിലും അവയിൽ നിർമ്മിച്ച ആപ്ലിക്കേഷനുകളിലുമാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്. AI റെഡ് ടീമിംഗ് എന്നാൽ ഭ്രമാത്മകത ചൂഷണം ചെയ്യപ്പെടുന്നതിനുപകരം നിയന്ത്രിക്കപ്പെടുന്നു എന്നതാണ്. പേരുകൾ രജിസ്റ്റർ ചെയ്യുന്നതിനുപകരം മോഡലുകൾ അനുകൂലമായി കാത്തിരിക്കുന്നതിന് പകരം, ഏജന്റുമാർ ആവശ്യാനുസരണം ഒരു പ്രത്യേക ആക്രമണകാരി തിരഞ്ഞെടുത്ത പേര് കെട്ടിച്ചമയ്ക്കാൻ പ്രേരിപ്പിക്കുന്ന ട്രിഗറുകൾ ഗവേഷണം തെളിയിച്ചു, അവ വ്യത്യസ്ത മോഡലുകളിൽ പ്രവർത്തിക്കുന്നു.
ഇല്ല. ടൈപ്പോസ്ക്വാട്ടിംഗ് മനുഷ്യ പിശകിനെ ചൂഷണം ചെയ്യുന്നു, തെറ്റായി ടൈപ്പ് ചെയ്തതോ തെറ്റായി ഓർമ്മിച്ചതോ ആയ ഒരു പേര്. ഹാലുസിനേഷൻ സ്ക്വാട്ടിംഗ് മെഷീൻ ഫാബ്രിക്കേഷനെ ചൂഷണം ചെയ്യുന്നു, ഒരിക്കലും യഥാർത്ഥമല്ലാത്തതും ആരും ഒരിക്കലും ടൈപ്പ് ചെയ്തിട്ടില്ലാത്തതുമായ ഒരു പേര്. നാമ-സാമ്യം കണ്ടെത്തൽ ഇവിടെ ഒന്നും ചെയ്യുന്നില്ല, കാരണം കെട്ടിച്ചമച്ച പേര് ഒന്നിന്റെയും അഭാവമല്ല.
അവ ഓവർലാപ്പ് ചെയ്യുന്നു, സ്ലോപ്സ്ക്വാട്ടിംഗ് ആദ്യം വന്നു. സ്ലോപ്സ്ക്വാട്ടിംഗ് എന്നാൽ സാധാരണയായി ഹാലുസിനേറ്റഡ് പാക്കേജ് നാമങ്ങൾ രജിസ്റ്റർ ചെയ്യുകയും ഒരു അസിസ്റ്റന്റിന്റെ ശുപാർശയിൽ ഒരു ഡെവലപ്പർ ഒന്ന് ഇൻസ്റ്റാൾ ചെയ്യുന്നതിനായി കാത്തിരിക്കുകയും ചെയ്യുന്നു. ഹാലുസ്ക്വാട്ടിംഗ് എന്നത് ഏജന്റിക് എസ്കലേഷൻ ആണ്: ഏജന്റ് സ്വയം ലഭ്യമാക്കുകയും എക്സിക്യൂട്ട് ചെയ്യുകയും ചെയ്യുന്നു, ഹാലുസിനേഷൻ കാത്തിരിക്കുന്നതിനുപകരം പ്രേരിപ്പിക്കാൻ കഴിയും, കൂടാതെ പ്രദർശിപ്പിച്ച എൻഡ്‌പോയിന്റ് റിമോട്ട് കോഡ് എക്സിക്യൂഷനും ബോട്ട്‌നെറ്റ് ഇൻസ്റ്റാളേഷനുമാണ്.
നിങ്ങളുടെ ഏജന്റുമാർക്ക് മനുഷ്യന്റെ സഹായമില്ലാതെ എന്ത് ലഭ്യമാക്കാനും ഇൻസ്റ്റാൾ ചെയ്യാനും കഴിയുമെന്ന് കണ്ടെത്തുക, തുടർന്ന് പ്രായവും പെരുമാറ്റ പരിശോധനയും അതിന് മുന്നിൽ വയ്ക്കുക. രണ്ടും കോൺഫിഗറേഷൻ ചോദ്യങ്ങളാണ്, ഈ ആഴ്ച ഉത്തരം നൽകേണ്ടതാണ്, കൂടാതെ ഒരു ആക്രമണകാരി ഇതിനകം രജിസ്റ്റർ ചെയ്ത പേരുകൾ എന്താണെന്ന് അറിയേണ്ട ആവശ്യമില്ല.
