TL; DR
Hiru erantzun galdera berari agenteen IA arriskuari buruz
IA agenteak mugatzeari buruzko adostasun zabala espero genuen eta hiru erantzun desberdin jaso genituen.
- Pedro Fortuna: agenteak baimen txiki eta espezifiko askotan banatu, bakoitza baimen estuenekin, eta exekuzio-denboraren monitorizazioa gehitu haiek goiz gelditzen dituena.
- Jack Trefon: kontrakoa, kodetze-agenteentzat. Bat mugatu eta erabilgarria egiten duena suntsitzen duzu, beraz, onartu leherketa-erradioa eta inbertitu trazabilitatean eta berreskuratze azkarran.
- Luis Rodríguez Berzosa: hirugarren lerro bat. Mugako ereduak malwarea bezala tratatu, agente espezializatu bakoitza mugatzeko arnesa diseinatu eta gainetik dagoen guztia huts egiten duenean balioko duen betearazpen geruza bat jarri azpian.
Hirurak elkartu ziren tokia: Ezin duzu inbentariatu ez duzuna babestu, ekintza guztiak erregistratu behar dira, eta agente bat geldiarazten duen gauzak agentearen kanpoan egon behar du.
Ez zen ezer urratu.
Agenteak bere lana egin zuen. Bidean, inork ukitzeko eskatu ez zion menpekotasun bat, konfigurazio bat, zerbitzu bat ukitu behar zuela erabaki zuen. Bere baimenen barruan egon zen denbora guztian. Ez zen araurik urratu, beraz, ezer ez zen aktibatu.
Kasu hori profesionalki jorratzen duten hiru pertsonari aurkeztu genien, zer egin behar zen adostasun zabala espero genuelarik. Hiru erantzun desberdin jaso genituen, eta horietako bik elkarren kontraesanean daude.
IA agentearen arriskua erasotzaile baten arazo gisa deskribatzen da normalean. Hau beste bertsioa da. Hogei urtez baimen mugak marraztu genituen esandakoa zehazki egiten zuen softwarearen inguruan. Zerbitzu kontu bat, CI exekutatzaile bat, programatutako lan bat. Muga askotan gaizki jartzen genuen, baina barruko gauza aurreikusgarria zen. Lan bakarra egiten zuen, modu berean, aldiro.
Mugaren barruko gauzak erabakitzen du orain. Eta muga beti bezala marrazten da oraindik: aldez aurretik, konfigurazio unean, zeregina zertan bihurtuko den jakin ezin duen norbaitek.
Hori da eztabaidatzeko moduko IA agentearen arriskuaren bertsioa, eta ordubete eman genuen horri buruz azken aldian. SafeDev-en eztabaida batera Pedro Fortuna Jscrambler-en, Jack Trefon Trefon Digital Consulting-ekoa, eta Luis Rodríguez Berzosa Xygeni-ren eskutik, antolatuta Alejandro Estrada.
Oro har, ados egotea espero genuen. Ez zuten egin.
IA agentearen arriskua: eusten ez duen premisa lasaigarria
Goiko markoak behar baino lan gehiago egiten duen hitz bat dauka: erasotzaileEz dago bat ere. Hori egoera errazteko da.
Pedrok mugimendu bakar batean desegin zuen hori.
«Erasotzaile izatea ala ez, kontzeptu humanoa da. Erasotzaile bat erasotzaile bihurtzen duena helburu desberdinak izatea da. Eta gaizki lerrokatutako agente bat ere helburu desberdina duen zerbait da».
Onartu hori, IA agentearen arriskuei buruzko elkarrizketa gehienen premisa desmuntatzen duelako, gure ekitaldirako idatzi genuen deskribapena barne. Erasotzaile bat definitzen duena helburu desberdinak badira, eta ez gaiztakeria, orduan "ez dago erasotzailerik istorio honetan" inork irabazi ez duen erosotasuna da. Egiturari dagokionez, arrisku bera da. Falta dena asmoa da, eta asmoa ez zen inoiz zure kontrolek detektatu zuten gauza. Efektuak detektatzen dituzte. Beti detektatu dituzte.
Horregatik ere aldatu zen industriaren hiztegia. OWASP-en 2026ko 10 onenak LLM eskaeretarako gehiegizko agentzia seigarren postutik hirugarrenera sustatu zuen, eta hori ez da iritzi aldaketa bat baino gehiago, jada zabalduta zegoen arkitektura batekin bat datorren gertakarien erregistroa.
Aurpegi Besarkatuaren gertakariak benetan erakusten duena
Uztaileko gertakaria, non mugako modelo batek hirugarren bati eraso egin zion, modelo baten bidegabekeriari buruzko istorio gisa irakurri zen. Luisek beste era batera irakurtzen du, eta bere bertsioak erantzukizuna leku deseroso batean kokatzen du.
«Arazoa ez da mugako eredua. Mugako ereduak agindutakoa egin zuen. Arazoa esperimentuaren diseinua da.»
Helburua mugarik gabekoa zen. Murrizketak ez zeuden. Eta hura edukitzeko pentsatutako sandboxak interneterako leiho bat zuen, agenteak irits zezakeen paketeen cachean zerbitzariaren aldeko eskaera faltsutzearen ahultasun baten bidez. Horietako bakoitza diseinu baten araberakoa da.cispertsona batek egindako ioia.
Horrek gauza hauek nola hornitzen dituzun aldatu beharko lukeen esaldia sortzen du:
"Mugako ereduak malware balira bezala aztertu behar dira, modu autonomoan jardun eta ekintzak har ditzaketelako."cisGaiztoak diren ioiak. Ez nahita, baina benetan gaiztoak dira azkenean.”
Ez ereduaren aurkako irain gisa. Hornidura-jarrera gisa. Ez diozu malwareari bash shell bat ematen eta helburua ondo zehaztuta egotea espero.
Pedrok gertakari beraren irakurketa diseinuari baino gehiago denborari buruzkoa izan zen:
«Erabili behar ez luketen zerbitzu batean agenteak karpeta-izenekin komunikatzen ikusten dituzun unean bertan, une horretan agente horiek gelditu beharko dituzu. Ez duzu agente horiek Hugging Face arrakastaz hausten duten arte itxaron beharrik hori gaiztoa den ala ez erabakitzeko».
Erantzunaren xehetasun bat ere gordetzeko modukoa da. Erantzuleek tresna komertzial bat erabiltzen saiatu ziren arrastoak aztertzeko, baina ezin izan zuten, abiadura-mugak jo baitzituzten. Erasotzaileak ez zuen halako mugarik. «Asimetria bat zegoen erasoan bertan».
Benetako argudioa: agentea mugatu, ala azkarrago berreskuratu?
Hemen zatitu da panela, eta benetako desadostasuna dago bakoitzak bere posizioa irabazi duen profesionalen artean.
Pedrok deskonposizioaren alde egiten du. Hamabost urtez nabigatzailearen barruan isolamendua bultzatzeak irakatsi zion ezin dela ezer exekuzio-garaian monolito baten aurka behartu. Arkitektura funtzio espezifikoekin zati txikitan banatu, eta orduan bakarrik izango dute kontrolek eta monitorizazio-puntuek konektatzeko lekurik. Agenteak ez dira salbuespenak.
«Uste dut agente oso espezifikoetan banatu behar dela, zeregin espezifikoetarako soilik pentsatuta daudenak. Eta ez du axola berrogeita hamar agenterekin amaitzen baduzu. Hobe da bakarra izatea baino».
Jackek kontrakoa argudiatzen du, kodetze-agenteentzat bereziki. Kriptografia-truke arautu batean atzeko planoan exekutatzen ari den teknologia batek gelako posizio murriztaileena sortzea espero zenuke. Gutxien sortu zuen.
Bere hasierako analogia ez da inola ere mehatxu eredu bat:
«Agente-enplegu tipiko bat aztertzen ari naiz, kontratazio berri bat, sartzen ari den pertsona berri bat, aztertuko nukeen bezala. Eta pertsona horrek akatsik gabe jokatu dezake exekuzioan, edo akats bat egin dezake. Ez dut alde handirik ikusten».
Agente estuentzat beste edozein bezain zorrotza da. Gaur egun eraikitzen ari den irakurketa-bakarrik berrikusteko agente bat deskribatzean, argi eta garbi esan zuen ohiko konfigurazioa defendaezina dela: bash sarbidea duen Linux makina arrunt batean zabaltzeak "mehatxuen ekosistema osoa irekitzen ari da". Baina kodetze-agente orokorrentzat logika alderantzikatzen da, eta badaki posizioa ez dela ezaguna:
«Zenbat eta botere gehiago izan agenteari, orduan eta sortzaileagoa eta eraginkorragoa da. Beraz, ez da industria mugak eta irismena murriztea direla eta hazten ari dena».
Beraz, zer geratzen da mugarik ez baduzu? Zirkuitu-hausleak, eta batez ere denboran oinarritutako argazkiak: eztanda-erradioa eragotzi gabe, baina bertatik berreskuratzea merkea eta azkarra eginez. Hori txertatzen du Amber, bere denbora librean idazten duen menpekotasunik gabeko C++ agente-arnesa, begiztan snapshot-ak eginez (proiektuaren gunea).
Eta beste bidea non amaitzen den abisua:
«Kendu egiten hasten bagara, tresna bakarra geratuko da, eta garatzaile horrek argiak piztu eta itzali ahal izango ditu».
Luisek hirugarren postua lortu du, hau da, ez mugatzea ez berreskuratzea, baizik eta behetik edukitzea: suposatu agenteak azkenean malware baten antzera jokatuko duela, diseinatu arnesa agente espezializatu bakoitza mugatzeko eta jarri horren guztiaren azpian betearazpen geruza bat, gaineko guztiak huts egiten duenean balio duena.
Arazo berari hiru ikuspegi
Hiru posizio, bakoitza kostu batekin. Bat ere ez da doakoa, eta batek ere ez du agentea bere kabuz seguru bihurtzen.
| Hurbilketa | Mugimendu nagusia | Zenbat kostatzen zaizun |
|---|---|---|
| DeskonposatuPedro Fortuna | Agente txiki asko, bakoitza baimen estuak dituena, gehi exekuzio-denboraren monitorizazioa, goiz gelditzen dituena. | Diseinu ahalegina hasieratik, eta zailagoa kodetze lan irekiarekin |
| BerreskuratuJack Trefon | Mantendu gaitasuna, gehitu etengailuak eta denboran oinarritutako argazkiak, atzera egitea merkea izan dadin. | Leherketa-erradio zabalagoa, eta garaiz detektatu eta desegiteko apustua |
| Behetik eduki.Luis Rodríguez Berzosa | Demagun malwarearen portaera, mugatu arneseko agente bakoitza, eta betearazi haren azpian lan-estazioan eta CI exekutatzailean. | Amaierako puntu gehienek oraindik eskaintzen ez dituzten azpiegiturak eta tresnak |
Bata bestearen ondoan irakurrita, desadostasuna dirudiena baino estuagoa da. Hirurek onartzen dute agenteak nahi gabeko zerbait egingo duela. Ez dute bat egiten dirua nora doan: gertatu aurretik arkitekturara, gertatu ondoren berreskuratzera edo bien azpiko solairu batera.
Zergatik ez da pribilegio txikiena agenteen IA arrisku bihurtzen
Pribilegio txikienak lana ezagutzen duzula suposatzen du. Zereginaren baimenaren esparrua zehazten duzu.
Agente batek hori isilik hausten du, bere baimen-muga konfigurazio-garaian marrazten baita eta bere zeregina exekuzio-garaian iristen baita. Egia esan, ematen diozuna eska dakiokeen guztiaren batasuna da. Hori ez da pribilegio txikiena; kontrakoa da, pribilegio txikienaren arropak janztea.
Luisek ideia hau baino zaharrago batetik hartutako birformulazio bat eskaini zuen:
«UNIXen hodien mekanismoa pentsatzen dut, tresna sinpleak elkarrekin lotzen dituena zeregin konplexu bat egiteko. Agente espezifikoak defini ditzakezu konfigurazio kontrolatu batekin, agente espezializatu horrek egin dezakeena mugatuz. Eta ia edozein zereginetarako konbina ditzakezu».
Gainera, talde gehienek probatu ez duten bigarren diseinu ideia bat: tresnak bildu, baimenak zabaldu beharrean. Ez bash, sistema osoa eskualdatzen duena, baizik eta bide deigarri bakarra den bilgarri estu bat, irakurtzeko soilik diren aldaerak generikoak biltzen dituena. Agenteak gaitasun bat lortzen du, ez shell bat.
Argi utzi zuen, halaber, oztopoa ez dela diseinua; hedapena baizik. Garatzaile-makinetako kontrol berriek aspalditik dute saihesteko lana, eta historia hori ez da aldatzen, tresna hori agente bat delako.
Eta dena non amaitzen den uste duenari buruz:
«Uste dut azkenean agente autonomoak beste agente autonomo batzuk kontrolatzen izango ditugula».
Ordenagailu eramangarria harribitxi bihurtu zen, eta zure EDRak ez du ohartu
Agente batek sarbide iraunkorra behar du erabilgarria izateko. Zereginaren erdian iraungitzen ez den token bat, cachean gordetako kredentzial bat, push eskubideak, erregistroko sarbidea, bide aktiboa... pipelineHorietako bakoitza eskakizun bat da, ez hutsegite bat, eta horrek esan nahi du zenbat eta tresna hobeak izan, orduan eta kontzentratuagoa bihurtu zela garatzaile-makina.
Erasotzaileek lehenengo ohartu ziren. Pedrok esan zuen bezala, ez dira ideologoak:
«Enpresa txikiak bezala antolatzen dira. Dirua irabazi behar dute, beraz, aurki dezaketen angelurik errentagarrienera jotzen dute. Eta azkar ikusi zuten garapen-estazioetan dirua irabazteko zegoela».
Aldaketa hori erregistroetan lurreratzen ikusten dugu astero Kode Gaiztoaren Laburpena, non kredentzial-biltzaileek orain ohikoa den IA hornitzaileen giltzak bilatzea hodeiko eta erregistrokoekin batera.
Bere arintze-zerrenda ez da batere erakargarria eta funtzionatzen du: kendu makinan egon behar ez diren giltza guztiak, geratzen direnak bigarren faktore batekin parekatu, hala nola OpenID Connect edo hardware giltza batekin, lapurtutako token bat bere kabuz nahikoa ez izan dadin, eta mugitu ingurunea ostalariaren kanpoaldean ahal duzun tokian, garapen-ontzien edo hodeiko IDEen bidez.
Orduan, Luisek puntu bat aipatu zuen, eta horrek kezkatu beharko luke edonor, haien amaiera-puntuko pilak hau estaltzen duela suposatuz gero:
«EDRak malware tradizionalean espezializatuta daude eta ez dituzte agenteen tresnak ezagutzen. Eta funtzionatzen badute, positibo faltsu asko sor ditzakete, agenteak detekzio-ereduek gaur egun ezagutzen ez dituzten gauzak egiten dituelako».
Bi hutsegite modu aldi berean: garrantzitsua dena galtzen du eta ez dena markatzen du. Bere erantzuna kanpoko betearazpen geruza hori da, garatzaileen lan-estazioa eta CI exekutatzailearen inguruan kokatua, arnesaren azpian, agente gaizto batek irits daitekeena mugatzen duena. Hori da hutsunea. Xigenoa Shield eraiki zen, instalazioa benetan gertatzen den endpoint-ean politika ezarriz.
Jackek argiago esan zuen: ez gorde zure Bitcoin-ak zure garatzaile-makinan.
Hirurek ados egon ziren
Hiru erantzun desberdin, gutxienez partekatu bat.
- Inbentarioa lehenik. «Ezin duzu babestu ezagutzen ez duzuna». Beste guztiakcisioia zein agente, trebetasun eta MCP zerbitzari dauden jakitearen mende dago, eta ia bat ere ez zen deklaratu.
- Ekintza guztiak erregistratu. Jack eta Luis kontrako norabideetatik iritsi dira hona. Jackek arrastoak nahi ditu, horiek direlako suspertzeko eta erakunde bat heltzeko modua. Luisek nahi ditu, horiek gabe ezin baita leherketa-erradioa gero berreraiki. Jacken markoa maileguan hartzeko modukoa da: ez du balio aktorea, gizakia edo agentea, galdekatzeak, testuingurua nahikoa ondo ulertzeak baizik, errepikatu ez dadin.
- Agente bat geldiarazten duen gauza agentearen kanpoan egon behar da. Pedroren exekuzio-denboraren monitorizazioa, Luisen betearazpen-geruza, Jacken etengailuak eta argazkiak. Mekanismo desberdinak, printzipio bakarra.
Jackek industriaren bilakaeraren ikuspegi baliagarria eskaini zuen. Gogoratzen du jaso zuen lehen spam mezu elektronikoa, Nigerian urre meategi bat heredatu zuela esaten ziona. Heldutasun arazoa da hau, eta heldutasuna akatsen aurretik baino, ondoren iristen da.
Zer egin ostirala baino lehen
Aukeratu agente bat. Idatzi bi zerrenda: zer egin dezakeen eta zer eskatu zaion benetan aste honetan egiteko.
Zerrenda horien arteko aldea zure leherketa-erradioa da, eta zure taldeak arratsalde batean sor dezakeen IA agentearen arriskuaren neurririk erabilgarriena da. Arratsalde bat behar du, ez du aurrekonturik behar, eta goiko eztabaida zure erakundearentzat konpontzen du, hiru posizioak benetan hiru erantzun desberdin baitira alde hori zenbaterainokoa izan behar den galderari.
Talde gehienek ez dute inoiz idatzi.
The ordu osoa atzera ikusteko aukera dago, Jackek Europako gizakien parte-hartze eskakizunek zergatik egiten dituzten IA defentsa batzuk praktikan bideraezinak azaltzeko azaltzen duen puntua barne.
Eta ariketa egiten baducise-k gustuko ez duzun erantzun bat itzultzen du, Xigenoa Ezagutu zure biltegietako IA aktibo guztiak, inork deklaratu ez dituen agenteak, trebetasunak eta MCP zerbitzariak barne, eta bakoitzak zer lor dezakeen mapatzen du. Erreserba ezazu demo bat or doan hasi, eta zurean exekutatuko dugu.
ohiko galderak
Zein da IA agente baten leherketa-erradioa?
Agenteak gaizki ateratzen bada eskura dezakeen guztia, egiteko eskatu zitzaionaz aparte. Exekuzio-garaian eskuragarri dituen baimenek, kredentzialek eta tresnek definitzen dute, ez zereginak. Bi horien arteko aldea da neurtzeko modukoa, eta talde gehienek ez dute inoiz idatzi.
Segurtasun-intzidentea al da agente batek bere zeregina gainditzen badu, bere baimenak inoiz gainditu ez baditu?
Hori izan zen desadostasun nagusia. Pedroren erantzuna baiezkoa da, erasotzaile bat helburuen dibergentziagatik definitzen baita, eta ez gaiztakeriagatik, eta gaizki lerrokatutako agente bat dibergitu egin da. Jacken erantzuna ezezkoaren antzekoagoa da: langile berri baten akatsa bezalako akats operatibo bat da, eta erantzun zuzena jarraipena eta berreskurapena da, murrizketa zorrotzagoak baino. Luisek galdera saihesten du hasieratik kasurik txarrena suposatuz eta galdetuz zein geruza den oraindik baliozkoa gertatzen denean.
Kodetze-agenteak sandboxean sartu behar al dira?
Zeregin zehatzetarako agente estuentzat, hirurek baiezkoa eman zuten zalantzarik gabe: irakurtzeko soilik ahal den guztietan, bash gabe, sarerik gabe beharrezkoa ez bada. Kodetze orokorreko agenteentzat, panela hiru eratara banatu zen: Pedrok deskonposatuko zituen, Jackek gaitasuna eta snapshot-a modu oldarkorrean mantenduko zituen, eta Luisek betearazpen geruza bat gehituko zuen arnesaren azpian, agenteak zer egin dezakeen kontuan hartu gabe.
Nire EDR-ak agenteen IA arriskua estaltzen al du?
Seguruenik ez ondo. Gaur egungo amaierako tresnak malware eredu tradizionaletan oinarritzen dira eta ez dute agenteen portaera modelatzen, beraz, garrantzitsua dena galtzen dute eta ez dena markatzen dute. Luisen erantzuna garatzaile inguruneetarako diseinatutako kanpoko betearazpen geruza bat izan zen, helburu orokorreko EDR baten ordez.
Zein da egin beharreko lehenengo gauza bakarra?
Eraiki inbentarioa. Zure biltegietako modelo, agente, trebetasun eta MCP zerbitzari guztiak, eta bakoitzak zer lor dezakeen. Hiru panelkideek izendatu duten urrats bakarra da, eta gainerako kontrol guztiak menpe dauden bakarra.







