Agenteen arnesen ingeniaritza

Agenteen arnesen ingeniaritza: eredua ez da eraso-azalera, arnesa baizik.

TL;DR: agenteen aprobetxamenduaren ingeniaritza eta bere eraso-azalera ezkutua

Agenteen ainguratze-ingeniaritza IA eredu baten inguruan (argibideak, tresnak, baimenak, memoria eta feedback begiztak) dena eraikitzeko praktika da, agente funtzional bihurtzen duena. Arnes horretan dago benetako segurtasun arrisku gehiena, ez ereduan.

  • Aldaketa: Taldeek doikuntza-gonbitak egiteari utzi eta arnesak diseinatzen hasi ziren. Agente = modeloa + arnesa.
  • Arazoa: arnesa testu arrunteko fitxategietan dago (arauak, trebetasunak, MCP konfigurazioak), eta dokumentazio gisa berrikusten dira, baldin badaude.
  • Frogak: Rules File Backdoor-ek eta benetako MCP CVE-ek erasotzaileek dagoeneko helburu dutela erakusten dute.
  • Konponbidea: Hartu arnesa kode gisa. Egin inbentariatua, berrikusi eta eskaneatu bidali aurretik.

Adimen artifizialari buruzko segurtasun-elkarrizketa guztiek azkenean ereduari buruz amaitzen dute. Jailbreak egin al daiteke? Haluzinazioak izango al ditu? Hornitzailea gure datuekin trebatzen ari al da?

Galdera egokiak. Baina gero eta gehiago dira okerrak. IA agente batek ekoizpen-taula bat ezabatzen duenean, atzeko ate bat irekitzen duenean edo bezero-zerrenda bat ezezagun bati posta elektronikoz bidaltzen dionean, gutxitan da eredua huts egin duena. Ereduak bere arnesak egiteko aukera ematen zion guztia egin zuen.

Agente = modelo + arnesa

Azken urtean, industriak isilean aldatu zuen IArekin eraikitzearen esanahia. Ingeniaritza azkarrak testuinguru-ingeniaritzari eman zion bide, eta testuinguru-ingeniaritzak zerbait handiago bati eman zion bide: agenteen arnesen ingeniaritza.

Ideia sinplea da. Bere kabuz eredu bat eskurik gabeko arrazoiketa-motor bat da. Arnesa eskuak eta lana ematen dion guztia da: jarraitzen dituen argibideak, dei ditzakeen tresnak, dituen baimenak, gordetzen duen memoria eta bere akatsak detektatzen dituzten egiaztapenak. Martin Fowlerren webgunea aprobetxamendu-ingeniaritza deskribatzen du kodetze-agenteen erabiltzaileek agenteak fidagarriak izan daitezen egiten duten lana bezala, eta aurten argitaratutako esparru akademikoa Arnesa hamaika erantzukizunetan banatzen du, tresnetarako sarbidea eta proiektuaren memoriatik hasi eta baimenetara eta egiaztapenera arte.

Emaitzak benetakoak dira. Agenteen arnesen ingeniaritza praktikatzen duten taldeek jakinarazi dute arnesa bakarrik aldatzeak, azpian eredu bera izanik, agente baten emaitzak izugarri alda ditzakeela. Horrek puntu deseroso bat sortzen du segurtasuneko edonorentzat: arnesak erabakitzen badu agenteak nola jokatzen duen, arnesak erabakitzen du nola gaizki erabil daitekeen. 

Hartu mendekotasun bat instalatzea bezain ohiko zerbait. Garatzaile batek paketearen izena egiaztatzeko pausatzen da. Tresna egokia duen agente batek komandoa exekutatzen du, eta paketea gaiztoa bada, ereduan ez dago ezer geldituko denik. Horixe da, hain zuzen ere, SafeDev Talks-en atal honetan aztertzen duguna: Zer aldatzen da IA ​​agenteek mendekotasunak instalatzen dituztenean beren kabuz, eta zergatik agenteen arnesen ingeniaritza isilean hornidura-kateko arazo bihurtu den.

Nolakoa da agenteen arnesen ingeniaritza biltegi batean

Ireki biltegi bat non garatzaileek AI agenteak erabiltzen dituzten eta arnesa bertan dagoen, ziurrenik inoiz eskaneatu ez dituzun fitxategietan:

  • Arauak eta argibide fitxategiak (AGENTS.md, .cursorrules, Kopilotu argibideak) agenteari nola jokatu behar duen esaten diotenak.
  • Trebetasun fitxategiak agenteak eskaeraren arabera kargatzen dituen berrerabilgarritasun-gaitasunen pakete hori.
  • MCP zerbitzariaren konfigurazioak agentea tresnetara, datu-baseetara eta APIetara konektatzen dutenak.
  • Sistemaren gonbidapenak eta gonbidapen txantiloiak aplikazioaren kodean txertatuta.
  • Agentearen kableatzea: zein tresna irits daitezkeen agente batek, zein datu berreskura ditzakeen eta tartean babes-hesirik dagoen ala ez.

Dena testu arrunta da. Dena da commitkodearekin batera tekatuta. Eta guztia dokumentazioa berrikusten den bezala berrikusten da: begirada azkar bat, onarpen bat, batuketa bat. Hala ere, fitxategi horietako bakoitzak isilean berridatzi dezake agente bati egiteko agindua ematen zaiona eta ukitzeko baimena duena.

Hori da agenteen arnesen ingeniaritzaren benetako ondorioa: zure softwarearen konfigurazio indartsuena da orain gutxien berrikusten dena.

Erasotzaileak jada ohartu dira

Hau ez da kezka teoriko bat. Arnesak gertakarien historia laburra baina esanguratsua du.

  • Arauen Fitxategiaren Atzeko Atea. 2025eko martxoan, ikertzaileek eraso bat aurkitu zuten, non arau-fitxategi baten barruan ezkutatutako Unicode karaktereek IA kodeketa-laguntzaileei atzeko atean sartutako kodea txertatzeko agindua eman zieten, haien erantzun ikusgaian aipatu gabe. Fitxategia irakurri zuen berrikusle batek ez zuen ezer ezohikorik ikusi. Orain honela katalogatuta dago: MITRE ATLAS kasu-azterketa AML.CS0041.
  • MCP tresna pozoituak. 2025era arte, ikertzaileek behin eta berriz erakutsi zuten agenteek tresnen deskribapenetan inplizituki fidatzen direla, beraz, MCP zerbitzari gaizto batek agente bat gidatu dezake bere burua modu egokian deskribatuz. Urte berean, CVE-2025-6514 Asko deskargatutako MCP bezero batek urruneko komandoak exekutatzea ahalbidetzen zuen fidagarria ez zen zerbitzari batera konektatzean, CVSS-n 9.6ko balorazioa lortuz.
  • Gehiegizko agentzia. The OWASP LLM aplikazioetarako 10 onenak gehiegizko agentzia arrisku nagusitzat zerrendatzen du: agenteei zereginak behar duena baino tresna, baimen edo autonomia gehiago ematen zaie. Hori ez da ereduaren akats bat. Arnesen diseinuaren akats bat da.cisioi.

Erreparatu ereduari. Eraso hauek ez dute modeloa apurtzen. Arnesa apurtzen dute, eta modeloak gainerakoa leialki egiten du.

Zergatik ez duen zure segurtasun-pilaketak ikusten

Hona hemen zatirik deserosoena. Erakunde gehienek AppSec tresna onak erabiltzen dituzte dagoeneko, eta ia ezer ez da geruza honetarako eraiki.

Analisi estatikoak kodea ulertzen du, baina ez daki zer den modelo bat edo zergatik den garrantzitsua sistemaren gonbidapen batera sartzen den testu ez-fidagarria. Konposizio-analisiak paketeak inbentariatzen ditu, baina ez ditu MCP zerbitzariak edo trebetasun-fitxategiak zenbatzen. Eskaner sekretuek agenteen konfigurazio-fitxategi batean dagoen API gako bat gal dezakete. Tresna horietako bat ere ez da akastuna. Konfigurazioak agindurik ematen ez zuen mundu baterako eraiki ziren, besterik gabe.

Beraz, agenteen arnesen ingeniaritza azkar mugitzen da, eta segurtasunak ikus dezakeen zatia berrikusten du: eredua eta kodea. Arnesa bien artean dago.

Bost ohitura arnesa ondo lotzeko

Segurtasun-agenteen arnesen ingeniaritzak ez du talde berririk behar. Arnesa den bezala tratatzen duten ohitura batzuk behar ditu: exekutatzeko asmoa.

OhituraZergatik da garrantzitsua?Zer egin
1. Arnes guztien inbentariatua eginEzin dituzu inork deklaratu ez dituen agenteak ziurtatu.Bilatu modelo, agente, MCP zerbitzari, trebetasun eta gonbidapen guztiak zure biltegietan, kode eta konfigurazio fitxategietatik bertatik, inkesta batetik baino.
2. Berrikusi arnes fitxategiak kodea bezalaArauek, trebetasunek eta MCP konfigurazioek agente batek egiten duena berridatzi dezakete, baina dokumentazioa bezala berrikusten dira.Eman iezaiezu gauza bera. pull request aplikazio logika gisa azterketa, karaktere ezkutuen egiaztapenak barne.
3. Agenteak kargatzen duena finkatuEtiketa aldakor batek erreferentziatzen duen gonbita edo eredu bat kodea aldatu gabe berriro zuzendu daiteke.Itsatsi gonbidapenak eta ereduak aldaezin diren bertsioetara.
4. Jarri babes-baranda bat konketa guztietanBerreskuratutako dokumentuek, tresnen irteerak eta erabiltzailearen edukiak injektatutako argibideak eraman ditzakete modelora.Jarri babes-baranda bat edukia modelora irits daitekeen bidean.
5. Mantendu kredentzialak arnesaren eraginpean ez daudenakGonbidapen-fitxategietan eta agenteen konfigurazioetan dauden IA hornitzaileen gakoak erasotzaile batentzat garaipen erraza dira.Kendu itzazu eta jarraitu arnes fitxategiak eskaneatzen sekretuen bila. Konponketa erraza da.

Arnesa lotzea, ez bakarrik modeloa

Xygeni AI Segurtasuna agenteen arnesen ingeniaritzak bere aztarna uzten duen tokian hasten da: zure biltegietan. Zure kode-basean zehar dauden IA aktiboak aurkitzen ditu (ereduak, agenteak, MCP zerbitzariak, trebetasunak, galderak, guardrails, eta erabiltzen diren IA kodetze tresnak) tresna horiek atzean uzten dituzten kodetik, menpekotasunetatik eta konfigurazio fitxategietatik.

Ondoren, trebetasun fitxategiak, arau fitxategiak eta MCP konfigurazioak segurtasun-artefaktu gisa aztertzen ditu, ez dokumentazio gisa, eta agenteen kableatuetan gonbidapen-injekzio-klaseko arriskuak detektatzen ditu, hala nola sistemaren gonbidapen batera iristen den fidagarria ez den edukia edo babes-hesirik gabeko berreskuratze-hustubide batera. Xygeniren sekretuen eskaneatzeak AI hornitzailearen kredentzialak markatzen ditu gonbidapenetan eta agenteen konfigurazio-fitxategietan, eta zure AI pilaren menpekotasunek beste guztiak bezala malware detekzio bera jasotzen dute, sinadura bat egon aurretik.

ohiko galderak

Zer da agenteen arnesen ingeniaritza?

Agenteen arnesen ingeniaritza IA eredu baten inguruan ingurunea (argibideak, tresnak, baimenak, memoria, testuingurua eta egiaztapen-begiztak) diseinatzeko diziplina da, agente fidagarri gisa joka dezan. Ereduak arrazoibidea ematen du; arnesak agenteak zer ikusi eta egin dezakeen erabakitzen du.

Zertan da desberdina agenteen aprobetxamenduaren ingeniaritza prompt ingeniaritzatik?

Prompt ingeniaritzak instrukzio bakarra moldatzen du. Agenteen arnesen ingeniaritzak agenteak funtzionatzen duen sistema osoa moldatzen du, urrats, tresna eta saio askotan zehar. Prompt bat arnesaren fitxategi bat da.

Zergatik da arnesa segurtasun arrisku bat?

Agente batek zer egin dezakeen kontrolatzen duelako, eta segurtasun-artefaktu gisa gutxitan berrikusten diren testu arrunteko fitxategietan bizi delako. Arau-fitxategi bat edo MCP konfigurazio bat arriskuan jarri eta agentea kontrolatzen duzu, eredua ukitu gabe.

Nork izan beharko luke agenteen segurtasun-arnesaren jabea?

Aplikazioen segurtasuna, agenteak eraikitzen eta konfiguratzen dituzten ingeniariekin lanean. Arnesa bidaltzen duzun softwarearen parte da, beraz, zure kodearen gainerakoa bezala berrikuspen, eskaneatze eta inbentario prozesu berdinetan sartu behar da.

sca-tools-software-konposizio-analisi-tresnak
Lehentasuna eman, konpondu eta babestu zure software arriskuak
Lortu zure doako kontua.
Ez da beharrezkoa kreditu txartelik.

Ziurtatu zure softwarearen garapena eta entrega

Xygeni produktu multzoarekin