IA agenteen segurtasuna ez da gehiago modelo batek esaten duena. Agente batek egiten duena da: deitzen dituen tresnak, irakurtzen dituen datuak, dituen kredentzialak eta bere kabuz instalatzen dituen paketeak.
Eta talde gehienek ezin diote lehenengo galderari erantzun: zein agente ari gara exekutatzen benetan? LangChain grafiko, MCP zerbitzari eta biltegietan bizi dira. SKILL.md fitxategiak eta garatzaile indibidualak ostiral arratsalde batean konfiguratu zituzten IA kodeketa tresnak. Inork ez zituen berrikusi, eta trebetasun gaiztoa testu arrunta besterik ez da.
TL; DR
IA agenteen segurtasuna lau urratsetan: ikusi, puntuatu, begizta ziurtatu, instalazioak babestu
Ezin dituzu ikusten ez dituzun agenteak babestu. IA agenteen segurtasuna zure kodean dauden agente, MCP zerbitzari, trebetasun, modelo eta IA kodeketa tresna guztien inbentario batekin hasten da.
- Agenteak eraikitzeko moduan dagoen arriskua: erabiltzailearen sarrera kateatzen duten gonbidapenak, tresna-dei egiten duten agenteak ez dituztenak guardrails, kredentzial eta trebetasun gehiegi pribilegiatuak argibide ezkutuekin. Gehiena kodean ikusgai dago, zabaldu aurretik, eta mapatzen da OWASP-en 10 aplikazio agenteen artean onenak.
- Segurtasuna begiztaren barruan: Kodetze-agenteek segurtasuna behar dute beren begiztaren barruan, beraz, idazten dutena eskaneatu eta konpontzen dute argitaratu aurretik commitTed, ez aste batzuk geroago txartel batean.
- Babestu instalazioak: agenteek mendekotasunak ere instalatzen dituzte. Sinadura bat existitu aurretik funtzionatzen duen malware detekzioak pakete gaiztoak estaltzen ditu, instalatzen dituen edonor izan, garatzaile bat edo agente bat.
- Lan-fluxu bat: IA aurkikuntzak AppSec aurkikuntza gainerakoen sailkapen, txartel eta txosten berberetatik igarotzen dira.
Lehen urratsa: Sortu zure biltegietako AIaren inbentario bat, esportatu AI-BOM gisa, eta gero sartu agente-kode berria CI-n.
Zergatik den IA agenteen segurtasuna arazo desberdina
LLM funtzio batek testua itzultzen du, eta gizaki batek erabakitzen du zer egin harekin. Agente batek bere kabuz ixten du begizta hori: planifikatzen du, tresnak deitzen ditu, web orriak, mezu elektronikoak eta dokumentuak irakurtzen ditu, fitxategiak idazten ditu eta komandoak exekutatzen ditu. Agente bati ematen diozun gaitasun bakoitza erasotzaile batek maileguan har dezakeen gaitasuna da.
OWASPek bereizketa bera egin zuen. OWASP Top 10 Agentzia Aplikazioetarako 2026an (ASI01etik ASI10era) oinarritzen da OWASP LLM aplikazioetarako 10 onenakLLM zerrendak modelo batek esaten duena jasotzen du; agenteen zerrendak agente batek egiten duena.
Gaur egun, erakunde gehienek bi agente mota erabiltzen dituzte:
- Zure aplikazioetan integratzen dituzun agenteak: laguntza-laguntzaileak, barneko kopilotuak eta LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel edo LlamaIndex bezalako framework-ekin eraikitako lan-fluxuak, askotan tresnen bidez konektatuta MCP zerbitzariak.
- Zure garatzaileek erabiltzen dituzten IA kodetze-agenteak: Claude Code, Cursor, GitHub Copilot, Windsurf eta beste batzuk, kodea idazten, konfigurazioa editatzen eta mendekotasunak gehitzen dituztenak.
IA agenteen segurtasunak biak estali behar ditu, biek zure baimenekin jokatzen baitute.
1. urratsa: agente, MCP zerbitzari eta trebetasun guztien inbentarioa egin
IA agenteen segurtasuna galdera-taula batekin hasten da, eta auditoreek orain galdetzen dute: zein IA ari gara exekutatzen? Xygeni AI Segurtasuna iturburu-kodetik erantzuten dio: kodea, konfigurazioa, manifestuak eta mendekotasunak.
Modeloak, agenteak eta agente zerbitzariak, IA esparruak, MCP zerbitzariak eta haien tresnak, trebetasunak (SKILL.md, AGENTS.md), galderak, guardrails, bektore-biltegiak, datu-multzoak, inferentzia-amaiera-puntuak eta zure biltegietan konfiguratutako IA kodeketa-tresnak. Gainera, nola konektatzen diren mapatzen du: zein agentek erabiltzen duen zein eredu, zein tresna exekutatzen dituen eta zein MCP zerbitzari deitzen dituen.
Emaitza AI inbentario bizia da, CycloneDX formatuan AI-BOM gisa esporta daitekeena, aktibo bakoitzeko gobernantza-erregistro batekin, EBko AI Legearen arrisku-kategoria eremu bat barne hartzen duena.
Ikusi nahi duzu zer IA dagoen dagoeneko zure kodean? Erreserbatu saio bat ingeniari batekin, eta zure biltegietako baten IA inbentarioa eraikiko dugu.
2. urratsa: agenteak nola eraikitzen diren arriskuak antzeman
Agenteen ahultasun gehienak ez dira exotikoak. Kate bidezko loturaz sortutako gonbita bat dira, sarrera-babesik gabeko tresna-dei bat duen agente bat edo agenteak behar duena baino askoz ere irismen handiagoa duen kredentzial bat. Horiek guztiek hatz-markak uzten dituzte kodean, beraz, CI-an harrapatu ditzakezu, hedapena egin aurretik.
Kodean harrapatzeko moduko IA agenteen arriskuak
Arrisku bakoitza honako hauei lotzen zaie: OWASP LLM aplikazioetarako 10 onenak edo bere agente lagunek, beraz, aurkikuntzek zure entzuleen hizkuntza bera hitz egiten dute.
| Arriskuen | Kodean nolakoa den | OWASP mapaketa |
|---|---|---|
| Injekzio azkarra | Erabiltzailearen edukia rol bereizketarik, mugatzailerik edo bestelakorik gabe kateatzen duten sistemaren galderak guardrails | LLM01 |
| Zeharkako injekzioa | Tresna-deiak egiten dituzten agenteak inolako ekarpenik gabe guardrails, edo web orriak, mezu elektronikoak edo berreskuratutako dokumentuak garbitu gabe irensten dituzten agenteak | LLM01 |
| Irteera-kudeaketa ez-segurua | Ereduaren irteera iristen eval edo beste hustubide arriskutsu batzuk, funtzio eta fitxategietan zehar jarraituak | LLM05 |
| Gehiegizko pribilegiodun agenteen identitateakGizaki ez diren nortasun-abusuak | Kredentzial estatiko iraunkorrak, esparrua murriztu gabe partekatutako kredentzialak, pribilegio altuagoekin exekutatzen diren MCP edo tresna zerbitzariak | ASI03 |
| Trebetasun gaiztoak edo ortografia okerrakAgenteen trebetasunen hornidura-katea | Ezkutuko zuzentarau gaiztoak SKILL.md or AGENTS.md, trebetasun edo integrazio ezagunak imitatzen dituzten trebetasun izenak | Agentzia Trebetasunen 10 Onenak |
| Sekretuak gonbitetan | Kredentzialak gonbita-fitxategietan gordeta | LLM07 |
Aurkikuntza bakoitzak bere OWASP LLM Top 10 kategoria darama, gehi OWASP Agentic Applications eta Agentic Skills etiketak aplikatzen direnean, eta inplikatutako talde gorriaren eraso bektoreak.
Trebetasunek arreta berezia merezi dute, trebetasun-fitxategi bateko instrukzio gaiztoa prosa baita, ez kodea, eta inongo sinadurak ezin baitu ikusi. AI bidezko berrikuspen batek trebetasun eta agenteen instrukzio-fitxategien asmoa epaitzen du konfigurazio determinista eta bertsiodun batekin, fitxategi berak beti epaia jasotzen baitu. Zure auto-ostatutako ereduan exekutatu daiteke, beraz, kodeak eta gonbidapenak ez dira zure ingurunetik irten behar. Trebetasun-mailaren puntuazio batek seinale horiek erantzun bakarrean fusionatzen ditu: segurua, kontuz edo ez instalatu.
Joan sakonagoa: ikusi gure saioa Eztanda-erradioa: agenteak eskatu ez zenuena ukitzen duenean, agente baten baimenak bere zeregina baino haratago iristen direnean gertatzen denari buruz.
3. urratsa: jarri segurtasuna kodeketa-agentearen begiztaren barruan
IA kodetze agenteek idazten dute eta commit kodea inork berrikusi dezakeen baino azkarrago. Bi aste geroago txartel batean iristen den aurkikuntza gutxitan konpontzen da. Konponketa agentea lanean ari den bitartean egin behar da.
Xygeni MCP zerbitzaria lokalki exekutatzen da eta MCP onartzen duen edozein AI kodeketa agenterekin funtzionatzen du, exekutatzen den modeloa edozein dela ere. Agenteak idatzi berri duen kodea eskaneatu dezake, arazo berriak zerrendatu, AI Triage epaiak lortu eta konponketak eska ditzake. SAST SCA aurkikuntzak. Aldaketa garbia izan arte iteratatzen da, ezer egin aurretik committed, zure taldeak ezarritako onarpenekin.
Zure motor, politika eta isilarazteko arau berdinak erabiltzen ditu pipeline, beraz, agentea eta zure CI-a ez dira inoiz ados egongo. Agentearekin batera lan egiten duten garatzaileentzat, IDE pluginak ekarri aurkikuntza eta konponketa berdinak editorera.
4. urratsa: agenteek instalatzen dutena babestu
Adimen artifizialaren kodeketa-agente batek bere kabuz gehi dezake menpekotasun bat, eta ez da geldituko izen ezagun bat duen pakete berri bat zilegi den egiaztatzeko. Erasotzaileek badakite hori, eta kode irekiko erregistroak dira zain dituzten lekua.
Malwarearen aurkako babesa pakete gaiztoak markatzen ditu sinadura bat egon aurretik, instalatzen dituenak, garatzaile batek edo agente batek. Garatzailearen makinan, Shield politikak betearazten ditu ezer exekutatu aurretik: pakete berrien gutxieneko adina, IDE luzapenen eta pluginen estaldura, adierazle gaiztoen eta arrisku geografikoen blokeoa, eta amaierako puntuen isolamendua makina bat eduki behar denean.
Sakonago joan nahi duzu?
Kudeatzailearen akatsa eta bertara iristen den amaiera-puntua arazo bat dira, jabe bakarrarekin. Eta beste DAST tresna bat exekutatzen baduzu, Xygenik bere emaitzak arrisku-ikuspegi berera inportatzen ditu, ordezkatzeko eskatu gabe.
Bi geruzak elkarrekin lanean ikusi nahi dituzu? Ikusi gure saioa Kodetik exekuzio-denborara: Zergatik SAST + DAST biak ezinbestekoak dira AppSec modernorako, non kodearen aurkikuntzek eta exekuzio-denborako probek elkar nola berresten duten azaltzen dugun.
Lan-fluxu bat, ez beste kontsola bat
IA agenteen segurtasunak huts egiten du bere ilara propioa duen tresna bereizi bihurtzen denean. Xygeni-n, IA aurkikuntzak inbutu beretik igarotzen dira, AI Triage, txartelak eta txostenak zure aurkikuntza gainerako gisa. AI Remediation-ek testuinguruaren araberako konponketa gidaritza ematen du OWASP LLM kategoria guztietarako, eta ASPM IA arriskua kodearen, mendekotasunaren eta -ren ondoan jartzen du pipeline arriskua ikuspegi batetik.
IA agenteen segurtasuna eta betetzea
Erregulatzaileek, auditoreek eta bezeroek gero eta gehiago eskatzen dizute erabiltzen duzun IAren inbentarioa eta haren arriskua nola sailkatzen den. EBko AI Legea ISO / IEC 42001 biak norabide horretan bultzatzen dute, eta AI-BOM bat bihurtzen ari da standard elementua erosketa-galdetegietan.
Aktibo bakoitzeko arrisku-kategoria eremu bat duen IA inbentario batek zure gobernantza-taldeari lan horretarako ebidentzia-oinarria ematen dio. EBko IA Legearen prestaketa laguntzen du; ez da adostasun-ebaluazio bat, eta ez du zure berrikuspen juridikoa ordezkatzen.
edo tamaina ertaineko taldeentzat erraza da:
- Guztietan pull request: API Segurtasuna CI-n aldatutako kodean, gehi DAST eskaneatze inkrementalak.
- aurretik commit: gisa pre-commit atea eszenaratutako fitxategietan.
- Gauero edo bat egitean: DAST eskaneatzea osoa.
- Argitalpen nagusi bakoitzaren aurretik: AI bidezko pentestingak estrenaren aurka, atzeratutako lana balioztatzeko eta konponketa bakoitzak zuloa itxi duela berresteko.
API Segurtasun eskanerra edonon exekutatzen da, aire-tarte txikiko inguruneak barne, eta Xygeni SaaS-ri edo zure... on-premises plataforma. Emaitzak JSON gisa agertzen dira, SARIF 2.1.0, CSV eta Markdown-erako pull request iruzkinak.
API segurtasun probak eta betetzea
Banku, aseguru edo sektore publikoko taldeentzat, API segurtasun probak ere frogak dira. Aurkikuntza guztiek betetze etiketak dituzte. GDPRren 32. artikulua, PCI DSS 4.0 (3.4, 6.4.3, 7.1, 7.2 eta 8 eskakizunak) eta NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), plataforman eta JSON eta SARIF irteeran ikusgai.
Zure erakundea honen menpe badago DORA or NIS2, exekuzio-denborako probek zure erregulatzaileek oraindik behar dituzten eskuzko pentesten arteko etengabeko ebidentzia ematen dizute.
Nola ezarri IA agenteen segurtasuna 7 urratsetan
Hona hemen kontrol-zerrenda praktikoa, benetako garapen-talde batean IA agenteen segurtasuna azkarren funtzionarazteko ordenan.
- Ezagutu
Egin inbentarioa zure biltegietako IA aktibo guztien artean
Eskaneatu biltegi guztiak agenteak, MCP zerbitzariak, trebetasunak, modeloak, eskaerak eta AI kodeketa tresnak bilatzeko, eta esportatu emaitza AI-BOM gisa. Hau da zure oinarrizko lerroa, eta beste urrats guztiak oinarritzat hartuta funtzionatzen duen zerrenda.
- sailkatu
Eman agente bakoitzari jabea eta arrisku maila bat
Agente bakoitzarentzat, erregistratu noren jabetzakoa den, zein datu eta tresnatara irits daitekeen eta EBko IA Legearen arrisku-kategoria. Inork ez duen agente bat inork konponduko ez duen agentea da.
- detektatu
Eskaneatu agentearen kodea CI-n guztietan pull request
Exekutatu IA arriskuen detekzioa zure beste eskaneatzeen ondoan. Hasi blokeatzen ez den moduan oinarri-lerroa ikusteko, eta gero blokeatu aurkikuntza kritikoetan bat-egiteak taldeek garbitu ondoren.
- Review
Berrikusi trebetasunak inork instalatu aurretik
Eskaneatu trebetasun eta agenteen argibide fitxategiak, hala nola
SKILL.mdAGENTS.md, aktibatu IA asmoen berrikuspena eta hartu "ez instalatu" epaia geldialdi erabatekotzat. - Mugatu
Txikitze-agentearen baimenak
Ordeztu iraupen luzeko kredentzial estatikoak esparru mugatukoekin, utzi agenteen artean kredentzialak partekatzeari eta ez exekutatu inoiz MCP edo tresna zerbitzariak behar ez dituzten pribilegioekin.
- Konpondu begiztan
Jarri segurtasuna kodetze-agentearen begiztaren barruan
Konektatu zure IA kodetze-agenteak segurtasun MCP zerbitzari batera, beren kodea eskaneatu eta konpondu dezaten. committed, zure politika berberekin pipeline.
- Babestu
Babestu garatzaileen makinetan erortzen dena
Ezarri pakete berrientzako gutxieneko adin bat, detektatu pakete gaiztoak sinadura bat egon aurretik, eta babestu IDE luzapenak eta pluginak, instalatzen dituen edonor izan, garatzaile edo agente bat.
Ondoren: Bideratu aurkikuntza guztiak zure AppSec-eko gainerakoekin egiten den sailkapen, txartel eta txosten lan-fluxu berera, IA arriskua bere ilara propio batean amai ez dadin.
Ezin duzu inoiz ezagutu ez duzun agente bat ziurtatu
Adimen artifizialaren agenteen segurtasuna ez da beste eskaner bat. Zein agente exekutatzen dituzun jakitea da, haien eraikuntzan arriskua detektatzea, kodetze-agentearen begiztaren barruan segurtasuna jartzea eta agenteek instalatzen dutena babestea. Hasi inbentarioarekin: beste guztia horren araberakoa da.
Zure kodeko agente, MCP zerbitzari eta trebetasun guztiak ikusi nahi dituzu? Erreserbatu saio bat ingeniari batekin zure biltegien IA inbentarioa eraikitzeko eta aurkikuntzak berrikusteko. Edo doan hasi AIrekin SAST, SCA, sekretuen detekzioa, IDE pluginak eta malwarearen detekzioa kode irekiko paketeetan. Kreditu txartelik gabe.
IA agenteen segurtasunari buruzko maiz egiten diren galderak
Zertan da desberdina AI agenteen segurtasuna LLM segurtasunetik?
LLMren segurtasuna modelo batek esaten duenaz ari da: datuak filtratuta, erantzun manipulatuak, irteera ez-seguruak. IA agenteen segurtasuna agente batek tresnekin, memoriarekin, kredentzialekin eta beste agente batzuekin egiten duenaz ari da. Horregatik, OWASPek LLMren 10 onenen gainean, Agentzia Aplikazioetarako Top 10 zerrenda bereizi bat argitaratzen du (ASI01etik ASI10era).
Nola aurkitu ditzaket nire erakundeko IA agenteak eta MCP zerbitzariak?
Hasi kodetik. Xygeni AI Security-k zure biltegietako agenteak, MCP zerbitzariak, trebetasunak, ereduak, gonbitak eta AI kodeketa tresnak aurkitzen ditu, nola konektatzen diren mapatzen du eta emaitza CycloneDX formatuko AI-BOM gisa esportatzen du. Zure beste eskaneatzeen ondoan CI-n exekutatzen da.
Trebetasun edo MCP zerbitzari gaizto batek nire garatzaileak arriskuan jar ditzake?
Bai: trebetasun baten argibideak testu arrunta dira, eta agente batek garatzailearen baimenekin jarraituko ditu. Xygeni-k ezkutuko zuzentarau gaiztoak eta trebetasun-izenak imitatzen ditu, trebetasun baten asmoa epaitu dezake IA berrikuspen batekin, eta trebetasun bakoitza seguru, kontuz edo ez instalatu gisa kalifikatzen du. Malwarearen aurkako babesa eta Shield estali paketeak eta luzapen agenteek ekartzen dituztenak.







