Zer da IA ​​zibersegurtasuna?

AI zibersegurtasuna adimen artifiziala eraso-azaleraren zati gisa ziurtatzeko praktika da: zure softwarearen barruan dauden modeloak, datu-multzoak, agenteak, MCP zerbitzariak, gonbidapenak eta AI-k sortutako kodea, gehi horiei erasotzeko eraso-teknika berriak. Alderantzizko norabidea ere hartzen du barne, AI erabiliz defentsa indartzeko, baina lehenengo norabidea da gaur egun esposizioa sortzen duena. Hori da AI zibersegurtasuna zer den galderaren erantzun laburra. Merezi du aurreikustea...cise horri buruz, terminoa bi gauza oso desberdinetarako erabiltzen baita, eta bat okerra erosteak bestea zaindu gabe uzten duelako.

AI zibersegurtasunaren esanahia, bi norabidetan #

AI zibersegurtasunaren esanahia lerro sinple batean banatzen da: AI babesten ari zara, ala hark babesten zaitu?

IA ziurtatzea. Zure erakundea IArekin eraikitzen eta IA erabiliz garatzen da. Horrek inork inbentariatu ez dituen aktiboak eta ohiko tresnak inoiz diseinatu ez diren hutsegite moduak sortzen ditu: sarrera fidagarria ez den gonbidapena, bere zereginak behar duena baino baimen gehiago duen agentea, modelo bat pozoitzen duen datu-multzoa, inork onartu ez duen MCP zerbitzaria. Hemen gertatzen dira gorabeherak.

Adimen artifiziala segurtasunerako. Makina-ikaskuntza detekzioan, sailkapenean, azalpenean eta konponketan aplikatua: alerta-zarata murriztea, ustia daitezkeen aurkikuntzei lehentasuna ematea eta konponketa idaztea. Hortik dator eraginkortasuna.

Saltzaile gehienek eta artikulu gehienek biak bateratzen dituzte. Operatiboki garrantzitsua den IA zibersegurtasunaren esanahia jabe bereiziak dituzten programa bereiziak direla da. Bata eraso-azalera arazo bat da. Bestea produktibitate arazo bat da.

Zer babesten du IA zibersegurtasunak? #

Inbentario bat, kontrol baten aurretik. Beheko elementu bakoitza segurtasun-talde batek orain erantzule den aktibo bat da.

• Ereduak, auto-ostatutakoa, doikuntzakoa edo hornitzaile baten API bidez deitutakoa izan
• Datu multzoak prestakuntzarako, doikuntzarako, ebaluaziorako eta berreskurapenerako erabiltzen da
• Agenteak eta agente zerbitzariak zure sistemetan modu autonomoan jarduten dutenak
• MCP zerbitzariak tresnak eta datuak agente horiei erakusten dizkietenak
• Eskaerak, trebetasun fitxategiak, arau fitxategiak eta guardrails, IAren portaera gobernatzen duen konfigurazio geruza
• Ondorioen amaiera-puntuak eta haietara iristen diren kredentzialak
• IA kodetze laguntzaileak zure taldeetan erabiltzen direnak, eta sortzen duten kodea
• IA mendekotasunak: zure IA pilak erabiltzen dituen framework-ak eta paketeak

Konturatu zein gutxi den aplikazio-kodea. Hori aurreikusten daciszergatik bat SAST tresna batek, EDR agente batek eta hodeiko jarrera tresna batek berdea eman dezakete ordenagailu eramangarri bateko agente batek bere posta elektronikoko tresnaren bidez datuak ateratzen dituen bitartean. Konektatu dituzun olak. Ez bata ez bestea ez da aplikazioaren kodea, beraz, ez bata ez bestea ez daude dagoeneko exekutatzen dituzun tresnek estaltzen.

IAri esker bakarrik existitzen diren hiru erasoak #

Zein familia begiratzen ari zaren jakiteak kontrola non dagoen esaten dizu, eta hemen uzten du IA zibersegurtasunaren esanahiak abstraktua izatea.

Lehenengo familiak modeloaren argibideak ditu helburu. Injekzio azkarrak lehen postua mantendu du OWASP LLM aplikazioetarako 10 onenak zerrenda existitzen zenetik, arrazoi sinple batengatik: modelo batek berak idatzi ez duen testua irakurtzen duen edozein puntu sarrera puntu bat da. Bertsio arriskutsua zeharkakoa da. Inork ez du erasoa idazten, modeloak berreskuratzen du, laguntza-txartel batetik, web orri batetik, pull request iruzkina edo norbaitek igotako dokumentua. Modeloak ezin ditu argibideak edukitik bereizi, beraz, biak jarraitzen ditu. Eman tresnak modelo horri eta teknika bera tresna-injekzio bihurtzen da: aldatu agenteak tresna batek egiten duela uste duena, eta zure aurka jokatuko du zure kredentzialak erabiliz. Gehiegizko agentzia biderkatzailea da. Bere zereginak eskatzen duena baino baimen zabalagoa duen agentea da eragozpen baten eta gertakari baten arteko aldea.

Bigarren familiak konfigurazio geruza du helburu. Galderak, arau-fitxategiak, trebetasun-fitxategiak eta MCP zerbitzariaren definizioak erabakitzen dute zer egiten duen IAk zure ingurunean, eta horietako bat ere ez da aplikazio-kodea. Arau-fitxategiaren atzeko ateak erakutsi zuen zenbateraino iristen den hori: zero zabalerako Unicode karaktereek gizaki berrikusle batek fisikoki ikusi ezin dituen argibideak dituzte, laguntzaileak betetzen ditu eta ez ditu inoiz bere erantzunean aipatzen. Teknika katalogatuta dago MITRA ATLASA AML.CS0041 bezala. Geruza berak hornitzailearen kredentzialak testu arruntean gordetzen ditu eta laguntzaileei fitxategi-sistemaren zati handi baterako irakurketa-sarbidea ematen die inork nahi baino. kodeketa agentea, geruza hau bolantea da, eta ia inork ez du berrikusten.

Hirugarren familiak IA hornikuntza-katea du helburu. Modeloak, datu-multzoak eta inguruko paketeak kanpotik iristen dira. Slopsquatting da kasurik argiena: hizkuntza-ereduek pakete-izenak asmatzen dituzte, erasotzaileek erregistratzen dituzte, eta agenteak erasotzailearen kodea instalatzen du eskaeraren arabera. USENIX Security 2025ean aurkeztutako ikerketak aurkitu zuen LLMek gomendatutako paketeen % 19.7 ez direla existitzen, eta izen haluzinatuak nahikoa maiz errepikatzen direla farmeatzeko. Horrekin batera, prestakuntza eta berreskuratze datu pozoituak daude, iturburu-materiala filtratzen duten txertatzeak, agente batera zuzenean konektatutako MCP zerbitzari fidagarriak ez direnak eta mendekotasun gisa sartutako IA esparru ahulak.

Hiruren azpian itzaleko IA dago: modeloak, agenteak, laguntzaileak eta MCP zerbitzariak dagoeneko martxan dago baimenik, berrikuspenik edo inbentariorik gabe. Erakunde gehienetan lehenetsitako egoera da, eta horregatik lehenengo kontrola beti zerrenda bat da.

Zer ez da? #

Ez da IA ​​gobernantza. Gobernantzak eredu bat erabili behar den ala ez eta zein politikapean erabili behar den erantzuten du. IA zibersegurtasunak eredua, agentea eta haien arteko kableatua erasotu daitezkeen ala ez erantzuten du.

Ez da chatbot baten aurreko iragazki bat. Exekuzio-denborako gonbidapenen iragazketa kontrol askoren artean bat da. Ez du ezer ikusten garatzailearen ordenagailu eramangarriko MCP zerbitzariari buruz, biltegiko arau-fitxategi pozoituari buruz edo AI konfigurazio bateko kredentzialari buruz.

Ez dago dagoeneko exekutatzen duzunak estaltzen. Aplikazioen segurtasun tradizionala biltegian gelditzen da eta ez daki zer den eredu bat. Amaierako tresnek sistema eragilea behatzen dute eta ez dituzte paketeak, MCP zerbitzariak edo laguntzaileak ulertzen. Adimen artifizialaren erasoak bien arteko hutsunean lurreratzen dira.

Ez da soilik IA sortzaileari buruzkoa. Iruzurrean, prezioetan eta arriskuen puntuazioan ikaskuntza automatiko klasikoa ere helburu da, pozoitzearen, saihestearen eta ereduen erauzketaren bidez.

Eremua definitzen duten esparruak #

OWASP LLM aplikazioetarako 10 onenak: LLM aplikazioen arriskuaren lan-taxonomia, eta segurtasun-talde gehienek aurkikuntzak mapatzen dituztena

OWASP Top 10 Agentzia Aplikazioetarako 2026an: tresnak erabiltzen dituzten sistema autonomoen zerrenda osagarria, 2025eko abenduan argitaratua

OWASP GenAI Segurtasun Proiektua: atal-ahalegin osoa, datuen segurtasuna, MCP zerbitzariaren gidaritza eta talde gorrien baliabideak barne.

NIST AI Arriskuak Kudeatzeko Esparrua eta bere IA Sortzaile Profila: erregulatzaileek eta kontseiluek aitortzen duten gobernantza hiztegia

MITRA ATLASA: IA sistemetarako aurkako teknika ezagutza-basea, benetako kasu-azterketekin

EBko AI Legea: lege-esparrua, IA inbentario batek betetzen laguntzen dizun dokumentazio teknikoaren betebeharrak barne

Nondik hasi #

Inbentarioa. Aurkitu erabiltzen diren modelo, datu-multzo, agente, MCP zerbitzari eta IA laguntzaile guztiak, kodetik, menpekotasunetatik eta konfiguraziotik abiatuta, inkesta batetik baino.

Harremanak mapatu. Arriskua kableatuan datza: zein agentek tresna zeinetara iristen den, zein datu-multzok zein eredu elikatzen duen.

Irakurri konfigurazio geruza. Erabili gonbidapenak, trebetasun fitxategiak, arau fitxategiak eta MCP definizioak segurtasun-artefaktu gisa eta berrikusi itzazu kode gisa.

Esparru-baimenak. Eman agente bakoitzari tresna-azalera estuena eta bere lanak ahalbidetzen duen autonomia gutxien.

Betearazi exekutatzen den lekuan. AI arrisku gehiena garatzaileen makinetan dago, beraz, politika amaieran aplikatu behar da, baimenik gabeko zerbitzari edo pakete gaizto bat exekutatu aurretik.

Erabiltzen duzun IA eta eraikitzen duzun IA babestea #

AI zibersegurtasuna zer den galderaren erantzun praktikoa ikusgarritasunarekin hasten dela eta betearazpenarekin amaitzen dela da. Xygenik zure AI aktibo guztiak aurkitzen ditu. SDLC, inork deklaratu ez dituen modeloak, agenteak, MCP zerbitzariak, datu-multzoak, trebetasun-fitxategiak eta gonbidapenak barne, nola konektatzen diren mapatzen du eta haiei dagozkien arriskuak detektatzen ditu: gonbidapen- eta tresna-injekzioa, arau eta trebetasun-fitxategietako argibide gaiztoak, MCP konfigurazio ez-segurua, AI fitxategietako sekretuak eta AI menpekotasun baztertuak. Aurkikuntzak OWASP LLM aplikazioetarako 10 onenekin lotzen dira eta fitxategi eta lerro zehatzera seinalatzen dute. AI-BOM batek zure auditoreei defendatzeko moduko zerbait ematen die, eta politika garatzailearen amaieran betearazten da, AI arrisku gehienak benetan gertatzen diren tokian.

Adimen bera aplikatzen zaie dagoeneko dituzun eskanerren emaitzei, beraz, IA segurtasunak zure pila zabaltzen du ordezkatu beharrean. Ikusi zerekin konektatuta dauden zure agenteak hemen: Xigenoa.

ohiko galderak #