Zer da IAren segurtasuna? IAren segurtasuna softwarearen menpe dauden IA ereduak, agenteak, datu-multzoak eta azpiegiturak babesteko praktika da, IA sistemak nola eraiki, trebatu eta exekutatzen diren berezko arriskuetatik babestea. Erabiltzen diren IA aktibo guztiak aurkitzea, IAren ahultasun espezifikoak detektatzea (hala nola, injekzio azkarra eta agenteen portaera ez-segurua), eta IAren ekintza ez-seguruak kalteak eragin aurretik geldiarazten dituzten politikak ezartzea hartzen ditu barne. Glosarioko sarrera honen gainerakoak azaltzen duen IAren segurtasunaren muina da hau.
Aplikazioen segurtasun tradizionalak, kodea, mendekotasunak eta azpiegitura babesten dituenak, ez bezala, IA Segurtasunak aktibo klase berri bat babesten du: modeloak, eskaerak, agenteak eta horiek lotzen dituzten makina-makina protokoloak. IA funtzio batetik softwarearen hornikuntza-katean bertan mugitzen den heinean, defentsa-geruza bereizi eta beharrezko bihurtu da.
IA Segurtasunaren Esanahia: Definizio Laburra #
Bere sinpleenean, IA segurtasunaren esanahia hau da: AI ziurtatzea kodea ziurtatzen duzun bezala, baina ohiko tresnak inoiz ikusteko eraiki ez ziren osagai eta portaera multzo batengatik.
Kontzeptua nahasmen-puntu arrunt batetik bereizteko modu erabilgarria: AI segurtasuna ez da "segurtasuneko AI" bezalakoa. Segurtasunean IAk adimen artifiziala erabiltzea esan nahi du dauden segurtasun-lanak hobetzeko, adibidez, ahultasunen aurkikuntzak sailkatzen dituen IA eredu bat. IA segurtasunak, aldiz, IA bera babestea esan nahi du: eredu fitxategiak, entrenamendu-datuak, agenteak, gonbidapenak eta IA tresnei ekintzak egiteko aukera ematen dieten zerbitzariak. Biak dira IAren erabilera baliozkoak, baina galdera desberdinei erantzuten diete.
Zergatik da garrantzitsua #
Software taldeek IA kodetze laguntzaileak, agente autonomoak eta hartu dituzte Testuinguru ereduaren protokoloa (MCP) horiek babesteko tresnak gainditu dituen erritmo batean. Aldaketa honek eraso-azalera berri bat sortu duen arrazoi batzuk:
AI menpekotasunak pozoitu edo asmatu daitezke. AI kodetze laguntzaileek batzuetan existitzen ez diren paketeak gomendatzen dituzte, slopsquatting izeneko eredua, eta erasotzaileek aldez aurretik erregistratu eta arma bihurtu ditzakete.
Adimen artifizialak sortutako kodeak bere arrisku-profila du. AI kodearen sorreraren erreferentziazko analisi independente batek aurkitu du AI bidez idatzitako kodearen zati handi batek ahultasun-eredu komunak aurkezten dituela, azpiko eredua gai eta ondo trebatua dagoenean ere.
Agenteak eta MCP zerbitzariak azpiegitura berriak dira, neurri handi batean kontrolatu gabekoak. Agenteek fitxategiak irakurri, tresnak deitu eta garatzaile baten izenean ekintzak egin ditzakete. Agente baten argibideak, arau fitxategiak edo konektatutako MCP zerbitzariak manipulatzen badira, agentea babestu behar zuen sistemaren aurka erabil daiteke.
AI konfigurazioa eraso-azalera bat da orain. Trebetasun fitxategiak, arau fitxategiak eta gonbidapen txantiloiak normalean dokumentazio gisa tratatzen dira, ez segurtasunarekin lotutako objektu gisa. Erasotzaileek frogatu dute dagoeneko fitxategi hauetan txertatutako jarraibide ezkutuek IA laguntzaile batek atzeko atean sartutako kodea sor dezakeela, erantzunean arrastorik ikusgairik gabe.
Zer hartzen du barne? #
IA segurtasun programa oso batek normalean hiru funtzio hartzen ditu barne:
1. Aurkikuntza (IA Inbentarioa) #
Ezer segurtatu aurretik, aurkitu egin behar da. IAren segurtasuna erakunde baten biltegietan dauden IA aktibo guztien etengabeko aurkikuntzarekin hasten da, eta pipelines: ereduak, IA esparruak, datu-multzoak, inferentzia amaiera-puntuak, agenteak, IA kodeketa tresnak eta konektatzen diren MCP zerbitzariak. Inbentario hau normalean makinaz irakur daitekeen IA materialen zerrenda (IA-BOM) gisa adierazten da, software materialen zerrenda baten IA baliokidea (SBOM).
2. Detekzioa (IAren arriskua) #
Behin IA aktiboak ezagutzen direnean, IA Segurtasunak horiei dagozkien arriskuak detektatzen ditu, besteak beste:
- Injekzio azkarra eta sistemaren ihes azkarra, non eduki ez-fidagarriak IA eredu baten portaera manipulatzen duen
- MCP konfigurazio ez-segurua, non konektatutako tresna edo zerbitzari bat pozoitu edo imitatu daitekeen
- Gehiegizko agentzia, non agente bati bere mugak gainditzeko baimena ematen zaion gizaki baten kontrolik gabe
- Sekretuen agerpena IA fitxategietan, non API gakoak edo kredentzialak IA tresnek erabiltzen duten konfigurazioaren bidez filtratzen diren
- IA mendekotasun zaurgarriak edo haluzinatuak, slopsquatting barne
Arrisku-kategoria hauek argitaratutako eta komunitateak berrikusitako esparruekin bat datoz, batez ere OWASP Top 10 LLM Aplikazioetarako.
3. Betearazpena (Guardrails) #
Azken geruzak IAren portaera ez-segurua geldiarazten du exekutatu aurretik: pakete gaizto baten instalazioa blokeatzea, trebetasun edo arau fitxategi bat baliozkotzea fidagarria izan aurretik, edo politika urratzen duen agente baten ekintza atzematea. Hemen da AI Segurtasuna ikusgarritasunetik defentsa aktibora igarotzen den lekua.
IAren segurtasun arrisku nagusiak, definituta #
| Epea | Zer esan nahi du |
|---|---|
| Injekzio azkarra | IA eredu batek prozesatzen duen edukian ezkutatutako argibide gaiztoak, bere helburuaren aurka jokatzera behartuz. |
| Okupazio malkartsua | IA eredu baten izenekin bat datozen pakete faltsuak erregistratzen dituzten erasotzaileek haluzinazioak izateko eta gomendatzeko aukera gehiago dute. |
| MCP arriskua | IA agenteei kanpoko tresnak deitzeko aukera ematen dieten Model Context Protocol zerbitzarietako ahultasunak, besteak beste, tresnen pozoitzea eta autentifikatu gabeko sarbidea. |
| Gehiegizko agentzia | IA agente bati bere zereginak behar duena baino autonomia edo sarbide gehiago eman zaio |
| Arauak/trebetasun fitxategiaren atzeko atea | Konfigurazio fitxategietan txertatutako karaktere edo argibide ezkutuak, IA kodeketa laguntzaile bat gidatzen dutenak, bere irteera ikusgaian agertu gabe. |
| AI-BOM | Erakunde baten IA aktiboen makina bidez irakur daitekeen inbentarioa, auditoria eta arriskuen kudeaketarako erabiltzen dena. |
IA Segurtasun Esparruak eta Standards #
Argitaratutako multzo txiki bati lotuta dago standardsaltzaile bakar baten taxonomia baino gehiago:
- OWASP LLM aplikazioetarako 10 onenak (2025): IA aplikazioen arriskuen zerrendarik ezagunena, injekzio azkarra, informazio sentikorra dibulgatzea, hornikuntza-katearen arriskua eta gehiago biltzen dituena.
- NIST SP 800-218A: IA sortzailerako eta erabilera bikoitzeko oinarri-ereduetarako egokitutako software garapen seguruko praktikak egiteko gida.
- Gartnerren AI-SPM eta AI TRiSM: IA Segurtasun Jarreraren Kudeaketarako analistek definitutako kategoriak eta IA Konfiantza, Arrisku eta Segurtasun Kudeaketaren diziplina zabalagoa.
Elkarrekin, hauek erakundeei "IA segurua" zer den azaltzeko hiztegi partekatua ematen diete, marketin-definizioetan bakarrik oinarritu beharrean.
IA Segurtasuna vs. Erlazionatutako Terminoak #
- AI Segurtasuna vs. AppSecAppSec-ek aplikazioaren kodea eta haren mendekotasunak babesten ditu. AppSec tresnak ikuskatzeko eraiki ez ziren IA ereduak, agenteak eta IA konfigurazio espezifikoak babesten ditu.
- AI Segurtasuna vs. AI GobernantzaGobernantzak erakunde batek IA erabiltzeko behar dituen politikak eta baimenak definitzen ditu. Politika horiek praktikan mantentzen direla betearazten eta egiaztatzen du, kode eta agente mailan.
- AI Segurtasuna vs. MLSecOpsMLSecOps-ek makina-ikaskuntzaren bizi-zikloa (prestakuntza, datuak, modeloen hedapena) ziurtatzean jartzen du arreta. Zabalagoa da, agenteetara, kodeketa-laguntzaileetara eta sistema aktiboetara konektatzen dituzten protokoloetara hedatzen baita.
Nola hurbiltzen den Xygeni AI segurtasunera
#
Xygeni-ren AI Security produktuak aurkitu, detektatu eta betearazteko eredu bera aplikatzen du zuzenean softwarearen garapen-zikloan. AI inbentario bat eraikitzen du etengabe biltegietan zehar, AIren arrisku espezifikoak detektatzen ditu, hala nola injekzio azkarra eta MCP konfigurazio ez-segurua, eta aurkikuntza guztiak OWASP Top 10-ekin lotzen ditu LLM aplikazioetarako, segurtasun- eta ingeniaritza-taldeek AI-BOM bakar batetik eta arrisku-ikuspegi bakar batetik lan egin dezaten, beren kodean dagoeneko zer AI exekutatzen ari den asmatu beharrean.
ohiko galderak #
AI segurtasuna AI modeloen, agenteen, datuen eta horiek lotzen dituen azpiegituren babesa da, AI sistemak nola eraiki eta funtzionatzen dutenari dagozkion arriskuen aurka.
Ez. Zibersegurtasuna arrisku digital guztiak hartzen dituen diziplina orokorra da. IAren segurtasuna zibersegurtasunaren azpimultzo espezializatu bat da, IAren aktibo espezifikoetan eta hutsegite moduetan oinarritua, hala nola injekzio azkarra edo agenteen portaera ez-segurua.
Edozein erakundek garatzaileek IA kodeketa laguntzaileak erabiltzen dituztela, produktuek IA ereduak txertatzen dituztela edo lan-fluxuek agente autonomoak eta MCP zerbitzariak barne hartzen dituztela. Honen barruan sartzen dira orain software talde gehienak, tamaina edozein dela ere.
