Modeloen erauzketa erasoa

Modeloen erauzketa erasoa: zergatik den inbentarioa lehenik

TL; DR

Zer den modeloen erauzketa eraso bat, eta zergatik den inbentarioa lehenik

Modeloak erauzteko eraso batek zure IA bere APIaren bidez kopiatzen du. Ez dago urraketarik, ez pisu lapurturik, ez malwarerik.

  • Nola funtzionatzen du: Modeloak erauzteko eraso batek (modeloak lapurtzea edo modeloak lapurtzea ere deitua) inferentzia-mutur bat eskala handian kontsultatzen du eta erantzunetan oinarritutako klon bat entrenatzen du. Zure erregistroetan, erasotzailea bezero handi bat bezala ikusten da.
  • Non kokatzen den: OWASP-ek modeloen erauzketa sailkatzen du honela: LLM10:2025 Kontsumo mugagabea eta bere arintze-neurrien artean modeloen inbentario zentralizatu bat zerrendatzen du.
  • Zergatik huts egiten duten defentsak: abiadura-mugak, autentifikazioak eta monitorizazioak ezagutzen dituzun amaiera-puntuak soilik babesten dituzte. Shadow AI amaiera-puntuak ez dute horietako bat ere jasotzen.

Lehenengo defentsa: Zure kodeak azaltzen dituen modelo, agente eta inferentzia-mutur guztien IA inbentarioa, bidali aurretik iturburutik aurkitua. Ezin dituzu inbentariatu ez dituzun inferentzia-muturrak babestu.

Zure modeloa lapurtu daiteke inork zure zerbitzariak ukitu gabe

Zure taldeak hilabeteak eman ditu datu jabedunetan oinarritutako eredu bat doitzen. Egunean milaka eskaerari erantzuten dien API baten atzean dago. Orain imajinatu lehiakide bat bere balioaren gehiena berreraikitzen API dei horien prezioan.

Hori ereduak erauzteko eraso bat da. Inork ez du zure azpiegitura urratzen edo zure pisuak deskargatzen. Erasotzaileak zure ereduari ondo aukeratutako galdera nahikoa egiten dizkio, erantzunak grabatzen ditu eta kopia bat entrenatzen du.

Talde gehienek arrisku horri erantzuten diote abiadura-mugak, autentifikazioa eta irteeraren monitorizazioa erabiliz. Kontrol horiek funtzionatzen dute. Baina puntu itsu bat dute: badakizu existitzen diren inferentzia-amaiera-puntuak bakarrik babesten dituzte. Gida honetan azaltzen dugu zer den modeloak erauzteko eraso bat, nola funtzionatzen duen modeloak lapurtzeak praktikan eta zergatik hasten diren defentsa guztiak inbentario batekin.

Zer da modeloak erauzteko eraso bat?

Modeloak erauzteko erasoa eraso bat da, non aurkari batek makina-ikaskuntzako modelo baten kopia funtzional bat berreraikitzen duen kontsultak bidaliz eta bere irteeretatik ikasiz. Modeloen lapurreta edo modeloen lapurreta bezala ere ezagutzen da. Erasotzaileak ez ditu inoiz jatorrizko pisuak, entrenamendu datuak edo iturburu-kodea behar: interfaze publikoa nahikoa da.

Ideia ez da berria. Ikertzaileek 2016an erakutsi zuten merkataritzako iragarpen APIen aurka (Tramèr eta beste batzuk, USENIX Segurtasuna). 2024an, Google DeepMind-eko talde batek ekoizpen-hizkuntza eredu baten zati bat berreskuratu zuen bere API publikoaren bidez (Carlini eta beste batzuk.). MITRA ATLASA IA sistemen aurkako etsai-teknika baten portaera bera jarraitzen du.

LLM aplikazioetarako, OWASP-ek modeloen lapurreta txertatzen du LLM10:2025 Kontsumo mugagabeaBi aldaera deskribatzen ditu: API kontsulten bidezko erauzketa eta erreplikazio funtzionala, non helburu-ereduak datu sintetikoak sortzen dituen lehiakide bat doitzeko.

Modeloen erauzketa erasoa: gako-hitzak

Mehatxu berak hainbat izen ditu. Hona hemen bakoitzak zer esan nahi duen, eta non gainjartzen diren.

EpeaZer esan nahi du
Modeloen erauzketa erasoaEredu baten portaera berreraikitzea bere kontsulten erantzunetatik abiatuta
Modeloen lapurreta / modeloen lapurretaSinonimo arruntak; modeloen lapurretak pisu-fitxategien lapurreta zuzena ere hartzen du barne
Eredu funtzionalaren erreplikazioaHelburuaren irteerak ordezko eredu baterako entrenamendu datu gisa erabiltzea
Itzal-ereduaErasotzailearen klon, helburua imitatzeko entrenatua

Nola funtzionatzen duen modeloen erauzketa eraso batek

Modeloak erauzteko eraso guztiek begizta bera jarraitzen dute: amaiera-puntu bat aurkitu, eskala handian kontsultatu, kopia bat entrenatu.

  1. Aurkitu amaiera-puntua. Erasotzaileak ondorio API bat aurkitzen du: txat atzeko puntu bat, sailkapen zerbitzu bat, txertatze amaierako puntu bat, bazkide batek irits daitekeen barne eredu bat.
  2. Diseinatu kontsultak. Sarrerak modeloaren beharrak estaltzeko aukeratzen dira.cisioi espazioa eraginkortasunez, batzuetan injekzio azkarrarekin konbinatuta erantzun aberatsagoak lortzeko.
  3. Bildu emaitzak. Etiketek, konfiantza puntuazioek, logit-ek edo testu osoen osaerek informazioa filtratzen dute. Zenbat eta aberatsagoa izan erantzuna, orduan eta azkarragoa izango da lapurreta.
  4. Ordezkoa entrenatu. Bildutako sarrera eta irteera bikoteak jatorrizkoa imitatzen duen itzal-eredu baten entrenamendu-multzo bihurtzen dira.
  5. Ustiatu klonaren erabilera. Kopia lizentzia-kostuak saihesteko, zuzenean lehiatzeko edo aurkarien erasoak lineaz kanpo entseatzeko erabiltzen da, benetako modeloari jaurti aurretik.

Modeloen lapurreta harrapatzea zailtzen duena eskaera guztiak zilegiak direla da. Seinalea bolumenean, ereduan eta, batez ere, eskaerak non heltzen diren dago.

Zergatik huts egiten duten ohiko defentsak: inbentario-hutsuneak

The standard Modeloak erauzteko eraso baten aurkako aholkuak sendoak dira: deitzaileak autentifikatu, abiadura mugatu eta moteldu, erantzunen konfiantza puntuazioak kendu, irteeren ur-marka gehitu eta kontsulta-eredu anomaloei erreparatu. Kontrol bakoitza amaiera-puntuko puntu bakoitzeko aplikatzen da. Horixe da, hain zuzen ere, huts egiten duen tokia.

Adimen artifizialak orain kode-baseetan sartzen da segurtasun-taldeek jarraitu dezaketena baino azkarrago. Garatzaile batek LLM SDK bat mikrozerbitzu batera konektatzen du. Datu-talde batek barne-tresna baten eredu findu bat azaltzen du. Agente-esparru batek bere zerbitzu-geruza sortzen du. Hauetako batek ere ez du berrikuspen-ilara batetik pasatzen, eta asko ez dira inoiz agertzen API atebide edo espezifikazio-fitxategi batean.

Emaitza itzaleko AI da: ekoizpenean dauden baina inoren zerrendan ez dauden modeloak, agenteak eta inferentzia-muturrak. Inork ezagutzen ez duen muturrak ez du abiadura-mugarik, ez du autentifikazio-berrikuspenik eta ez du monitorizaziorik jasotzen. Modeloak erauzteko eraso baterako, helburu aproposa da.

OWASP-ek bide beretik seinalatzen du. LLM10-rako neurrien artean, ML ereduen inbentario zentralizatu bat mantentzea gomendatzen du. Logika sinplea da: Ezin dituzu babestu inbentariatu ez dituzun ondorio-amaiera-puntuak.

Lehenik inbentarioa: aurkitu amaiera-puntu guztiak, eta gero babestu

IA inbentario erabilgarri batek lau galdera erantzuten ditu aktibo bakoitzerako: zer den, non deklaratzen den, zeri egiten dion erreferentzia eta zerk babesten duen.

Inbentario galderaZergatik den garrantzitsua modeloen erauzketaren aurka
Zein eredu eta inferentzia-amaiera-puntu daude?Zerrendatu gabeko amaiera-puntu oro babesik gabeko erauzketa-helburu bat da.
Non deklaratzen dira kodean?Jabetza: norbaitek konpondu behar du falta den kontrola
Zein datu eta tresna daude konektatuta?Datu sentikorretan trebatutako eredu bat lapurtzea merezi du gehiago
Zein guardrails eta kontrolak aplikatzen dira?Erasotzaileak aurkitu aurretik estaldura-hutsuneak erakusten ditu

Inbentario hau eraikitzeko lekurik onena iturburu-kodea da. Kodea da amaiera-puntua jaiotzen den tokia, beraz, biltegian IA aktiboak aurkitzeak ekoizpenera iritsi aurretik aurkitzen ditu. Gainera, aktibo bakoitza proiektu bati lotzen dio, commit, eta talde bat, zerrenda bat ekintza bihurtzen duena.

Beste bi ohitura daude zirkulua ixteko. Esportatu inbentarioa AI materialen zerrenda gisa (AI-BOM), gobernantza eta auditoria taldeek irudi bera ikus dezaten. Eta eskaneatu berriro aldaketa bakoitzean, inbentarioa azken eguneratzearen parekoa baita.

Nola ixten duen Xygenik hutsunea modeloak erauzteko eraso bat hasi aurretik

Xygeni AI Segurtasuna IA inbentarioa zuzenean iturburu-kodetik eraikitzen du. IA ereduak, agenteak, IA esparruak, MCP zerbitzariak eta tresnak, eskaerak, aurkitzen ditu. guardrails, bektoreen biltegiak, datu-multzoak, inferentzia-amaiera-puntuak eta IA kodeketa-tresnak zure biltegietan, besteak beste, modelo-fitxategiak barne .onnx, .pt .pklHarremanak ere mapatzen dira: zein agentek zein eredu erabiltzen duen, zein tresna exekutatzen dituen, zein datu-multzotan entrenatzen duen.

AI Aktiboen inbentarioko aktibo bakoitzak bere modeloak eta hornitzaileak, PII banderak dituzten datu-iturri konektatuak, babes-estaldura eta gobernantza-eremuak erakusten ditu, hala nola EBko AI Legearen arrisku-kategoria. AI Grafikoaren ikuspegiak agenteak, modeloak, tresnak eta datu-multzoak nola konektatzen diren erakusten du. Klik bakarrarekin CycloneDX 1.6 ML-BOM bat esportatzen da, zure ondoan. SBOM eta CBOM.

Inbentariotik babesera:

  • Arriskuen detekzioa OWASP-era mapatuta. Detektagailu paketeek OWASP LLM Top 10 kategoria guztiak hartzen dituzte barne, LLM10 Kontsumo Mugagabea barne, beraz, aurkikuntza bakoitzak zure auditoreek erabiltzen duten hizkuntza hitz egiten du.
  • Amaierako puntuko kontrolak kodean egiaztatuta. Xygeni API Segurtasuna API amaiera-puntuak kodetik eta espezifikazioetatik aurkitzen ditu, eta autentifikatu gabeko amaiera-puntuak, falta den abiadura-muga eta espezifikaziotik aldentzen diren itzaleko APIak markatzen ditu.
  • Froga martxan dagoen aplikazioan. Xygeni AI Pentesting-ek zabaldutako aplikazioa probatzen du eta zein ahultasun diren ustiagarriak frogatzen du.
  • Konpondu azkar. AI Triage-k AI aurkikuntzak lehenesten ditu eta AI Remediation-ek konponketa-gida sortzen du OWASP LLM kategoria guztietarako.

Eskaneatu estatiko gisa exekutatzen da guztia CI/CD edo tokian tokiko, SaaS-rekin, on-premise eta aire-tarte gabeko aukerak. Berrikuspen semantikoaren etapa etxean bertan geratzea behar duten taldeek auto-ostatutako eredu batean exekutatu dezakete.

Modeloen erauzketa erasoen prebentzio-zerrenda

Zortzi kontrol, hurrenkeran. Lehenengo biek beste seiak posible egiten dituzte.

  1. InbentarioEgin inbentarioa iturburu-kodetik modelo, agente eta inferentzia-mutur guztientzat, eta mantendu eguneratuta guztietan. commit.
  2. JabetzaEsleitu jabea inbentarioko IA aktibo bakoitzari.
  3. AutentifikazioEskatu autentifikazioa inferentzia-mutur guztietan, barnekoak barne.
  4. Tasa mugatzeaAplikatu tasa-mugak, kuotak eta denbora-mugak deitzaile bakoitzeko.
  5. Irteera minimizazioaItzuli behar den gutxieneko irteera: kendu konfiantza puntuazioak eta logit-ak erabiltzaileek behar ez dituzten lekuetan.
  6. JarraipenaKontrolatu kontsulten bolumena eta ereduak modu sistematikoan aztertzeko.
  7. watermarkingKontuan hartu balio handiko jabedun modeloen ur-marken emaitzak.
  8. GovernanceEsportatu AI-BOM bat gobernantza eta auditoriarako, eta mapatu aurkikuntzak OWASP LLM10-era.

Aurkitu zure inferentzia-amaierak erasotzaileek egin aurretik

Modeloak erauzteko eraso batek ahaztu duzun amaiera-puntu bakarra behar du. Jakin ezazu zein IA exekutatzen duen zure kodeak benetan: ikusi nola eraikitzen duen Xygeni AI Security-k zure AI inbentarioa, or erreserbatu demo bat.

ohiko galderak

Zein da modeloak erauzteko eraso baten eta modeloak alderantzikatzeko eraso baten arteko aldea?

Modeloak erauzteko eraso batek modeloa bera kopiatzen du: bere portaera eta defentsa.cisioi logika. Eredu alderantzikatzeak entrenamendu datuak hartzen ditu jomugan, ereduak ikasitako erregistro sentikorrak berreraikitzen saiatuz. Bietako batek kontsulten sarbidea abusatzen du, baina erauzketak jabetza intelektuala lapurtzen du, eta alderantzikatzeak datu pribatuak isurtzen ditu.

Modeloak erauzteko eraso batek LLMak izan ditzake helburu, edo ML modelo klasikoak bakarrik?

Biak. Hasierako ikerketek iragarpen APIen atzean dauden sailkatzaileak zituzten helburu. Gaur egun, OWASP-ek modeloen erauzketa eta modelo funtzionalen erreplikazioa LLM arrisku gisa zerrendatzen ditu LLM10:2025 Kontsumo Mugagabearen arabera, non erasotzaile batek LLM baten irteera propioak erabiltzen dituen ordezko bat doitzeko.

Nola jakin dezaket nire inferentzia-muturretako zein dauden eredu-lapurren eraginpean?

Hasi iturburu-kodetik eraikitako inbentario batekin: zure aplikazioek deklaratzen dituzten modelo, agente eta inferentzia-muturreko puntu guztiak. Ondoren, egiaztatu bakoitza autentifikazioa, abiadura-muga eta irteera-esposiziorako. Xygeni AI Security-k zure biltegietako AI aktiboak aurkitzen ditu eta AI-BOM gisa esportatzen ditu, eta Xygeni API Security-k autentifikaziorik edo abiadura-mugarik ez duten muturrak markatzen ditu.

sca-tools-software-konposizio-analisi-tresnak
Lehentasuna eman, konpondu eta babestu zure software arriskuak
Lortu zure doako kontua.
Ez da beharrezkoa kreditu txartelik.

Ziurtatu zure softwarearen garapena eta entrega

Xygeni produktu multzoarekin