TL; DR
Apa kuwi serangan ekstraksi model, lan kenapa inventaris dadi prioritas utama
Serangan ekstraksi model nyalin AI sampeyan liwat API dhewe. Ora ana pelanggaran, ora ana bobot sing dicolong, ora ana malware.
- Cara kerjane: Serangan ekstraksi model (uga disebut nyolong model utawa nyolong model) nggoleki titik pungkasan inferensi kanthi skala gedhe lan nglatih klon babagan jawaban kasebut. Kanggo log sampeyan, penyerang katon kaya pelanggan berat.
- Panggonane: OWASP nglasifikasikake ekstraksi model miturut LLM10:2025 Konsumsi Tanpa Wates lan ndhaptar inventaris model terpusat ing antarane mitigasi kasebut.
- Apa sebabe pertahanan gagal: watesan tarif, otentikasi, lan pemantauan mung nglindhungi endpoint sing sampeyan ngerti. Endpoint Shadow AI ora entuk kabeh mau.
Pertahanan pisanan: Inventaris AI saben model, agen, lan titik pungkasan inferensi sing diungkap kode sampeyan, ditemokake saka sumber sadurunge dikirim. Sampeyan ora bisa nglindhungi titik pungkasan inferensi sing durung sampeyan inventaris.
Model sampeyan bisa dicolong tanpa ana sing ndemek server sampeyan
Timmu ngentekake pirang-pirang wulan kanggo nyempurnakake model data sing dipatenake. Tim iki ana ing mburi API sing njawab ewonan panjaluk saben dina. Saiki bayangna pesaing mbangun maneh sebagian besar nilaine kanthi rega panggilan API kasebut.
Kuwi serangan ekstraksi model. Ora ana sing nglanggar infrastruktur utawa ndownload bobot sampeyan. Penyerang mung takon pitakonan sing dipilih kanthi apik kanggo model sampeyan, ngrekam jawaban, lan nglatih salinane.
Umume tim njawab risiko iki nganggo watesan tingkat, otentikasi, lan pemantauan output. Kontrol kasebut bisa digunakake. Nanging padha duwe siji titik buta: mung nglindhungi titik pungkasan inferensi sing sampeyan ngerti ana. Ing pandhuan iki, kita nerangake apa iku serangan ekstraksi model, kepiye cara nyolong model ing praktik, lan kenapa saben pertahanan diwiwiti karo inventaris.
Apa sing diarani serangan ekstraksi model?
Serangan ekstraksi model yaiku serangan ing ngendi mungsuh mbangun maneh salinan fungsional saka model pembelajaran mesin kanthi ngirim query lan sinau saka output. Iki uga dikenal minangka nyolong model utawa nyolong model. Penyerang ora butuh bobot asli, data latihan utawa kode sumber: antarmuka umum wis cukup.
Ide iki dudu ide anyar. Para peneliti nuduhake iki nglawan API prediksi komersial ing taun 2016 (Tramèr dkk., Keamanan USENIXIng taun 2024, tim ing Google DeepMind nemokake bagean saka model basa produksi liwat API umum (Carlini lan liya-liyane.). ATLAS MITRE nglacak prilaku sing padha karo teknik mungsuh nglawan sistem AI.
Kanggo aplikasi LLM, OWASP nglebokake pencurian model menyang LLM10:2025 Konsumsi Tanpa WatesIki njlèntrèhaké rong varian: ekstraksi liwat query API sing digawe, lan replikasi fungsional, ing ngendi model target ngasilake data sintetis kanggo nyempurnakake model sing saingan.
Serangan ekstraksi model: istilah kunci
Ancaman sing padha nduweni pirang-pirang jeneng. Iki tegese saben ancaman, lan ing ngendi dheweke tumpang tindih.
| term | Opo artine kuwi |
|---|---|
| Serangan ekstraksi model | Mbangun maneh prilaku model saka respon query-ne |
| Nyolong model / nyolong model | Sinonim umum; pencurian model uga nyakup pencurian langsung file bobot |
| Replikasi model fungsional | Nggunakake output target minangka data latihan kanggo model panggantos |
| Model bayangan | Klon penyerang, sing dilatih kanggo niru target |
Cara kerja serangan ekstraksi model
Saben serangan ekstraksi model ngetutake puteran sing padha: nemokake titik pungkasan, nindakake query ing skala gedhe, lan nglatih salinan.
- Golekana titik pungkasane. Penyerang nemokake API inferensi: backend obrolan, layanan klasifikasi, titik akhir penyematan, model internal sing bisa dijangkau mitra.
- Rancang pitakon-pitakon kasebut. Input dipilih kanggo nutupi desain modelcisruang ion kanthi efisien, kadhangkala digabungake karo injeksi cepet kanggo ngasilake jawaban sing luwih sugih.
- Panen asil panen. Label, skor kapercayan, logits, utawa jangkepan teks kabeh informasi bocor. Sing luwih sugih respon, sing luwih cepet pencurian.
- Latih pemain pengganti. Pasangan input lan output sing diklumpukake dadi set latihan kanggo model bayangan sing niru asline.
- Nggunakaké klon kasebut. Salinan iki digunakake kanggo nglewati biaya lisensi, saingan langsung, utawa latihan serangan adversarial offline sadurunge nembak model sing nyata.
Sing ndadekake pencurian model angel dicekel yaiku saben panjalukan iku sah. Sinyal kasebut ana ing volume, pola lan, sing paling penting, ing ngendi panjalukan kasebut tekan.
Apa sebabe pertahanan sing biasane gagal: kesenjangan inventaris
The standard Saran kanggo nglawan serangan ekstraksi model iku apik: autentikasi penelepon, watesan tingkat lan throttle, potong skor kapercayan saka respon, output watermark, lan gatekna pola query sing anomali. Saben kontrol diterapake saben titik pungkasan. Ing kono persis ana masalah.
AI saiki mlebu basis kode luwih cepet tinimbang tim keamanan sing bisa nglacak. Pengembang nyambungake LLM SDK menyang layanan mikro. Tim data mbabarake model sing wis disetel kanthi apik kanggo alat internal. Kerangka kerja agen muter lapisan layanan dhewe. Ora ana sing ngliwati antrian review, lan akeh sing ora tau katon ing gateway API utawa file spesifikasi.
Asilé yaiku shadow AI: model, agen, lan titik pungkasan inferensi sing ana ing produksi nanging ora ana ing dhaptar sapa waé. Titik pungkasan sing ora dingerteni sapa waé ora entuk watesan tarif, ora ana review otentikasi, lan ora ana pemantauan. Kanggo serangan ekstraksi model, iki minangka target sing ideal.
OWASP uga nuduhake cara sing padha. Antarane mitigasi kanggo LLM10, dheweke nyaranake njaga inventaris model ML sing terpusat. Logikane prasaja: sampeyan ora bisa nglindhungi titik pungkasan inferensi sing durung sampeyan inventaris.
Inventaris dhisik: temokake saben titik pungkasan, banjur lindungi
Inventaris AI sing migunani njawab patang pitakonan kanggo saben aset: apa iku, ing ngendi diumumake, apa sing digunakake, lan apa sing nglindhungi.
| Pitakonan inventaris | Apa sebabe penting kanggo nglawan ekstraksi model |
|---|---|
| Model lan titik pungkasan inferensi apa waé sing ana? | Saben titik pungkasan sing ora kadhaptar minangka target ekstraksi sing ora dilindhungi |
| Ing endi dheweke diumumake ing kode? | Kepemilikan: ana wong sing kudu ndandani kontrol sing ilang |
| Data lan piranti apa sing disambungake? | Model sing dilatih nganggo data sensitif luwih aji yen dicolong |
| kang guardrails lan kontrol sing ditrapake? | Nuduhake celah jangkoan sadurunge penyerang nemokake |
Panggonan paling apik kanggo mbangun inventaris iki yaiku ing kode sumber. Kode minangka papan lair titik pungkasan, mula nemokake aset AI ing repositori nemokake sadurunge tekan produksi. Iki uga ngubungake saben aset menyang proyek, a commit, lan tim, sing ngowahi dhaptar dadi tindakan.
Rong kabiasaan maneh nutup siklus kasebut. Ekspor inventaris minangka dhaptar bahan AI (AI-BOM) supaya tim tata kelola lan audit ndeleng gambar sing padha. Lan pindai maneh saben owah-owahan, amarga inventaris mung apik kaya nganyari pungkasan.
Kepiye Xygeni nutup celah sadurunge serangan ekstraksi model diwiwiti
Keamanan AI Xygeni mbangun inventaris AI langsung saka kode sumber. Iki nemokake model AI, agen, kerangka kerja AI, server lan alat MCP, pitunjuk, guardrails, panyimpenan vektor, set data, titik akhir inferensi, lan piranti kode AI ing repositori sampeyan, kalebu file model kayata .onnx, .pt lan .pklHubungan uga dipetakan: agen endi sing nggunakake model endi, alat endi sing dieksekusi, set data endi sing digunakake kanggo latihan.
Saben aset ing inventaris Aset AI nuduhake model lan panyedhiya, sumber data sing disambungake karo bendera PII, jangkoan pager, lan kolom tata kelola kayata kategori risiko EU AI Act. Tampilan Grafik AI nuduhake kepiye agen, model, alat, lan set data nyambung. Siji klik ngekspor CycloneDX 1.6 ML-BOM, ing jejere sampeyan SBOM lan CBOM.
Saka inventaris nganti perlindungan:
- Deteksi risiko dipetakan menyang OWASP. Paket detektor nyakup kabeh sepuluh kategori OWASP LLM Top 10, kalebu LLM10 Unbounded Consumption, saengga saben temuan nganggo basa sing digunakake auditor sampeyan.
- Kontrol titik pungkasan wis dicenthang ing kode. Keamanan API Xygeni Nemokake titik pungkasan API saka kode lan spesifikasi lan menehi tandha titik pungkasan sing ora diautentikasi, watesan kecepatan sing ilang, lan API bayangan sing nyimpang saka spesifikasi.
- Bukti ing aplikasi sing mlaku. Xygeni AI Pentesting nguji aplikasi sing wis disebar lan mbuktekake kelemahane endi sing bisa dieksploitasi.
- Cepet ndandani. AI Triage ngutamakake temuan AI lan AI Remediasi ngasilake pandhuan ndandani kanggo kabeh sepuluh kategori OWASP LLM.
Kabeh mau mlaku minangka pindai statis ing CI/CD utawa sacara lokal, nganggo SaaS, on-premise lan opsi sing ora ana celah udara. Tim sing mbutuhake tahap review semantik supaya tetep ana ing njero perusahaan bisa mbukak ing model sing di-host dhewe.
Dhaptar priksa pencegahan serangan ekstraksi model
Wolung kontrol, miturut urutan. Loro sing pertama nggampangake enem liyane.
- 1InventoryInventaris saben model, agen, lan titik pungkasan inferensi saka kode sumber, lan jaga supaya tetep anyar saben commit.
- 2kepemilikanMenehi pemilik kanggo saben aset AI ing inventaris.
- 3bukti asliMbutuhake otentikasi ing saben titik pungkasan inferensi, kalebu sing internal.
- 4Rate matesiTerapna watesan tarif, kuota, lan wektu entek saben penelepon.
- 5Minimisasi outputBali output minimal sing dibutuhake: copot skor kapercayan lan logits ing ngendi pangguna ora mbutuhake.
- 6ngawasiMonitor volume lan pola query kanggo probing sistematis.
- 7WatermarkingCoba pikirake output watermarking saka model duweke dhewe sing regane dhuwur.
- 8PamrentahEkspor AI-BOM kanggo tata kelola lan audit, lan petakake temuan menyang OWASP LLM10.
Golekana titik pungkasan inferensimu sadurunge penyerang nindakake
Serangan ekstraksi model mung butuh siji titik pungkasan sing sampeyan lali. Temokake AI apa sing sejatine mlaku ing kode sampeyan: delengen kepiye Xygeni AI Security mbangun inventaris AI sampeyan, or bukak demo.
Pitakonan Umum
Apa bedane serangan ekstraksi model lan inversi model?
Serangan ekstraksi model nyalin model kasebut dhewe: prilaku lan decislogika ion. Inversi model nargetake data latihan, nyoba mbangun maneh rekaman sensitif sing digunakake model kanggo sinau. Loro-lorone nyalahgunakake akses query, nanging ekstraksi nyolong properti intelektual dene inversi mbocorake data pribadi.
Apa serangan ekstraksi model bisa nargetake LLM, utawa mung model ML klasik?
Kaloro-lorone. Riset awal nargetake klasifikasi ing mburi API prediksi. Saiki OWASP ndhaptar ekstraksi model lan replikasi model fungsional minangka risiko LLM miturut LLM10:2025 Unbounded Consumption, ing ngendi penyerang nggunakake output LLM dhewe kanggo nyetel substitusi.
Kepiye carane aku ngerti titik pungkasan inferensi endi sing kena pengaruh pencurian model?
Miwiti karo inventaris sing digawe saka kode sumber: saben model, agen, lan titik pungkasan inferensi sing diumumake aplikasi sampeyan. Banjur priksa saben siji kanggo otentikasi, watesan tingkat, lan paparan output. Xygeni AI Security nemokake aset AI ing repositori sampeyan lan ngekspor minangka AI-BOM, lan Xygeni API Security nandhani titik pungkasan sing ora duwe otentikasi utawa watesan tingkat.







