Serangan Pengekstrakan Model

Serangan Pengekstrakan Model: Mengapa Inventori Diutamakan

TL; DR

Apakah serangan pengekstrakan model, dan mengapa inventori diutamakan

Serangan pengekstrakan model menyalin AI anda melalui APInya sendiri. Tiada pelanggaran, tiada pemberat yang dicuri, tiada perisian hasad.

  • Bagaimana ia berfungsi: Serangan pengekstrakan model (juga dipanggil pencurian model atau kecurian model) menanyakan titik akhir inferens pada skala dan melatih klon pada jawapan. Pada log anda, penyerang kelihatan seperti pelanggan tetap.
  • Di mana ia terletak: OWASP mengklasifikasikan pengekstrakan model di bawah LLM10:2025 Penggunaan Tanpa Batas dan menyenaraikan inventori model berpusat antara mitigasinya.
  • Mengapa pertahanan gagal: had kadar, pengesahan dan pemantauan hanya melindungi titik akhir yang anda tahu. Titik akhir Shadow AI tidak mendapat satu pun daripadanya.

Pertahanan pertama: Inventori AI bagi setiap model, ejen dan titik akhir inferens yang didedahkan oleh kod anda, ditemui daripada sumber sebelum ia dihantar. Anda tidak boleh melindungi titik akhir inferens yang belum anda inventorikan.

Model anda boleh dicuri tanpa sesiapa yang menyentuh pelayan anda

Pasukan anda menghabiskan masa berbulan-bulan untuk memperhalusi model pada data proprietari. Ia terletak di sebalik API yang menjawab beribu-ribu permintaan sehari. Sekarang bayangkan pesaing membina semula sebahagian besar nilainya dengan harga panggilan API tersebut.

Itu adalah serangan pengekstrakan model. Tiada siapa yang melanggar infrastruktur anda atau memuat turun pemberat anda. Penyerang hanya menanyakan soalan yang dipilih dengan baik kepada model anda, merekodkan jawapan dan melatih salinannya.

Kebanyakan pasukan menjawab risiko ini dengan had kadar, pengesahan dan pemantauan output. Kawalan tersebut berfungsi. Tetapi ia berkongsi satu titik buta: ia hanya melindungi titik akhir inferens yang anda tahu wujud. Dalam panduan ini, kami menerangkan apa itu serangan pengekstrakan model, bagaimana pencurian model berfungsi dalam amalan dan mengapa setiap pertahanan bermula dengan inventori.

Apakah serangan pengekstrakan model?

Serangan pengekstrakan model ialah serangan di mana musuh membina semula salinan berfungsi model pembelajaran mesin dengan menghantar pertanyaan dan pembelajaran daripada outputnya. Ia juga dikenali sebagai pencurian model atau kecurian model. Penyerang tidak pernah memerlukan pemberat asal, data latihan atau kod sumber: antara muka awam sudah memadai.

Idea ini bukanlah sesuatu yang baharu. Penyelidik menunjukkannya berbanding API ramalan komersial pada tahun 2016 (Tramèr dkk., Keselamatan USENIX). Pada tahun 2024, satu pasukan di Google DeepMind telah mendapatkan semula sebahagian daripada model bahasa pengeluaran melalui API awamnya (Carlini dkk.). MITER ATLAS menjejaki tingkah laku yang sama seperti teknik musuh terhadap sistem AI.

Untuk aplikasi LLM, OWASP melipatgandakan kecurian model ke dalam LLM10:2025 Penggunaan Tanpa BatasIa menerangkan dua varian: pengekstrakan melalui pertanyaan API yang direka bentuk dan replikasi berfungsi, yang mana model sasaran menjana data sintetik untuk memperhalusi model yang bersaing.

Serangan pengekstrakan model: istilah utama

Ancaman yang sama mempunyai beberapa nama. Inilah maksud setiap satunya, dan di mana ia bertindih.

TermApa maksudnya
Serangan pengekstrakan modelMembina semula tingkah laku model daripada respons pertanyaannya
Kecurian model / kecurian modelSinonim biasa; kecurian model juga meliputi kecurian langsung fail pemberat
Replikasi model berfungsiMenggunakan output sasaran sebagai data latihan untuk model pengganti
Model bayanganKlon penyerang, dilatih untuk meniru sasaran

Cara serangan pengekstrakan model berfungsi

Setiap serangan pengekstrakan model mengikuti gelung yang sama: cari titik akhir, tanya pada skala, latih salinan.

  1. Cari titik akhir. Penyerang mencari API inferens: backend sembang, perkhidmatan pengelasan, titik akhir penyematan, model dalaman yang boleh dicapai oleh rakan kongsi.
  2. Reka bentuk pertanyaan. Input dipilih untuk menampung keperluan modelcisruang ion dengan cekap, kadangkala digabungkan dengan suntikan segera untuk memujuk keluar jawapan yang lebih kaya.
  3. Tuai hasil tuaian. Label, skor keyakinan, logit atau pelengkapan teks penuh semuanya merupakan maklumat kebocoran. Lebih kaya respons, lebih cepat kecurian berlaku.
  4. Latih pengganti. Pasangan input dan output yang dikumpul menjadi set latihan untuk model bayangan yang meniru model asal.
  5. Eksploitasi klon itu. Salinan tersebut digunakan untuk melangkau kos pelesenan, bersaing secara langsung atau berlatih serangan musuh di luar talian sebelum melancarkannya ke arah model sebenar.

Apa yang menjadikan kecurian model sukar dikesan ialah setiap permintaan adalah sah. Isyaratnya terdapat pada kelantangan, corak dan, yang paling penting, di mana permintaan tersebut sampai.

Mengapa pertahanan biasa terlepas: jurang inventori

. standard Nasihat terhadap serangan pengekstrakan model adalah kukuh: sahkan pemanggil, had kadar dan pendikit, kurangkan skor keyakinan daripada respons, output tera air dan perhatikan corak pertanyaan yang anomali. Setiap kawalan digunakan setiap titik akhir. Di situlah ia berfungsi.

AI kini memasuki pangkalan kod lebih cepat daripada pasukan keselamatan yang dapat menjejakinya. Seorang pembangun menghubungkan SDK LLM ke dalam mikroservis. Pasukan data mendedahkan model yang ditala halus untuk alat dalaman. Rangka kerja ejen memutar lapisan servisnya sendiri. Tiada satu pun daripada ini melalui baris gilir semakan dan kebanyakannya tidak pernah muncul dalam gerbang API atau fail spesifikasi.

Hasilnya ialah bayangan AI: model, ejen dan titik akhir inferens yang wujud dalam pengeluaran tetapi tidak ada dalam senarai sesiapa pun. Titik akhir yang tiada siapa yang tahu tidak akan mendapat had kadar, tiada semakan pengesahan dan tiada pemantauan. Untuk serangan pengekstrakan model, ia adalah sasaran yang ideal.

OWASP menunjukkan perkara yang sama. Antara mitigasinya untuk LLM10, ia mengesyorkan mengekalkan inventori model ML yang berpusat. Logiknya mudah: anda tidak boleh melindungi titik akhir inferens yang belum anda inventorikan.

Inventori dahulu: temui setiap titik akhir, kemudian lindunginya

Inventori AI yang berguna menjawab empat soalan untuk setiap aset: apakah ia, di mana ia diisytiharkan, apa yang digunakannya dan apa yang melindunginya.

Soalan inventoriMengapa ia penting terhadap pengekstrakan model
Model dan titik akhir inferens yang manakah wujud?Setiap titik akhir yang tidak disenaraikan ialah sasaran pengekstrakan yang tidak dilindungi
Di manakah ia diisytiharkan dalam kod?Pemilikan: seseorang mesti membetulkan kawalan yang hilang
Data dan alatan apa yang berkaitan?Model yang dilatih menggunakan data sensitif lebih bernilai untuk dicuri
Yang guardrails dan kawalan terpakai?Menunjukkan jurang liputan sebelum penyerang menemuinya

Tempat terbaik untuk membina inventori ini adalah dalam kod sumber. Kod ialah tempat titik akhir dilahirkan, jadi penemuan aset AI dalam repositori akan menemuinya sebelum ia mencapai pengeluaran. Ia juga menghubungkan setiap aset kepada projek, a commit, dan sebuah pasukan, yang merupakan apa yang mengubah senarai menjadi tindakan.

Dua lagi tabiat menutup gelung tersebut. Eksport inventori sebagai bil bahan AI (AI-BOM) supaya pasukan tadbir urus dan audit melihat gambaran yang sama. Dan imbas semula setiap perubahan, kerana inventori hanya sebaik kemas kini terakhirnya.

Bagaimana Xygeni menutup jurang sebelum serangan pengekstrakan model bermula

Keselamatan AI Xygeni membina inventori AI terus daripada kod sumber. Ia menemui model AI, ejen, rangka kerja AI, pelayan dan alatan MCP, gesaan, guardrails, stor vektor, set data, titik akhir inferens dan alat pengekodan AI merentasi repositori anda, termasuk fail model seperti .onnx, .pt dan .pklHubungan juga dipetakan: ejen mana yang menggunakan model mana, alatan mana yang dilaksanakannya, set data mana yang digunakannya untuk melatih.

Setiap aset dalam inventori Aset AI menunjukkan model dan penyedianya, sumber data yang disambungkan dengan bendera PII, liputan penghadang dan medan tadbir urus seperti kategori risiko Akta AI EU. Paparan Graf AI menunjukkan cara ejen, model, alatan dan set data berhubung. Satu klik mengeksport CycloneDX 1.6 ML-BOM, di sebelah anda SBOM dan CBOM.

Daripada inventori kepada perlindungan:

  • Pengesanan risiko dipetakan kepada OWASP. Pek pengesan merangkumi kesemua sepuluh kategori 10 Teratas OWASP LLM, termasuk Penggunaan Tanpa Batas LLM10, jadi setiap penemuan menggunakan bahasa yang digunakan oleh juruaudit anda.
  • Kawalan titik akhir disemak dalam kod. Keselamatan API Xygeni menemui titik akhir API daripada kod dan spesifikasi serta menandakan titik akhir yang tidak disahkan, pengehadan kadar yang hilang dan API bayangan yang melayang daripada spesifikasi.
  • Bukti pada aplikasi yang sedang berjalan. Pengujian Pentekanan AI Xygeni menguji aplikasi yang digunakan dan membuktikan kelemahan yang boleh dieksploitasi.
  • Cepat betulkan. AI Triage mengutamakan penemuan AI dan AI Remediasi menjana panduan pembetulan untuk kesemua sepuluh kategori OWASP LLM.

Semuanya berjalan sebagai imbasan statik dalam CI/CD atau secara tempatan, dengan SaaS, on-premise dan pilihan jurang udara. Pasukan yang memerlukan peringkat semakan semantik untuk kekal di peringkat dalaman boleh menjalankannya pada model yang dihoskan sendiri.

Senarai semak pencegahan serangan pengekstrakan model

Lapan kawalan, mengikut urutan. Dua yang pertama membolehkan enam yang lain.

  1. InventoriInventori setiap model, ejen dan titik akhir inferens daripada kod sumber dan pastikan ia terkini pada setiap commit.
  2. PemilikanTetapkan pemilik kepada setiap aset AI dalam inventori.
  3. PengesahanMemerlukan pengesahan pada setiap titik akhir inferens, termasuk yang dalaman.
  4. Mengehadkan kadarGunakan had kadar, kuota dan tamat masa bagi setiap pemanggil.
  5. Pengurangan outputKembalikan output minimum yang diperlukan: jatuhkan skor keyakinan dan logit di tempat yang tidak diperlukan oleh pengguna.
  6. PemantauanPantau jumlah dan corak pertanyaan untuk penyelidikan sistematik.
  7. WatermarkingPertimbangkan output penandaan air bagi model proprietari bernilai tinggi.
  8. Tadbir UrusEksport AI-BOM untuk tadbir urus dan audit, serta pemetakan dapatan kepada OWASP LLM10.

Cari titik akhir inferens anda sebelum penyerang melakukannya

Serangan pengekstrakan model hanya memerlukan satu titik akhir yang anda terlupa. Ketahui AI yang sebenarnya dijalankan oleh kod anda: lihat bagaimana Xygeni AI Security membina inventori AI anda, or menempah demo.

Soalan Lazim

Apakah perbezaan antara serangan pengekstrakan model dan penyongsangan model?

Serangan pengekstrakan model meniru model itu sendiri: tingkah laku dan decislogik ion. Penyongsangan model menyasarkan data latihan, cuba membina semula rekod sensitif yang dipelajari oleh model. Kedua-duanya menyalahgunakan akses pertanyaan, tetapi pengekstrakan mencuri harta intelek manakala penyongsangan membocorkan data peribadi.

Bolehkah serangan pengekstrakan model menyasarkan LLM, atau hanya model ML klasik?

Kedua-duanya. Kajian awal menyasarkan pengelas di sebalik API ramalan. Hari ini OWASP menyenaraikan pengekstrakan model dan replikasi model berfungsi sebagai risiko LLM di bawah LLM10:2025 Penggunaan Tanpa Batas, yang mana penyerang menggunakan output LLM sendiri untuk memperhalusi pengganti.

Bagaimanakah saya tahu titik akhir inferens saya yang mana terdedah kepada kecurian model?

Mulakan dengan inventori yang dibina daripada kod sumber: setiap model, ejen dan titik akhir inferens yang diisytiharkan oleh aplikasi anda. Kemudian, semak setiap satu untuk pengesahan, pengehadan kadar dan pendedahan output. Xygeni AI Security menemui aset AI merentasi repositori anda dan mengeksportnya sebagai AI-BOM, dan Xygeni API Security menandakan titik akhir yang kekurangan pengesahan atau pengehadan kadar.

alat-analisis-komposisi-perisian-alat-sca
Utamakan, pulihkan dan lindungi risiko perisian anda
Dapatkan Akaun Percuma anda.
Tiada kad kredit yang diperlukan.

Lindungi pembangunan dan penghantaran perisian anda

dengan Suit Produk Xygeni