TL; DR
การโจมตีเพื่อดึงข้อมูลโมเดลคืออะไร และเหตุใดการตรวจสอบสินค้าคงคลังจึงสำคัญเป็นอันดับแรก
การโจมตีแบบดึงข้อมูลโมเดลจะคัดลอก AI ของคุณผ่าน API ของมันเอง ไม่มีการละเมิดข้อมูล ไม่มีการขโมยน้ำหนักโมเดล และไม่มีมัลแวร์
- วิธีการทำงาน: การโจมตีเพื่อดึงข้อมูลโมเดล (เรียกอีกอย่างว่า การขโมยโมเดล หรือการโจรกรรมโมเดล) คือการสอบถามข้อมูลจากเอนด์พอยต์การอนุมานในระดับขนาดใหญ่ และฝึกฝนโมเดลจำลองโดยใช้คำตอบเหล่านั้น จากบันทึกการใช้งานของคุณ ผู้โจมตีจะดูเหมือนลูกค้ารายใหญ่
- ตำแหน่งที่ตั้ง: OWASP จัดประเภทการสกัดโมเดลภายใต้ LLM10:2025 การบริโภคไร้ขีดจำกัด และระบุว่าการจัดทำบัญชีรายชื่อแบบจำลองส่วนกลางเป็นหนึ่งในมาตรการบรรเทาผลกระทบ
- เหตุใดการป้องกันจึงพลาดเป้า: การจำกัดอัตราการใช้งาน การตรวจสอบสิทธิ์ และการตรวจสอบ จะช่วยปกป้องเฉพาะปลายทางที่คุณรู้จักเท่านั้น ปลายทางของ Shadow AI จะไม่ได้รับการคุ้มครองใดๆ เลย
การป้องกันประการแรก: จัดทำบัญชีรายการ AI ของทุกโมเดล เอเจนต์ และเอนด์พอยต์การอนุมานที่โค้ดของคุณเปิดเผย โดยตรวจสอบจากซอร์สโค้ดก่อนที่จะเผยแพร่ คุณไม่สามารถปกป้องเอนด์พอยต์การอนุมานที่คุณไม่ได้จัดทำบัญชีรายการไว้ได้
โมเดลของคุณอาจถูกขโมยไปได้โดยที่ไม่มีใครแตะต้องเซิร์ฟเวอร์ของคุณเลย
ทีมของคุณใช้เวลาหลายเดือนในการปรับแต่งโมเดลโดยใช้ข้อมูลที่เป็นกรรมสิทธิ์ โมเดลนี้ทำงานอยู่เบื้องหลัง API ที่ตอบสนองคำขอหลายพันครั้งต่อวัน ทีนี้ลองนึกภาพว่าคู่แข่งสามารถสร้างมูลค่าส่วนใหญ่ขึ้นมาใหม่ได้ในราคาเพียงแค่การเรียกใช้ API เหล่านั้น
นั่นคือการโจมตีแบบดึงข้อมูลโมเดล ไม่มีใครบุกรุกโครงสร้างพื้นฐานของคุณหรือดาวน์โหลดน้ำหนักโมเดลของคุณ ผู้โจมตีเพียงแค่ถามคำถามที่เลือกมาอย่างดีกับโมเดลของคุณ บันทึกคำตอบ และฝึกฝนโมเดลสำเนาขึ้นมา
ทีมส่วนใหญ่รับมือกับความเสี่ยงนี้ด้วยการจำกัดอัตราการใช้งาน การตรวจสอบสิทธิ์ และการตรวจสอบผลลัพธ์ การควบคุมเหล่านั้นได้ผล แต่มีจุดบอดอยู่หนึ่งอย่างคือ พวกมันปกป้องเฉพาะเอนด์พอยต์การอนุมานที่คุณรู้ว่ามีอยู่เท่านั้น ในคู่มือนี้ เราจะอธิบายว่าการโจมตีเพื่อดึงโมเดลคืออะไร การขโมยโมเดลทำงานอย่างไรในทางปฏิบัติ และเหตุใดการป้องกันทุกอย่างจึงเริ่มต้นด้วยการสำรวจตรวจสอบ
การโจมตีแบบดึงข้อมูลโมเดลคืออะไร?
การโจมตีแบบดึงโมเดล (Model Extraction Attack) คือการโจมตีที่ผู้โจมตีสร้างสำเนาที่ใช้งานได้ของโมเดลการเรียนรู้ของเครื่องโดยการส่งคำถามไปยังโมเดลและเรียนรู้จากผลลัพธ์ของโมเดลนั้น เรียกอีกอย่างว่าการขโมยโมเดล (Model Stealing หรือ Model Theft) ผู้โจมตีไม่จำเป็นต้องมีน้ำหนัก (weights) ข้อมูลการฝึกอบรม หรือซอร์สโค้ดดั้งเดิมเลย เพียงแค่ส่วนติดต่อสาธารณะก็เพียงพอแล้ว
แนวคิดนี้ไม่ใช่เรื่องใหม่ นักวิจัยได้แสดงให้เห็นแล้วโดยเปรียบเทียบกับ API การทำนายเชิงพาณิชย์ในปี 2016 (Tramèr และคณะ, USENIX Security). ในปี 2024 ทีมงานที่ Google DeepMind ได้กู้คืนส่วนหนึ่งของโมเดลภาษาที่ใช้ในการผลิตผ่าน API สาธารณะ (คาร์ลินีและคณะ). ไมเตอร์แอตลาส ติดตามพฤติกรรมเดียวกันกับเทคนิคการโจมตีระบบ AI ของฝ่ายตรงข้าม
สำหรับการสมัครเรียนหลักสูตร LLM นั้น OWASP ได้รวมการขโมยแบบจำลองเข้าไว้ด้วย LLM10:2025 การบริโภคไร้ขีดจำกัดโดยจะอธิบายถึงสองรูปแบบ ได้แก่ การสกัดข้อมูลผ่านการสืบค้น API ที่สร้างขึ้นเป็นพิเศษ และการจำลองการทำงาน ซึ่งแบบจำลองเป้าหมายจะสร้างข้อมูลสังเคราะห์เพื่อปรับแต่งแบบจำลองคู่แข่งให้ดียิ่งขึ้น
การโจมตีแบบสกัดโมเดล: คำศัพท์สำคัญ
ภัยคุกคามเดียวกันนี้มีชื่อเรียกหลายแบบ ต่อไปนี้คือความหมายของแต่ละชื่อ และส่วนที่ทับซ้อนกัน
| เทอม | มันหมายถึงอะไร |
|---|---|
| การโจมตีการสกัดโมเดล | การสร้างพฤติกรรมของโมเดลขึ้นใหม่จากผลตอบสนองของแบบสอบถาม |
| การขโมยนางแบบ / การลักขโมยแบบจำลอง | คำพ้องความหมายทั่วไป: การขโมยแบบจำลองยังครอบคลุมถึงการขโมยไฟล์น้ำหนักโดยตรงด้วย |
| การจำลองแบบจำลองเชิงฟังก์ชัน | ใช้ผลลัพธ์ของเป้าหมายเป็นข้อมูลฝึกฝนสำหรับแบบจำลองทดแทน |
| แบบจำลองเงา | ร่างโคลนของผู้โจมตี ซึ่งได้รับการฝึกฝนให้เลียนแบบเป้าหมาย |
วิธีการทำงานของการโจมตีแบบดึงข้อมูลโมเดล
การโจมตีเพื่อดึงข้อมูลโมเดลทุกรูปแบบล้วนใช้กระบวนการเดียวกัน คือ ค้นหาปลายทาง สอบถามข้อมูลจากปลายทางนั้นในวงกว้าง และฝึกฝนโมเดลให้สร้างสำเนา
- ค้นหาจุดสิ้นสุด ผู้โจมตีค้นหา API สำหรับการอนุมาน: ระบบแบ็กเอนด์แชท บริการจำแนกประเภท จุดเชื่อมต่อฝังข้อมูล หรือโมเดลภายในที่คู่ค้าสามารถเข้าถึงได้
- ออกแบบคำสั่งค้นหา มีการเลือกข้อมูลป้อนเข้าเพื่อให้ครอบคลุมความต้องการของแบบจำลองcisการใช้พื้นที่ไอออนอย่างมีประสิทธิภาพ บางครั้งอาจใช้ร่วมกับการฉีดอย่างรวดเร็วเพื่อให้ได้คำตอบที่ละเอียดมากขึ้น
- เก็บเกี่ยวผลผลิต ป้ายกำกับ คะแนนความเชื่อมั่น ค่าลอจิต หรือการเติมข้อความแบบเต็ม ล้วนเป็นข้อมูลที่รั่วไหลได้ ยิ่งคำตอบมีรายละเอียดมากเท่าไหร่ การขโมยก็ยิ่งเกิดขึ้นเร็วเท่านั้น
- ฝึกฝนผู้เล่นสำรอง คู่ข้อมูลอินพุตและเอาต์พุตที่รวบรวมได้จะกลายเป็นชุดข้อมูลฝึกฝนสำหรับแบบจำลองเงาที่เลียนแบบแบบจำลองดั้งเดิม
- ใช้ประโยชน์จากโคลน การคัดลอกนี้ใช้เพื่อหลีกเลี่ยงค่าใช้จ่ายด้านลิขสิทธิ์ แข่งขันโดยตรง หรือฝึกซ้อมการโจมตีแบบเผชิญหน้าแบบออฟไลน์ก่อนที่จะโจมตีโมเดลจริง
สิ่งที่ทำให้การขโมยโมเดลจับยากก็คือ คำขอทุกคำขอล้วนถูกต้องตามกฎหมาย สัญญาณบ่งชี้อยู่ที่ปริมาณ รูปแบบ และที่สำคัญที่สุดคือ ตำแหน่งที่คำขอเหล่านั้นมาถึง
เหตุผลที่กลยุทธ์ป้องกันแบบเดิมๆ ล้มเหลว: ช่องว่างด้านสินค้าคงคลัง
การขอ standard คำแนะนำในการป้องกันการโจมตีแบบดึงข้อมูลโมเดลนั้นถูกต้อง: ตรวจสอบตัวตนผู้โทร จำกัดอัตราการโทรและลดปริมาณการรับส่งข้อมูล ตัดคะแนนความเชื่อมั่นออกจากคำตอบ ใส่ลายน้ำในผลลัพธ์ และเฝ้าระวังรูปแบบการสืบค้นที่ผิดปกติ การควบคุมแต่ละอย่างถูกนำไปใช้กับแต่ละเอนด์พอยต์ นั่นคือจุดที่มันล้มเหลว
ปัจจุบัน AI แทรกซึมเข้าสู่โค้ดเบสได้เร็วกว่าที่ทีมรักษาความปลอดภัยจะตามทัน นักพัฒนาเชื่อมต่อ LLM SDK เข้ากับไมโครเซอร์วิส ทีมข้อมูลเปิดเผยโมเดลที่ปรับแต่งอย่างละเอียดสำหรับเครื่องมือภายใน เฟรมเวิร์กเอเจนต์สร้างเลเยอร์การให้บริการของตัวเองขึ้นมา สิ่งเหล่านี้ไม่ได้ผ่านคิวการตรวจสอบ และหลายๆ อย่างไม่เคยปรากฏในเกตเวย์ API หรือไฟล์สเปคเลย
ผลลัพธ์ที่ได้คือ AI เงา: โมเดล เอเจนต์ และเอนด์พอยต์การอนุมานที่มีอยู่ในระบบการผลิต แต่ไม่ได้อยู่ในรายชื่อของใครเลย เอนด์พอยต์ที่ไม่มีใครรู้จักจะไม่มีการจำกัดอัตราการใช้งาน ไม่มีการตรวจสอบการรับรองความถูกต้อง และไม่มีการตรวจสอบใดๆ สำหรับการโจมตีเพื่อดึงข้อมูลโมเดล มันจึงเป็นเป้าหมายที่เหมาะสมที่สุด
OWASP ก็ชี้ไปในทิศทางเดียวกัน ในบรรดามาตรการบรรเทาผลกระทบสำหรับ LLM10 นั้น OWASP แนะนำให้จัดทำบัญชีรายชื่อโมเดล ML แบบรวมศูนย์ เหตุผลนั้นง่ายมาก: คุณไม่สามารถปกป้องปลายทางการอนุมานที่คุณยังไม่ได้บันทึกไว้ได้
ตรวจสอบก่อน: ค้นหาจุดเชื่อมต่อทุกจุด จากนั้นจึงปกป้องจุดเชื่อมต่อเหล่านั้น
ระบบ AI ที่มีประโยชน์จะตอบคำถามสี่ข้อสำหรับสินทรัพย์แต่ละรายการ ได้แก่ สินทรัพย์นั้นคืออะไร ประกาศไว้ที่ไหน สื่อสารกับอะไร และมีอะไรปกป้องสินทรัพย์นั้นบ้าง
| คำถามเกี่ยวกับสินค้าคงคลัง | เหตุใดจึงมีความสำคัญต่อการสกัดโมเดล |
|---|---|
| มีแบบจำลองและจุดสิ้นสุดการอนุมานใดบ้าง? | ทุกเอนด์พอยต์ที่ไม่ได้ระบุไว้ ล้วนเป็นเป้าหมายการดึงข้อมูลที่ไม่ได้รับการป้องกัน |
| ตัวแปรเหล่านั้นถูกประกาศไว้ในโค้ดที่ไหน? | ความรับผิดชอบ: ใครสักคนต้องซ่อมแซมส่วนควบคุมที่หายไป |
| ข้อมูลและเครื่องมือใดบ้างที่เชื่อมต่อกัน? | โมเดลที่ฝึกฝนด้วยข้อมูลที่ละเอียดอ่อนนั้นมีมูลค่าสูงกว่าในการถูกขโมย |
| ที่ guardrails และมีการควบคุมหรือไม่? | แสดงช่องโหว่ในการครอบคลุมก่อนที่ผู้โจมตีจะค้นพบ |
สถานที่ที่ดีที่สุดในการสร้างรายการสินทรัพย์นี้คือในซอร์สโค้ด โค้ดคือจุดกำเนิดของเอนด์พอยต์ ดังนั้นการค้นหาสินทรัพย์ AI ในที่เก็บข้อมูลจะช่วยให้ค้นพบสินทรัพย์เหล่านั้นก่อนที่จะถึงขั้นตอนการผลิต นอกจากนี้ยังเชื่อมโยงสินทรัพย์แต่ละรายการเข้ากับโครงการอีกด้วย commitและทีมงาน ซึ่งเป็นสิ่งที่เปลี่ยนรายการให้เป็นการกระทำ
อีกสองวิธีที่จะทำให้กระบวนการสมบูรณ์ยิ่งขึ้น คือ การส่งออกข้อมูลสินค้าคงคลังในรูปแบบรายการวัสดุที่ใช้ปัญญาประดิษฐ์ (AI-BOM) เพื่อให้ทีมกำกับดูแลและทีมตรวจสอบเห็นภาพรวมเดียวกัน และการสแกนซ้ำทุกครั้งที่มีการเปลี่ยนแปลง เพราะข้อมูลสินค้าคงคลังจะดีได้ก็ต่อเมื่อได้รับการอัปเดตครั้งล่าสุดอย่างถูกต้อง
Xygeni ปิดช่องโหว่ได้อย่างไรก่อนที่การโจมตีเพื่อดึงข้อมูลโมเดลจะเริ่มต้นขึ้น
Xygeni AI Security สร้างฐานข้อมูล AI โดยตรงจากซอร์สโค้ด โดยจะค้นหาโมเดล AI, เอเจนต์, เฟรมเวิร์ก AI, เซิร์ฟเวอร์ MCP และเครื่องมือต่างๆ รวมถึงข้อความแจ้งเตือน guardrailsรวมถึงไฟล์โมเดล ไฟล์เวกเตอร์ ชุดข้อมูล จุดสิ้นสุดการอนุมาน และเครื่องมือเขียนโค้ด AI ในที่เก็บข้อมูลของคุณ เช่น ไฟล์โมเดล เป็นต้น .onnx, .pt และ .pklนอกจากนี้ยังมีการแสดงความสัมพันธ์ต่างๆ ด้วย เช่น เอเจนต์ใดใช้โมเดลใด ใช้เครื่องมือใด และใช้ชุดข้อมูลใดในการฝึกฝน
สินทรัพย์แต่ละรายการในรายการสินทรัพย์ AI จะแสดงโมเดลและผู้ให้บริการ แหล่งข้อมูลที่เชื่อมต่อพร้อมแฟล็ก PII ความคุ้มครองการป้องกัน และฟิลด์การกำกับดูแล เช่น หมวดความเสี่ยงตามกฎหมาย AI ของสหภาพยุโรป มุมมองกราฟ AI แสดงให้เห็นว่าเอเจนต์ โมเดล เครื่องมือ และชุดข้อมูลเชื่อมต่อกันอย่างไร การส่งออก CycloneDX 1.6 ML-BOM ด้วยการคลิกเพียงครั้งเดียว จะแสดงอยู่ข้างๆ คุณ SBOM และ CBOM
ตั้งแต่การจัดการสินค้าคงคลังไปจนถึงการปกป้อง:
- การตรวจจับความเสี่ยงที่เชื่อมโยงกับ OWASP ชุดเครื่องมือตรวจจับครอบคลุมหมวดหมู่ OWASP LLM Top 10 ทั้งสิบหมวด รวมถึง LLM10 Unbounded Consumption ดังนั้นทุกข้อค้นพบจึงใช้ภาษาที่ผู้ตรวจสอบบัญชีของคุณใช้
- การควบคุมปลายทางได้รับการตรวจสอบในโค้ดแล้ว การรักษาความปลอดภัย API ของ Xygeni ตรวจสอบหาเอนด์พอยต์ API จากโค้ดและข้อกำหนด และระบุเอนด์พอยต์ที่ไม่ได้รับการตรวจสอบสิทธิ์ การจำกัดอัตราการใช้งานที่ขาดหายไป และ API เงาที่เบี่ยงเบนไปจากข้อกำหนด
- หลักฐานจากแอปที่ใช้ในการวิ่ง Xygeni AI Pentesting ทดสอบแอปพลิเคชันที่ใช้งานจริงและพิสูจน์จุดอ่อนที่สามารถถูกโจมตีได้
- แก้ไขให้เร็ว AI Triage จะจัดลำดับความสำคัญของสิ่งที่ AI ค้นพบ และ AI Remediation จะสร้างคำแนะนำในการแก้ไขสำหรับหมวดหมู่ OWASP LLM ทั้งสิบหมวด
ทั้งหมดนี้ทำงานในรูปแบบการสแกนแบบคงที่ใน CI/CD หรือในระดับท้องถิ่น ด้วย SaaS on-premise และตัวเลือกแบบแยกจากเครือข่าย ทีมที่ต้องการขั้นตอนการตรวจสอบความหมายภายในองค์กรสามารถใช้งานในรูปแบบโฮสต์เองได้
รายการตรวจสอบการป้องกันการโจมตีการสกัดโมเดล
มีปุ่มควบคุมแปดปุ่มเรียงตามลำดับ โดยสองปุ่มแรกทำให้ปุ่มอีกหกปุ่มที่เหลือเป็นไปได้
- 1สินค้าคงคลังจัดทำรายการโมเดล เอเจนต์ และเอนด์พอยต์การอนุมานทั้งหมดจากซอร์สโค้ด และอัปเดตให้เป็นปัจจุบันอยู่เสมอ commit.
- 2กรรมสิทธิ์กำหนดเจ้าของให้กับสินทรัพย์ AI แต่ละรายการในคลังสินค้า
- 3การยืนยันตัวตนกำหนดให้ต้องมีการตรวจสอบสิทธิ์ในทุกจุดเชื่อมต่อการอนุมาน รวมถึงจุดเชื่อมต่อภายในด้วย
- 4อัตราจำกัดกำหนดอัตราการใช้งาน โควต้า และเวลาหมดอายุสำหรับผู้เรียกใช้แต่ละราย
- 5การลดผลลัพธ์ให้น้อยที่สุดแสดงผลลัพธ์ขั้นต่ำที่จำเป็น: ตัดคะแนนความเชื่อมั่นและค่าลอจิตที่ไม่จำเป็นออก
- 6การตรวจสอบตรวจสอบปริมาณและรูปแบบการสืบค้นข้อมูลเพื่อการวิเคราะห์อย่างเป็นระบบ
- 7ลายน้ำพิจารณาการใส่ลายน้ำให้กับผลลัพธ์ของโมเดลที่เป็นกรรมสิทธิ์ที่มีมูลค่าสูง
- 8การกำกับดูแลกิจการส่งออก AI-BOM เพื่อการกำกับดูแลและการตรวจสอบ และเชื่อมโยงผลการค้นหากับ OWASP LLM10
ค้นหาจุดสิ้นสุดการอนุมานของคุณก่อนที่ผู้โจมตีจะทำได้
การโจมตีแบบดึงข้อมูลโมเดลนั้นต้องการเพียงแค่เอนด์พอยต์เดียวที่คุณลืมไปเท่านั้น มาดูกันว่าโค้ดของคุณใช้ AI ประเภทใดกันแน่: ดูว่า Xygeni AI Security สร้างคลังข้อมูล AI ของคุณได้อย่างไร or จองการสาธิต.
คำถามที่พบบ่อย
การโจมตีเพื่อสกัดโมเดลและการโจมตีแบบผกผันโมเดลแตกต่างกันอย่างไร?
การโจมตีแบบดึงข้อมูลโมเดลจะคัดลอกตัวโมเดลเอง ได้แก่ พฤติกรรมและรายละเอียดของโมเดลcisตรรกะของไอออน การผกผันโมเดลมีเป้าหมายที่ข้อมูลการฝึกอบรม โดยพยายามสร้างบันทึกข้อมูลที่ละเอียดอ่อนซึ่งเป็นแหล่งข้อมูลที่โมเดลใช้เรียนรู้ขึ้นมาใหม่ ทั้งสองวิธีต่างละเมิดการเข้าถึงแบบสอบถาม แต่การดึงข้อมูลเป็นการขโมยทรัพย์สินทางปัญญา ในขณะที่การผกผันโมเดลเป็นการรั่วไหลของข้อมูลส่วนตัว
การโจมตีเพื่อสกัดโมเดลสามารถกำหนดเป้าหมายไปที่ LLM หรือเฉพาะโมเดล ML แบบคลาสสิกเท่านั้น?
ทั้งสองอย่าง การวิจัยในช่วงแรกมุ่งเป้าไปที่ตัวจำแนกประเภทที่อยู่เบื้องหลัง API การทำนาย ปัจจุบัน OWASP ระบุว่าการสกัดโมเดลและการจำลองโมเดลเชิงฟังก์ชันเป็นความเสี่ยงของ LLM ภายใต้ LLM10:2025 การบริโภคที่ไร้ขีดจำกัด ซึ่งผู้โจมตีใช้เอาต์พุตของ LLM เองเพื่อปรับแต่งโมเดลทดแทน
ฉันจะรู้ได้อย่างไรว่าเอนด์พอยต์การอนุมานใดบ้างของฉันที่เสี่ยงต่อการถูกขโมยโมเดล?
เริ่มต้นด้วยการสร้างรายการทรัพย์สินจากซอร์สโค้ด: ทุกโมเดล เอเจนต์ และเอนด์พอยต์การอนุมานที่แอปพลิเคชันของคุณประกาศ จากนั้นตรวจสอบแต่ละรายการสำหรับการตรวจสอบสิทธิ์ การจำกัดอัตรา และการเปิดเผยเอาต์พุต Xygeni AI Security ค้นหาทรัพย์สิน AI ทั่วทั้งที่เก็บข้อมูลของคุณและส่งออกเป็น AI-BOM และ Xygeni API Security จะทำเครื่องหมายเอนด์พอยต์ที่ขาดการตรวจสอบสิทธิ์หรือการจำกัดอัตรา







