TL? DR
Τι είναι μια επίθεση εξαγωγής μοντέλου και γιατί το απόθεμα έρχεται πρώτο
Μια επίθεση εξαγωγής μοντέλου αντιγράφει την τεχνητή νοημοσύνη σας μέσω του δικού της API. Καμία παραβίαση, καμία κλοπή βαρών, κανένα κακόβουλο λογισμικό.
- Πώς λειτουργεί: Μια επίθεση εξαγωγής μοντέλου (που ονομάζεται επίσης κλοπή μοντέλου ή κλοπή μοντέλου) υποβάλλει ερώτημα σε ένα τελικό σημείο συμπερασμού σε κλίμακα και εκπαιδεύει έναν κλώνο στις απαντήσεις. Στα αρχεία καταγραφής σας, ο εισβολέας μοιάζει με έναν βαρύ πελάτη.
- Πού βρίσκεται: Το OWASP ταξινομεί την εξαγωγή μοντέλου ως LLM10:2025 Απεριόριστη Κατανάλωση και παραθέτει ένα κεντρικό απόθεμα μοντέλων μεταξύ των μετριασμών του.
- Γιατί οι άμυνες αστοχούν: Τα όρια ρυθμού, ο έλεγχος ταυτότητας και η παρακολούθηση προστατεύουν μόνο τα τελικά σημεία που γνωρίζετε. Τα τελικά σημεία Shadow AI δεν λαμβάνουν κανένα από αυτά.
Η πρώτη άμυνα: Ένα απόθεμα τεχνητής νοημοσύνης κάθε μοντέλου, παράγοντα και τελικού σημείου συμπερασμού που εκθέτει ο κώδικά σας, το οποίο ανακαλύπτεται από την πηγή πριν από την αποστολή του. Δεν μπορείτε να προστατεύσετε τελικά σημεία συμπερασμού που δεν έχετε καταγράψει.
Το μοντέλο σας μπορεί να κλαπεί χωρίς κανείς να αγγίξει τους διακομιστές σας
Η ομάδα σας αφιέρωσε μήνες βελτιώνοντας ένα μοντέλο σε ιδιόκτητα δεδομένα. Βρίσκεται πίσω από ένα API που απαντά σε χιλιάδες αιτήματα την ημέρα. Τώρα φανταστείτε έναν ανταγωνιστή που ανακτά το μεγαλύτερο μέρος της αξίας του για την τιμή αυτών των κλήσεων API.
Αυτή είναι μια επίθεση εξαγωγής μοντέλου. Κανείς δεν παραβιάζει την υποδομή σας ούτε κατεβάζει τα βάρη σας. Ο εισβολέας απλώς θέτει στο μοντέλο σας αρκετές καλά επιλεγμένες ερωτήσεις, καταγράφει τις απαντήσεις και εκπαιδεύει ένα αντίγραφο.
Οι περισσότερες ομάδες αντιμετωπίζουν αυτόν τον κίνδυνο με όρια ρυθμού, έλεγχο ταυτότητας και παρακολούθηση εξόδου. Αυτοί οι έλεγχοι λειτουργούν. Αλλά μοιράζονται ένα κοινό τυφλό σημείο: προστατεύουν μόνο τα τελικά σημεία συμπερασμάτων που γνωρίζετε ότι υπάρχουν. Σε αυτόν τον οδηγό εξηγούμε τι είναι μια επίθεση εξαγωγής μοντέλου, πώς λειτουργεί η κλοπή μοντέλου στην πράξη και γιατί κάθε άμυνα ξεκινά με ένα απόθεμα.
Τι είναι μια επίθεση εξαγωγής μοντέλου;
Μια επίθεση εξαγωγής μοντέλου είναι μια επίθεση στην οποία ένας επιτιθέμενος ανακατασκευάζει ένα λειτουργικό αντίγραφο ενός μοντέλου μηχανικής μάθησης στέλνοντάς του ερωτήματα και μαθαίνοντας από τις εξόδους του. Είναι επίσης γνωστή ως κλοπή μοντέλου ή κλοπή μοντέλου. Ο επιτιθέμενος δεν χρειάζεται ποτέ τα αρχικά βάρη, τα δεδομένα εκπαίδευσης ή τον πηγαίο κώδικα: η δημόσια διεπαφή είναι αρκετή.
Η ιδέα δεν είναι καινούργια. Ερευνητές την απέδειξαν σε σύγκριση με εμπορικά API πρόβλεψης το 2016 (Tramèr et al., Ασφάλεια USENIX). Το 2024, μια ομάδα στην Google DeepMind ανέκτησε μέρος ενός μοντέλου γλώσσας παραγωγής μέσω του δημόσιου API της (Καρλίνι κ.ά.). ΜΗΤΡΟΥ ΑΤΛΑΣ παρακολουθεί την ίδια συμπεριφορά με μια τεχνική εχθρού εναντίον συστημάτων Τεχνητής Νοημοσύνης.
Για εφαρμογές LLM, το OWASP ενσωματώνει την κλοπή μοντέλου σε LLM10:2025 Απεριόριστη ΚατανάλωσηΠεριγράφει δύο παραλλαγές: την εξαγωγή μέσω δημιουργημένων ερωτημάτων API και τη λειτουργική αναπαραγωγή, όπου το μοντέλο-στόχος δημιουργεί συνθετικά δεδομένα για να βελτιώσει ένα ανταγωνιστικό μοντέλο.
Επίθεση εξαγωγής μοντέλου: βασικοί όροι
Η ίδια απειλή έχει πολλά ονόματα. Δείτε τι σημαίνει το καθένα και πού αλληλεπικαλύπτονται.
| Όρος | Τι σημαίνει |
|---|---|
| Επίθεση εξαγωγής μοντέλου | Αναδόμηση της συμπεριφοράς ενός μοντέλου από τις απαντήσεις στο ερώτημα |
| Κλοπή μοντέλου / κλοπή μοντέλου | Συνήθη συνώνυμα: η κλοπή μοντέλου καλύπτει επίσης την άμεση κλοπή αρχείων βάρους |
| Αναπαραγωγή λειτουργικού μοντέλου | Χρήση των εξόδων του στόχου ως δεδομένα εκπαίδευσης για ένα υποκατάστατο μοντέλο |
| Μοντέλο σκιάς | Ο κλώνος του επιτιθέμενου, εκπαιδευμένος να μιμείται τον στόχο |
Πώς λειτουργεί μια επίθεση εξαγωγής μοντέλου
Κάθε επίθεση εξαγωγής μοντέλου ακολουθεί τον ίδιο βρόχο: εύρεση ενός τελικού σημείου, υποβολή ερωτήματος σε αυτό σε κλίμακα, εκπαίδευση ενός αντιγράφου.
- Βρείτε το τελικό σημείο. Ο εισβολέας εντοπίζει ένα API συμπερασμάτων: ένα backend συνομιλίας, μια υπηρεσία ταξινόμησης, ένα τελικό σημείο ενσωμάτωσης, ένα εσωτερικό μοντέλο στο οποίο μπορεί να φτάσει ένας συνεργάτης.
- Σχεδιάστε τα ερωτήματα. Οι είσοδοι επιλέγονται για να καλύψουν το de του μοντέλου.cisιοντικό χώρο αποτελεσματικά, μερικές φορές σε συνδυασμό με άμεση έγχυση για την εξαγωγή πιο πλούσιων απαντήσεων.
- Συγκομίστε τα αποτελέσματα. Οι ετικέτες, οι βαθμολογίες εμπιστοσύνης, τα λογικά στοιχεία ή οι συμπληρώσεις πλήρους κειμένου, όλα διαρρέουν πληροφορίες. Όσο πιο πλούσια είναι η απάντηση, τόσο πιο γρήγορη είναι η κλοπή.
- Εκπαιδεύστε τον αναπληρωματικό. Τα συλλεγόμενα ζεύγη εισόδου και εξόδου γίνονται ένα σύνολο εκπαίδευσης για ένα μοντέλο σκιάς που μιμείται το αρχικό.
- Εκμεταλλευτείτε τον κλώνο. Το αντίγραφο χρησιμοποιείται για την παράκαμψη του κόστους αδειοδότησης, τον άμεσο ανταγωνισμό ή την εξάσκηση αντιμαχητικών επιθέσεων εκτός σύνδεσης πριν από την εξαπέλυσή τους στο πραγματικό μοντέλο.
Αυτό που καθιστά δύσκολο να εντοπιστεί η κλοπή μοντέλων είναι ότι κάθε αίτημα είναι νόμιμο. Το σήμα βρίσκεται στον όγκο, στο μοτίβο και, πάνω απ 'όλα, στο πού καταλήγουν τα αιτήματα.
Γιατί οι συνήθεις άμυνες αποτυγχάνουν: το κενό αποθεμάτων
The standard Οι συμβουλές κατά μιας επίθεσης εξαγωγής μοντέλου είναι σωστές: έλεγχος ταυτότητας καλούντων, όριο ρυθμού και επιτάχυνση, περικοπή βαθμολογιών εμπιστοσύνης από απαντήσεις, έξοδοι υδατογραφήματος και παρακολούθηση για ανώμαλα μοτίβα ερωτημάτων. Κάθε έλεγχος εφαρμόζεται ανά τελικό σημείο. Αυτό ακριβώς είναι το σημείο που σπάει.
Η Τεχνητή Νοημοσύνη (AI) εισέρχεται πλέον στις βάσεις κώδικα πιο γρήγορα από ό,τι μπορούν να την παρακολουθήσουν οι ομάδες ασφαλείας. Ένας προγραμματιστής συνδέει ένα LLM SDK σε μια μικρουπηρεσία. Μια ομάδα δεδομένων εκθέτει ένα βελτιωμένο μοντέλο για ένα εσωτερικό εργαλείο. Ένα πλαίσιο πρακτόρων δημιουργεί το δικό του επίπεδο εξυπηρέτησης. Κανένα από αυτά δεν περνάει από ουρά αξιολόγησης και πολλά δεν εμφανίζονται ποτέ σε μια πύλη API ή σε ένα αρχείο προδιαγραφών.
Το αποτέλεσμα είναι η σκιώδης τεχνητή νοημοσύνη (shadow AI): μοντέλα, πράκτορες και τελικά σημεία συμπερασμάτων που υπάρχουν στην παραγωγή αλλά δεν βρίσκονται στη λίστα κανενός. Ένα τελικό σημείο για το οποίο κανείς δεν γνωρίζει δεν λαμβάνει όριο ρυθμού, δεν ελέγχει τον έλεγχο ταυτότητας και δεν παρακολουθεί. Για μια επίθεση εξαγωγής μοντέλου, είναι ο ιδανικός στόχος.
Το OWASP επισημαίνει το ίδιο. Μεταξύ των μετριασμών που προσφέρει για το LLM10, συνιστά τη διατήρηση ενός κεντρικού αποθέματος μοντέλων ML. Η λογική είναι απλή: Δεν μπορείτε να προστατεύσετε τελικά σημεία συμπερασμού που δεν έχετε καταγράψει.
Απογραφή πρώτα: ανακαλύψτε κάθε τελικό σημείο και στη συνέχεια προστατέψτε το
Ένα χρήσιμο απόθεμα τεχνητής νοημοσύνης απαντά σε τέσσερις ερωτήσεις για κάθε περιουσιακό στοιχείο: τι είναι, πού δηλώνεται, με τι αλληλεπιδρά και τι το προστατεύει.
| Ερώτηση για το απόθεμα | Γιατί είναι σημαντικό να μην γίνεται εξαγωγή μοντέλου |
|---|---|
| Ποια μοντέλα και τελικά σημεία συμπερασμάτων υπάρχουν; | Κάθε μη καταχωρημένο τελικό σημείο είναι ένας μη προστατευμένος στόχος εξαγωγής |
| Πού δηλώνονται στον κώδικα; | Ιδιοκτησία: κάποιος πρέπει να διορθώσει τον έλεγχο που λείπει |
| Ποια δεδομένα και εργαλεία συνδέονται; | Ένα μοντέλο εκπαιδευμένο σε ευαίσθητα δεδομένα αξίζει περισσότερο να κλαπεί |
| Ποιες guardrails και ισχύουν οι έλεγχοι; | Εμφανίζει κενά κάλυψης πριν τα εντοπίσει ένας εισβολέας |
Το καλύτερο μέρος για να δημιουργήσετε αυτό το απόθεμα είναι στον πηγαίο κώδικα. Ο κώδικας είναι το σημείο όπου γεννιέται ένα τελικό σημείο, επομένως η ανακάλυψη πόρων τεχνητής νοημοσύνης στο αποθετήριο τους βρίσκει πριν φτάσουν στην παραγωγή. Συνδέει επίσης κάθε πόρους με ένα έργο, ένα commitκαι μια ομάδα, η οποία είναι αυτή που μετατρέπει μια λίστα σε δράση.
Δύο ακόμη συνήθειες κλείνουν τον κύκλο. Εξαγωγή του αποθέματος ως πίνακα υλικών τεχνητής νοημοσύνης (AI-BOM), ώστε οι ομάδες διακυβέρνησης και ελέγχου να βλέπουν την ίδια εικόνα. Και επανάληψη σάρωσης σε κάθε αλλαγή, επειδή το απόθεμα είναι τόσο καλό όσο η τελευταία του ενημέρωση.
Πώς το Xygeni καλύπτει το κενό πριν ξεκινήσει μια επίθεση εξαγωγής μοντέλου
Ασφάλεια Τεχνητής Νοημοσύνης Xygeni Δημιουργεί το απόθεμα Τεχνητής Νοημοσύνης απευθείας από τον πηγαίο κώδικα. Ανακαλύπτει μοντέλα Τεχνητής Νοημοσύνης, πράκτορες, πλαίσια Τεχνητής Νοημοσύνης, διακομιστές και εργαλεία MCP, προτροπές, guardrails, αποθήκες διανυσμάτων, σύνολα δεδομένων, τελικά σημεία συμπερασμάτων και εργαλεία κωδικοποίησης τεχνητής νοημοσύνης σε όλα τα αποθετήριά σας, συμπεριλαμβανομένων αρχείων μοντέλων όπως .onnx, .pt και .pklΟι σχέσεις χαρτογραφούνται επίσης: ποιος πράκτορας χρησιμοποιεί ποιο μοντέλο, ποια εργαλεία εκτελεί, σε ποια σύνολα δεδομένων εκπαιδεύεται.
Κάθε στοιχείο στο απόθεμα στοιχείων τεχνητής νοημοσύνης εμφανίζει τα μοντέλα και τους παρόχους του, τις συνδεδεμένες πηγές δεδομένων με σημαίες PII, την κάλυψη προστατευτικού κιγκλιδώματος και τα πεδία διακυβέρνησης, όπως η κατηγορία κινδύνου του Νόμου περί Τεχνητής Νοημοσύνης της ΕΕ. Η προβολή Γράφημα AI δείχνει πώς συνδέονται οι πράκτορες, τα μοντέλα, τα εργαλεία και τα σύνολα δεδομένων. Με ένα κλικ εξάγει ένα CycloneDX 1.6 ML-BOM, δίπλα στο δικό σας SBOM και CBOM.
Από το απόθεμα στην προστασία:
- Ανίχνευση κινδύνου αντιστοιχισμένη στο OWASP. Τα πακέτα ανιχνευτών καλύπτουν και τις δέκα κατηγορίες OWASP LLM Top 10, συμπεριλαμβανομένης της LLM10 Unbounded Consumption, έτσι ώστε κάθε εύρημα να μιλάει στη γλώσσα που χρησιμοποιούν οι ελεγκτές σας.
- Τα στοιχεία ελέγχου τελικού σημείου ελέγχθηκαν στον κώδικα. Ασφάλεια API Xygeni Ανακαλύπτει τελικά σημεία API από κώδικα και προδιαγραφές και επισημαίνει μη εξουσιοδοτημένα τελικά σημεία, ελλείποντα όρια ρυθμού και σκιώδη API που παρέκκλιναν από την προδιαγραφή.
- Απόδειξη στην εφαρμογή που εκτελείται. Το Xygeni AI Pentesting δοκιμάζει την εφαρμογή που έχει αναπτυχθεί και αποδεικνύει ποιες αδυναμίες είναι εκμεταλλεύσιμες.
- Διόρθωση γρήγορα. Η Τεχνητή Νοημοσύνη (AI Triage) ιεραρχεί τα ευρήματα της Τεχνητής Νοημοσύνης και η Τεχνητή Νοημοσύνη (AI Remediation) δημιουργεί οδηγίες διόρθωσης και για τις δέκα κατηγορίες OWASP LLM.
Όλα αυτά εκτελούνται ως στατική σάρωση σε CI/CD ή τοπικά, με SaaS, on-premise και επιλογές με κενό αέρα. Οι ομάδες που χρειάζονται το στάδιο της σημασιολογικής αναθεώρησης να παραμείνει εσωτερικά μπορούν να το εκτελέσουν σε ένα αυτοφιλοξενούμενο μοντέλο.
Λίστα ελέγχου πρόληψης επιθέσεων εξαγωγής μοντέλου - λίστα ελέγχου για την πρόληψη επιθέσεων εξαγωγής μοντέλου
Οκτώ χειριστήρια, με τη σειρά. Τα δύο πρώτα καθιστούν δυνατά τα άλλα έξι.
- 1ΑπόθεμαΚαταγράψτε κάθε μοντέλο, πράκτορα και τελικό σημείο συμπερασμού από τον πηγαίο κώδικα και διατηρήστε το ενημερωμένο σε κάθε commit.
- 2ΙδιοκτησίαΟρίστε έναν κάτοχο σε κάθε στοιχείο Τεχνητής Νοημοσύνης στο απόθεμα.
- 3ΠιστοποίησηΑπαίτηση ελέγχου ταυτότητας σε κάθε τελικό σημείο συμπερασμού, συμπεριλαμβανομένων των εσωτερικών.
- 4Περιορισμός ποσοστούΕφαρμόστε όρια χρέωσης, ποσοστώσεις και χρονικά όρια ανά καλούντα.
- 5Ελαχιστοποίηση εξόδουΕπιστρέψτε την ελάχιστη απαιτούμενη έξοδο: αφαιρέστε τις βαθμολογίες εμπιστοσύνης και τα λογικά στοιχεία όπου οι χρήστες δεν τις χρειάζονται.
- 6παρακολούθησηΠαρακολουθήστε τον όγκο και τα μοτίβα ερωτημάτων για συστηματική διερεύνηση.
- 7υδατογράφησηΕξετάστε το ενδεχόμενο υδατογράφησης αποτελεσμάτων ιδιόκτητων μοντέλων υψηλής αξίας.
- 8ΔιακυβέρνησηΕξαγωγή ενός AI-BOM για διακυβέρνηση και έλεγχο και αντιστοίχιση των ευρημάτων στο OWASP LLM10.
Βρείτε τα τελικά σημεία συμπερασμάτων σας πριν το κάνουν οι επιτιθέμενοι
Μια επίθεση εξαγωγής μοντέλου χρειάζεται μόνο ένα τελικό σημείο που έχετε ξεχάσει. Μάθετε ποια Τεχνητή Νοημοσύνη εκτελεί πραγματικά ο κώδικάς σας: δείτε πώς η Xygeni AI Security δημιουργεί το απόθεμά σας AI, or κλείστε μια επίδειξη.
Συχνές Ερωτήσεις
Ποια είναι η διαφορά μεταξύ μιας επίθεσης εξαγωγής μοντέλου και μιας αντιστροφής μοντέλου;
Μια επίθεση εξαγωγής μοντέλου αντιγράφει το ίδιο το μοντέλο: τη συμπεριφορά και τηνcisλογική ιόντων. Η αντιστροφή μοντέλου στοχεύει τα δεδομένα εκπαίδευσης, προσπαθώντας να ανακατασκευάσει ευαίσθητα αρχεία από τα οποία έμαθε το μοντέλο. Και τα δύο καταχρώνται την πρόσβαση σε ερωτήματα, αλλά η εξαγωγή κλέβει πνευματική ιδιοκτησία ενώ η αντιστροφή διαρρέει ιδιωτικά δεδομένα.
Μπορεί μια επίθεση εξαγωγής μοντέλου να στοχεύσει LLM ή μόνο κλασικά μοντέλα ML;
Και τα δύο. Η πρώιμη έρευνα στόχευε τους ταξινομητές πίσω από τα API πρόβλεψης. Σήμερα, το OWASP παραθέτει την εξαγωγή μοντέλων και την αναπαραγωγή λειτουργικών μοντέλων ως κινδύνους LLM στο πλαίσιο του LLM10:2025 Unbounded Consumption, όπου ένας εισβολέας χρησιμοποιεί τις δικές του εξόδους ενός LLM για να βελτιώσει ένα υποκατάστατο.
Πώς μπορώ να ξέρω ποια από τα τελικά σημεία συμπερασμάτων μου είναι εκτεθειμένα σε κλοπή μοντέλου;
Ξεκινήστε με ένα απόθεμα που δημιουργήθηκε από τον πηγαίο κώδικα: κάθε μοντέλο, παράγοντα και τελικό σημείο συμπερασμού που δηλώνουν οι εφαρμογές σας. Στη συνέχεια, ελέγξτε το καθένα για έλεγχο ταυτότητας, περιορισμό ρυθμού και έκθεση εξόδου. Το Xygeni AI Security ανακαλύπτει στοιχεία AI σε όλα τα αποθετήρια σας και τα εξάγει ως AI-BOM, και το Xygeni API Security επισημαίνει τα τελικά σημεία που δεν έχουν έλεγχο ταυτότητας ή περιορισμό ρυθμού.







