OWASP Πρακτορική Τεχνητή Νοημοσύνη Κορυφαία 10

Επεξήγηση των 10 κορυφαίων πρακτικών τεχνητής νοημοσύνης του OWASP: ASI01–ASI10

TL? DR

Τι σημαίνει για εσάς το OWASP Agentic AI Top 10 pipeline

Ένα LLM που λέει κάτι λάθος αποτελεί πρόβλημα περιεχομένου. Ένας πράκτορας που κάνει κάτι λάθος αποτελεί περιστατικό ασφαλείας. Το OWASP Agentic AI Top 10 είναι ο χάρτης για το δεύτερο.

  • Αυτό που είναι: το OWASP Agentic AI Top 10 (επίσημα το Οι 10 κορυφαίες εφαρμογές του OWASP για πρακτορεία το 2026) παραθέτει δέκα κινδύνους που αφορούν συγκεκριμένα πράκτορες Τεχνητής Νοημοσύνης που σχεδιάζουν, καλούν εργαλεία, διατηρούν μνήμη και ενεργούν εκ μέρους σας. Οι κωδικοί κυμαίνονται από ASI01 έως ASI10.
  • Πώς σχετίζεται: Επεκτείνει το OWASP LLM Top 10 αντί να το αντικαθιστά. Η λίστα LLM καλύπτει τι λέει ένα μοντέλο· η λίστα πρακτόρων καλύπτει τι κάνει ένας πράκτορας.
  • Πού εισέρχεται: σε ένα πραγματικό pipeline, αυτοί οι κίνδυνοι έρχονται από τέσσερις πόρτες: το IDE, τα στοιχεία του παράγοντα τρίτων, τον δικό σας κώδικα παράγοντα και τον χρόνο εκτέλεσης παραγωγής.
  • Τι μπορείτε να πιάσετε: Έξι από τα δέκα αφήνουν δακτυλικά αποτυπώματα στον κώδικα και τη διαμόρφωση, επομένως μπορείτε να τα σταματήσετε πριν από την ανάπτυξη. Τα άλλα τέσσερα χρειάζονται ελέγχους σχεδίασης κατά τον χρόνο εκτέλεσης και καθένα από αυτά ξεκινά με το να γνωρίζετε ποιους πράκτορες εκτελείτε.

Το πρώτο βήμα: Καταγράψτε κάθε πράκτορα, εργαλείο, διακομιστή MCP και δεξιότητα και, στη συνέχεια, καταχωρήστε τον νέο κωδικό πράκτορα στο CI με τα ευρήματα να έχουν επισημανθεί με κωδικούς ASI.

Γιατί έχει σημασία το OWASP Agency AI Top 10: το δικό σας pipeline έχει νέο commitσεις

Πριν από ένα χρόνο, ο κώδικας στα αποθετήριά σας προερχόταν από ανθρώπους. Σήμερα, ένα αυξανόμενο μερίδιο προέρχεται από πράκτορες τεχνητής νοημοσύνης: βοηθοί κωδικοποίησης που εγκαθιστούν εξαρτήσεις, πράκτορες που ανοίγουν pull requestsκαι πλαίσια πρακτόρων που ενσωματώνονται στα δικά σας προϊόντα με δικά τους εργαλεία, μνήμη και διαπιστευτήρια. Αυτή είναι η αλλαγή για την οποία γράφτηκε η λίστα OWASP Agentic AI Top 10.

Αυτό αλλάζει το μοντέλο απειλής. Ένα LLM που λέει κάτι λάθος αποτελεί πρόβλημα περιεχομένου. Ένας παράγοντας που κάνει κάτι λάθος (διαγράφει δεδομένα, διαρρέει ένα διακριτικό, εγκαθιστά ένα δηλητηριασμένο πακέτο) αποτελεί συμβάν ασφαλείας.

Το OWASP Agentic AI Top 10 είναι το πρώτο κοινόχρηστο λεξιλόγιο για αυτό το δεύτερο είδος προβλήματος. Οι περισσότεροι επεξηγητές σταματούν στους ορισμούς. Αυτός ο ορισμός αντιστοιχίζει κάθε κίνδυνο με το σημείο που πραγματικά εισέρχεται στο σύστημά σας. pipelineκαι τι μπορείτε να κάνετε γι' αυτό πριν από την ανάπτυξη.

Ποιο είναι το Top 10 της OWASP Agentic AI;

Η λίστα OWASP Agentic AI Top 10 είναι μια αξιολόγηση από ομοτίμους των δέκα πιο κρίσιμων κινδύνων ασφαλείας στους πράκτορες τεχνητής νοημοσύνης: συστήματα που σχεδιάζουν, καλούν εργαλεία, διατηρούν μνήμη και ενεργούν με εξουσιοδότηση που τους έχει ανατεθεί. Η επίσημη ονομασία της είναι Οι 10 κορυφαίες εφαρμογές του OWASP για πρακτορεία το 2026Το OWASP GenAI Security Project το δημοσίευσε στις 9 Δεκεμβρίου 2025, μέσω της Πρωτοβουλίας Agentic Security, από όπου προέρχεται και το πρόθεμα ASI.

Είναι ακόμα νέος standard: αυτή είναι η πρώτη του έκδοση. Κάθε καταχώρηση ακολουθεί την οικεία μορφή OWASP, με περιγραφή, συνηθισμένα παραδείγματα, σενάρια επίθεσης και οδηγίες πρόληψης. Οι κεντρικές συμβουλές σχεδιασμού του OWASP διατρέχουν και τα δέκα: αποφύγετε να δίνετε στους πράκτορες περισσότερη αυτονομία από ό,τι χρειάζεται η εργασία και αντιμετωπίστε την παρατηρησιμότητα ως υποχρεωτική.

Πρακτόροι Κορυφαίοι 10 έναντι Κορυφαίων 10 LLM

Ο κατάλογος πρακτόρων δεν αντικαθιστά τον OWASP Top 10 για Εφαρμογές LLMΒασίζεται σε αυτό και οι καταχωρίσεις του διασταυρώνονται με τους κινδύνους του LLM. Ένας απλός εμπειρικός κανόνας:

ΔιάστασηOWASP LLM Top 10OWASP Πρακτορική Τεχνητή Νοημοσύνη Κορυφαία 10
ΣυγκέντρωσηΤι λέει το μοντέλοΤι κάνει ο πράκτορας
Τυπική βλάβηΜια χειραγωγημένη ή διαρροή απάντησηςΈνας χειραγωγημένος στόχος, κλήση εργαλείου ή ενέργεια
Εφαρμόζεται σεChatbots, εφαρμογές RAG, οποιαδήποτε λειτουργία LLMΠράκτορες με εργαλεία, μνήμη, ανάθεση ή άλλους πράκτορες
ΚώδικεςLLM01 έως LLM10ASI01 έως ASI10

Εάν η αίτησή σας απαντά μόνο σε ερωτήσεις, η λίστα LLM σας καλύπτει. Από τη στιγμή που μπορεί να αναλάβει δράση, χρειάζεστε και τα δύο. Ο οδηγός μας για επιθέσεις εξαγωγής μοντέλου δείχνει σε βάθος έναν από τους 10 κορυφαίους κινδύνους του LLM.

Το OWASP Agentic AI Top 10, επεξήγηση: ASI01 έως ASI10 στην πραγματικότητα pipelines

Ακολουθεί κάθε κίνδυνος στο OWASP Agentic AI Top 10 με απλά λόγια, ακολουθούμενος από το πώς φαίνεται στις βάσεις κώδικα και pipelineπου βλέπουμε κάθε μέρα.

ASI01: Υπερβολική Καταπάτηση Στόχου Πράκτορα

Ένας εισβολέας αλλάζει αυτό που προσπαθεί να επιτύχει ο πράκτορας μέσω ενσωματωμένων οδηγιών σε ένα έγγραφο, ένα email, μια ιστοσελίδα ή το μήνυμα ενός άλλου πράκτορα. Οι πράκτορες δυσκολεύονται να διακρίνουν τις οδηγίες από το περιεχόμενο, επομένως το ενσωματωμένο κείμενο μπορεί να ανακατευθύνει ένα ολόκληρο σχέδιο πολλαπλών βημάτων.

Σε σας pipeline: ένας πράκτορας που συνοψίζει pull requests διαβάζει μια περιγραφή PR που περιέχει κρυφές οδηγίες και αρχίζει να εγκρίνει ή να διαρρέει αντί να συνοψίζει.

ASI02: Κακή χρήση και εκμετάλλευση εργαλείων

Ο πράκτορας χρησιμοποιεί ένα εργαλείο που του επιτρέπεται να χρησιμοποιεί, αλλά με επιβλαβή τρόπο: διαγράφοντας δεδομένα, καλώντας ένα δαπανηρό API σε έναν βρόχο ή στέλνοντας πληροφορίες. Δεν κλιμακώνεται κανένα προνόμιο. Η νόμιμη πρόσβαση απλώς κατευθύνεται σε λάθος στόχο.

Σε σας pipeline: Ένας agent κωδικοποίησης με πρόσβαση σε shell εκτελεί μια εντολή καθαρισμού σε λάθος κατάλογο.

ASI03: Ταυτότητα και Κατάχρηση Προνομίων

Οι πράκτορες κληρονομούν διαπιστευτήρια, συνεδρίες και ρόλους και οι εισβολείς εκμεταλλεύονται αυτές τις αλυσίδες ανάθεσης για να φτάσουν σε ό,τι δεν μπορούσαν να φτάσουν απευθείας. Η βασική αιτία είναι τα συστήματα ταυτοποίησης που έχουν κατασκευαστεί για ανθρώπους, τα οποία εφαρμόζονται σε λογισμικό που λειτουργεί από μόνο του.

Σε σας pipeline: Μια διαμόρφωση πράκτορα διατηρεί ένα token μακράς διαρκείας με εμβέλεια σε ολόκληρο τον οργανισμό, το οποίο είναι κοινόχρηστο σε πολλά εργαλεία.

ASI04: Ευπάθειες στην Εφοδιαστική Αλυσίδα Πρακτορείων

Τα μοντέλα, τα εργαλεία, τα πρόσθετα (plugins), οι διακομιστές MCP, οι δεξιότητες και οι προτροπές που φορτώνουν οι πράκτορες προέρχονται από τρίτους και οποιοδήποτε από αυτά μπορεί να είναι κακόβουλο ή να έχει παραποιηθεί. Σε αντίθεση με τις κλασικές εξαρτήσεις, οι πράκτορες συχνά συναρμολογούν αυτά τα στοιχεία κατά τον χρόνο εκτέλεσης.

Σε σας pipeline: Ένας προγραμματιστής εγκαθιστά μια δεξιότητα πράκτορα με τυπογραφικό λάθος, της οποίας οι οδηγίες λένε στον πράκτορα να διαβάσει τα διαπιστευτήρια και να τα δημοσιεύσει εξωτερικά.

ASI05: Μη αναμενόμενη εκτέλεση κώδικα (RCE)

Ο πράκτορας δημιουργεί ή ενεργοποιεί κώδικα που εκτελείται εκεί που δεν θα έπρεπε: εντολές shell, αποσειριοποιημένα αντικείμενα, μηχανές προτύπων, eval στην έξοδο του μοντέλου. Το αποτέλεσμα μπορεί να είναι η πλήρης παραβίαση του κεντρικού υπολογιστή ή του κοντέινερ.

Σε σας pipeline: Η έξοδος LLM ρέει κατευθείαν στο eval, ή ένας πράκτορας φορτώνει ένα μη αξιόπιστο σύνολο δεδομένων με pickle.load.

ASI06: Δηλητηρίαση Μνήμης και Συμφραζομένων

Οι επιτιθέμενοι εισάγουν κακόβουλα δεδομένα στη μακροπρόθεσμη μνήμη, στις περιλήψεις ή στα αποθέματα RAG του πράκτορα, έτσι ώστε κάθε μελλοντική ενέργεια να...cisΤο ιόν είναι ασύμμετρο. Σε αντίθεση με μια εφάπαξ έγχυση εντολών, η αλλοίωση επιμένει σε όλες τις περιόδους λειτουργίας.

Σε σας pipeline: Ένας ανακτητής RAG καταπίνει εξωτερικά έγγραφα χωρίς απολύμανση και μία δηλητηριασμένη σελίδα διαμορφώνει κάθε απάντηση που ακολουθεί.

ASI07: Μη ασφαλής επικοινωνία μεταξύ πρακτόρων

Οι πράκτορες ανταλλάσσουν μηνύματα χωρίς έλεγχο ταυτότητας, ελέγχους ακεραιότητας ή επικύρωση, επομένως τα μηνύματα μπορούν να πλαστογραφηθούν, να υποκλαπούν ή να τροποποιηθούν. Η ίδια εντολή μπορεί επίσης να διαβαστεί διαφορετικά από διαφορετικούς πράκτορες.

Σε σας pipeline: Ένας πράκτορας σχεδιασμού δέχεται εργασίες από οποιαδήποτε υπηρεσία στο εσωτερικό δίκτυο που χρησιμοποιεί το πρωτόκολλό του.

ASI08: Αλυσιδωτές Αποτυχίες

Ένα σφάλμα (μια παραίσθηση, μια δηλητηριασμένη μνήμη, ένα παραβιασμένο εργαλείο) εξαπλώνεται σε όλους τους πράκτορες και τις ροές εργασίας πιο γρήγορα από ό,τι μπορούν να αντιδράσουν οι άνθρωποι. Το OWASP εφαρμόζει αυτήν την κατηγορία όταν η ζημιά επεκτείνεται πέρα ​​από την αρχική παραβίαση.

Σε σας pipeline: Ένας πράκτορας γράφει μια κακή διαμόρφωση, ένας δεύτερος την αναπτύσσει, ένας τρίτος την εφαρμόζει σε κάθε περιοχή. Συζητήσαμε πώς να περιορίσουμε αυτήν την ακτίνα έκρηξης στο δικό μας Blast Radius SafeDev Talk.

ASI09: Εκμετάλλευση Εμπιστοσύνης Ανθρώπου-Πράκτορα

Οι άνθρωποι εμπιστεύονται την σίγουρη, καλά εξηγημένη απόδοση των πρακτόρων, και οι επιτιθέμενοι ή τα ελαττωματικά σχέδια εκμεταλλεύονται αυτή την εμπιστοσύνη για να κατευθύνουν την...cisιόντα. Ο άνθρωπος εκτελεί την τελική ενέργεια, επομένως ο ρόλος του πράκτορα μπορεί να εξαφανιστεί από το ίχνος ελέγχου.

Σε σας pipeline: ένας κριτικός εγκρίνει την προσφορά ενός πράκτορα pull request επειδή η εξήγηση ακούγεται σωστή, χωρίς να ελέγχεται η διαφορά.

ASI10: Απατεώνες Πράκτορες

Ένας πράκτορας παρεκκλίνει από την προβλεπόμενη λειτουργία του και συνεχίζει να ενεργεί επιβλαβώς, παραπλανητικά ή πέρα ​​από το πεδίο εφαρμογής του. Κάθε ενέργεια μπορεί να φαίνεται θεμιτή. Η συνολική συμπεριφορά δεν είναι. Το ASI10 αφορά την απώλεια ελέγχου μετά την έναρξη της παρέκκλισης, όχι την αρχική εισβολή.

Σε σας pipeline: Ένας πράκτορας συνεχίζει να χρησιμοποιεί τα δικαιώματα μετά το τέλος της εργασίας του, επεκτείνοντας αθόρυβα ό,τι αγγίζει.

Από τους δέκα κινδύνους, ο ASI04 είναι αυτός που αντιμετωπίζουν ήδη οι περισσότερες ομάδες καθημερινά: οι κωδικοποιητές επιλέγουν και εγκαθιστούν πακέτα χωρίς κανείς να ελέγχει τι εισέρχεται. Εμβαθύναμε ακριβώς σε αυτό σε μια πρόσφατη ομιλία SafeDev. Ρίξτε μια ματιά!

Πού μπαίνει το OWASP Agentic AI Top 10 σας; pipeline

Οι δέκα κίνδυνοι δεν φτάνουν από μία πόρτα. Φτάνουν από τέσσερις, και κάθε πόρτα χρειάζεται τον δικό της έλεγχο.

Σημείο εισόδουΤι έρχεταιΚίνδυνοι ASIΠού να το σταματήσετε
IDE και σταθμός εργασίας προγραμματιστήΚωδικοποιητές, διακομιστές MCP, δεξιότητες, πακέτα που εγκαθιστούν οι πράκτορεςASI04, ASI05Στον σταθμό εργασίας, πριν από την εγκατάσταση
Στοιχεία τρίτου παράγονταΜοντέλα, εργαλεία, πρόσθετα, προτροπές από μητρώαASI04, ASI06Απογραφή και αναθεώρηση, πριν από την έγκριση
Ο δικός σας κωδικός αντιπροσώπουΠλαίσια πρακτόρων, προτροπές, ορισμοί εργαλείων, διαπιστευτήρια, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Στατική ανάλυση, σε pull requests και CI
Χρόνος εκτέλεσης παραγωγήςΠράκτορες που ενεργούν, συνομιλούν μεταξύ τους, συνεργάζονται με ανθρώπουςASI07, ASI08,
ASI09, ASI10
Αρχιτεκτονική, παρακολούθηση και τερματισμός λειτουργίας διακοπτών

Το μοτίβο έχει σημασία για τον τρόπο που εφαρμόζετε το OWASP Agentic AI Top 10. Οι τρεις πρώτες πόρτες αφήνουν αποδεικτικά στοιχεία σε κώδικα και διαμόρφωση, πράγμα που σημαίνει ότι μπορείτε να τις βρείτε και να τις αποκλείσετε πριν από την αποστολή οποιουδήποτε στοιχείου. Η τέταρτη εξαρτάται από τη συμπεριφορά κατά τον χρόνο εκτέλεσης, επομένως βασίζεται σε επιλογές σχεδιασμού: ελάχιστη δράση, υπογεγραμμένα μηνύματα, ανθρώπινη έγκριση για ενέργειες με υψηλό αντίκτυπο και δυνατότητα γρήγορης ανάκλησης οποιουδήποτε παράγοντα.

Ακόμα και τα στοιχεία ελέγχου χρόνου εκτέλεσης εξαρτώνται από ένα πράγμα που δημιουργείτε νωρίτερα: ένα απόθεμα. Δεν μπορείτε να βάλετε διακόπτη kill σε έναν πράκτορα που δεν γνωρίζετε την ύπαρξή του.

Πώς το Xygeni εντοπίζει το OWASP Agent AI - Οι 10 κορυφαίοι κίνδυνοι πριν από την ανάπτυξη

Ασφάλεια Τεχνητής Νοημοσύνης Xygeni σαρώνει τα στοιχεία τεχνητής νοημοσύνης με τα οποία έχουν κατασκευαστεί οι εφαρμογές σας, απευθείας από τον πηγαίο κώδικα. Κάθε εύρημα φέρει την κατηγορία OWASP LLM Top 10 και, όπου ισχύει, τον κώδικα OWASP Agentic AI Top 10, έτσι ώστε η ομάδα σας και οι ελεγκτές σας να διαβάζουν τα ευρήματα στην ίδια γλώσσα.

Η κάλυψη του OWASP Agentic AI Top 10 ξεκινά με το απόθεμα. Η AI Security ανακαλύπτει πράκτορες, μοντέλα, εργαλεία, διακομιστές MCP, δεξιότητες, προτροπές, guardrails, αποθηκευτικά διανύσματα και σύνολα δεδομένων σε όλα τα αποθετήριά σας και χαρτογραφεί τον τρόπο με τον οποίο συνδέονται: ποιος παράγοντας χρησιμοποιεί ποιο μοντέλο, εκτελεί ποια εργαλεία και καλεί ποιους διακομιστές MCP. Το απόθεμα εξάγεται ως CycloneDX 1.6 ML-BOM.

Ασφάλεια Τεχνητής Νοημοσύνης Xygeni

Τι ανιχνεύει το Xygeni πριν από την ανάπτυξη, με βάση τον κίνδυνο ASI

Κάθε εύρημα φέρει ετικέτα με τον κωδικό OWASP του, έτσι ώστε η ομάδα σας και οι ελεγκτές σας να το διαβάζουν στην ίδια γλώσσα.

ASI01

Υπερβολική Επίθεση Γκολ Πράκτορα

Επιφάνειες άμεσης έγχυσης, παράγοντες που καταπίνουν εξωτερικό περιεχόμενο χωρίς απολύμανση, προτροπές που αντλούνται από μητρώα σε αιωρούμενες ετικέτες.

ASI02

Κακή χρήση εργαλείου

Πράκτορες που επικαλούνται εργαλεία χωρίς εισαγωγή δεδομένων guardrails, καθώς και μια προβολή ανά πάγιο στοιχείο δυνατοτήτων όπως η εκτέλεση κώδικα και η αυτόματη εκτέλεση.

ASI03

Κατάχρηση Ταυτότητας και Προνομίων

Στατικά διαπιστευτήρια μακράς διαρκείας σε διαμορφώσεις πρακτόρων, διαπιστευτήρια που κοινοποιούνται χωρίς περιορισμό εμβέλειας, διακομιστές MCP και εργαλείων με αυξημένα δικαιώματα και μυστικά σε αρχεία προτροπών.

ASI04

Αλυσίδα Εφοδιασμού Πρακτορείων

Κακόβουλες ή τυπογραφικά λανθασμένες δεξιότητες, με ετυμηγορία ΑΣΦΑΛΟΥΣ / ΠΡΟΣΟΧΗ / ΜΗΝ_ΕΓΚΑΤΑΣΤΑΣΕΤΕ· μη ασφαλής φόρτωση μοντέλου (trust_remote_code=True); ένα AI-BOM κάθε εξαρτήματος.

ASI05

Μη αναμενόμενη εκτέλεση κώδικα

Η κηλίδα ρέει από την έξοδο LLM προς eval και από μη αξιόπιστα σύνολα δεδομένων σε pickle.load, σε Python και JavaScript· έγχυση προτύπου που οδηγεί σε RCE.

ASI06

Δηλητηρίαση μνήμης και πλαισίου

Μη απολυμασμένα ανακτητικά RAG και αδυναμίες διανυσμάτων και ενσωμάτωσης (LLM08).

ASI07 έως ASI10

Συμπεριφορά κατά τον χρόνο εκτέλεσης

Η επικοινωνία μεταξύ πρακτόρων, οι διαδοχικές αποτυχίες, η ανθρώπινη εμπιστοσύνη και οι απατεώνες πράκτορες εμφανίζονται κατά τον χρόνο εκτέλεσης. Το Xygeni σας δίνει το γράφημα αποθεμάτων και σχέσεων από το οποίο εξαρτώνται αυτά τα στοιχεία ελέγχου κατά τον χρόνο εκτέλεσης.

Γύρω από αυτόν τον πυρήνα:

  • Σημασιολογική ανασκόπηση δεξιοτήτων και οδηγιών πρακτόρων. Μια προαιρετική, αναπαραγώγιμη αξιολόγηση LLM κρίνει την πρόθεση του SKILL.md και AGENTS.md αρχεία, εντοπίζοντας κακόβουλες οδηγίες μόνο σε πρόζα που δεν μπορεί να δει καμία υπογραφή. Μπορεί να εκτελεστεί σε ένα αυτοφιλοξενούμενο μοντέλο.
  • Κλείστε το σε CI. The xygeni ai σαρωτής εκτελείται στο δικό σας pipeline και η δημιουργία αποτυγχάνει όταν υπάρχουν ευρήματα. Ξεκινήστε σε λειτουργία μόνο αναφοράς και, στη συνέχεια, κλείστε την πύλη στο Critical.
  • Ασφάλεια εντός του βρόχου πρακτόρων. DevAI φέρνει τις σαρώσεις, την ταξινόμηση και τις διορθώσεις του Xygeni στο IDE και σε πράκτορες κωδικοποίησης AI μέσω του Διακομιστής Xygeni MCP.
  • Προστατέψτε τον σταθμό εργασίας. Shield μπλοκάρει κακόβουλα πακέτα σε μηχανήματα προγραμματιστών πριν από τη λήψη τους, σε όποιον εκτελεί την εγκατάσταση και αποδίδει κάθε μπλοκ στη διεργασία και την εντολή που την ενεργοποίησε.
  • Διόρθωση γρήγορα. Η Τεχνητή Νοημοσύνη (AI Triage) ιεραρχεί τα ευρήματα και η Τεχνητή Νοημοσύνη (AI Remediation) δημιουργεί οδηγίες διόρθωσης για κάθε κατηγορία OWASP LLM.

Λίστα ελέγχου ετοιμότητας για την Τεχνητή Νοημοσύνη των Πράκτορων OWASP με τις 10 κορυφαίες δυνατότητες

  1. Καταγραφή εμπορευμάτων: Καταγράψτε κάθε παράγοντα, μοντέλο, εργαλείο, διακομιστή MCP και δεξιότητα στα αποθετήριά σας και διατηρήστε τη λίστα ενημερωμένη σε κάθε commit.
  2. Ελάχιστη αντιπροσωπεία: δίνουν σε κάθε πράκτορα μόνο την αυτονομία και τα εργαλεία που χρειάζεται η εργασία του και απαιτούν ανθρώπινη έγκριση για καταστροφικές ενέργειες.
  3. Ταυτότητα πεδίου εφαρμογής: αντικαταστήστε τα μακράς διαρκείας, κοινόχρηστα διαπιστευτήρια εκπροσώπου με βραχύβια διακριτικά ανά εκπρόσωπο.
  4. Μη αξιόπιστη είσοδος: Αντιμετωπίστε κάθε έγγραφο, ιστοσελίδα, email και μήνυμα εκπροσώπου ως μη αξιόπιστο προτού διαμορφώσει έναν στόχο ή μια κλήση εργαλείου.
  5. Ελεγμένα στοιχεία: επανεξέταση δεξιοτήτων, διακομιστών MCP και μοντέλων πριν από την υιοθέτηση, pin εκδόσεων και διατήρηση AI-BOM.
  6. Καμία μη ασφαλής εκτέλεση: απαγόρευση eval στην έξοδο του μοντέλου, εκτέλεση κώδικα sandbox και ποτέ μην εκτελείτε πράκτορες ως root.
  7. Καθαρή μνήμη: Απολυμάνετε ό,τι εισέρχεται στις αποθήκες RAG και στη μακροπρόθεσμη μνήμη και διαχωρίστε τη μνήμη ανά χρήστη και περιβάλλον.
  8. Πύλη στο CI: σάρωση κωδικού πράκτορα σε κάθε pull request και αντιστοιχίστε τα ευρήματα με τους κώδικες ASI.
  9. Παρατηρήστε και συμπεριλάβετε: Καταγράψτε κάθε ενέργεια πράκτορα και κλήση εργαλείου και βεβαιωθείτε ότι μπορείτε να ανακαλέσετε οποιονδήποτε πράκτορα γρήγορα.

Μάθετε ποιους πράκτορες χρησιμοποιείτε προτού ενεργήσουν

Το OWASP Agentic AI Top 10 σας δίνει τον χάρτη. Η πρώτη κίνηση είναι η ίδια και για τους δέκα κινδύνους: βρείτε κάθε παράγοντα, εργαλείο και δεξιότητα στον κώδικά σας. Δείτε πώς το Xygeni AI Security καταγράφει τους πράκτορές σας και αντιστοιχίζει τα ευρήματά τους σε κωδικούς ASIΤο HIFU, ή Υψηλής Έντασης Εστιασμένος Υπέρηχος, στοχεύει επίσης στο πρόσωπο και τον λαιμό. Προσφέρει θεραπεία σε γρήγορες εκπομπές, γεγονός που κάνει τις συνεδρίες θεραπείας συντομότερες. κλείστε μια επίδειξη.

Συχνές Ερωτήσεις

Τι σημαίνει το ASI στο OWASP Agentic AI Top 10;

Το ASI σημαίνει Agentic Security Initiative, η ομάδα του OWASP GenAI Security Project που συνέταξε τη λίστα. Κάθε κίνδυνος φέρει έναν κωδικό από ASI01 (Agent Goal Hijack) έως ASI10 (Rogue Agents), με τον ίδιο τρόπο που η λίστα LLM χρησιμοποιεί το LLM01 έως το LLM10.

Χρειάζομαι το OWASP Agentic AI Top 10 αν ακολουθώ ήδη το OWASP LLM Top 10;

Μόνο εάν η τεχνητή νοημοσύνη σας μπορεί να δράσει. Ένα chatbot ή μια εφαρμογή RAG που απλώς απαντά σε ερωτήσεις καλύπτεται από το LLM Top 10. Μόλις η εφαρμογή σας καλέσει εργαλεία, διατηρήσει μνήμη, αναθέσει σε άλλους εκπροσώπους ή χρησιμοποιήσει διαπιστευτήρια, η λίστα εκπροσώπων καλύπτει κινδύνους που δεν καλύπτει η λίστα LLM.

Μπορεί η στατική ανάλυση να ανιχνεύσει τους 10 κορυφαίους κινδύνους της τεχνητής νοημοσύνης των πρακτόρων του OWASP;

Για πολλούς από αυτούς, ναι. Οι επιφάνειες που προκαλούνται από την παραβίαση στόχων, τα μη προστατευμένα εργαλεία, τα υπερβολικά προνομιούχα διαπιστευτήρια, οι κακόβουλες δεξιότητες, η μη ασφαλής εκτέλεση κώδικα και οι μη εξυγιανμένες είσοδοι RAG αφήνουν όλα αποδεικτικά στοιχεία στον κώδικα και τη διαμόρφωση. Οι κίνδυνοι που προκύπτουν από την ενεργή συμπεριφορά, όπως οι διαδοχικές αποτυχίες και οι απατεώνες πράκτορες, απαιτούν ελέγχους χρόνου εκτέλεσης από πάνω.

εργαλεία-ανάλυσης-σύνθεσης-λογισμικού-sca
Ιεράρχηση, αποκατάσταση και ασφάλεια των κινδύνων λογισμικού σας
Αποκτήστε τον Δωρεάν Λογαριασμό σας.
Δεν απαιτείται πιστωτική κάρτα.

Ασφαλίστε την ανάπτυξη και την παράδοση του λογισμικού σας

με το Xygeni Product Suite