Ασφάλεια πρακτόρων AI: OWASP Agentic Top 10, MCP και βασικά μέτρα
Τελευταία ενημέρωση: November 19, 20269 λεπτά ανάγνωσης
Ένας πράκτορας AI, χτισμένος γύρω από ένα μεγάλο γλωσσικό μοντέλο (LLM), κάνει περισσότερα από το να απαντά σε ερωτήσεις. Σχεδιάζει, καλεί εργαλεία, διαβάζει και γράφει δεδομένα και μερικές φορές συνομιλεί με άλλους πράκτορες. Αυτό ανεβάζει το διακύβευμα κάθε αδυναμίας του μοντέλου: ένα prompt injection που σε ένα chatbot θα έδινε απλώς μια κακή απάντηση μπορεί να κάνει έναν πράκτορα να στείλει email, να αλλάξει εγγραφές ή να εκτελέσει κώδικα. Αυτός ο οδηγός καλύπτει το OWASP Top 10 για agentic εφαρμογές και πρακτικά μέτρα ελέγχου, μεταξύ αυτών και την ασφάλεια του Model Context Protocol (MCP).
Γιατί οι πράκτορες χρειάζονται το δικό τους μοντέλο ασφάλειας
Το NIST AI 100-2e2025 περιγράφει τον πράκτορα ως λογισμικό που «στέλνει επαναληπτικά prompts σε ένα μοντέλο», επεξεργάζεται τις εξόδους του, για παράδειγμα για να καλέσει μια συνάρτηση, και τροφοδοτεί τα αποτελέσματα στο επόμενο prompt. Το OWASP Top 10 για εφαρμογές LLM 2026 τραβά τη γραμμή ακριβώς εκεί: καλύπτει το μοντέλο ως στοιχείο, και μόλις το μοντέλο δρα με εργαλεία, μνήμη και συνέπειες σε άλλα συστήματα, το OWASP παραπέμπει στη λίστα του για agentic εφαρμογές.
Αυτή η λίστα προσθέτει μια αρχή που αξίζει να υιοθετήσετε πρώτη: το least agency (ελάχιστη αυτονομία). Το OWASP συμβουλεύει τους οργανισμούς «να αποφεύγουν την περιττή αυτονομία», επειδή η agentic συμπεριφορά εκεί όπου δεν χρειάζεται «διευρύνει την επιφάνεια επίθεσης χωρίς να προσθέτει αξία».
Το OWASP Top 10 για agentic εφαρμογές
Το OWASP GenAI Security Project κυκλοφόρησε το OWASP Top 10 για agentic εφαρμογές στις 9 Δεκεμβρίου 2025. Οι δέκα καταχωρίσεις του:
- ASI01: Agent Goal Hijack (υφαρπαγή του στόχου του πράκτορα). Εισαγόμενο περιεχόμενο εκτρέπει τους στόχους ή τα σχέδια του πράκτορα.
- ASI02: Tool Misuse and Exploitation (κατάχρηση και εκμετάλλευση εργαλείων). Ο πράκτορας χρησιμοποιεί νόμιμα εργαλεία με μη ασφαλείς τρόπους.
- ASI03: Identity and Privilege Abuse (κατάχρηση ταυτότητας και προνομίων). Γίνεται κατάχρηση διαπιστευτηρίων που έχουν εκχωρηθεί ή κληρονομηθεί.
- ASI04: Agentic Supply Chain Vulnerabilities (ευπάθειες στην εφοδιαστική αλυσίδα των πρακτόρων). Εργαλεία, διακομιστές MCP, prompts ή πράκτορες είναι κακόβουλα ή αλλοιωμένα.
- ASI05: Unexpected Code Execution (RCE) (απρόσμενη εκτέλεση κώδικα). Κώδικας που παράγεται ή εισάγεται εκτελείται στα συστήματά σας.
- ASI06: Memory & Context Poisoning (δηλητηρίαση μνήμης και πλαισίου). Η αποθηκευμένη μνήμη ή το ανακτημένο πλαίσιο αλλοιώνεται.
- ASI07: Insecure Inter-Agent Communication (μη ασφαλής επικοινωνία μεταξύ πρακτόρων). Τα μηνύματα μεταξύ πρακτόρων πλαστογραφούνται ή τροποποιούνται.
- ASI08: Cascading Failures (αλυσιδωτές αστοχίες). Ένα σφάλμα εξαπλώνεται σε πράκτορες και ροές εργασιών.
- ASI09: Human-Agent Trust Exploitation (εκμετάλλευση της εμπιστοσύνης ανθρώπου και πράκτορα). Οι άνθρωποι εμπιστεύονται υπερβολικά έναν πράκτορα που δείχνει σίγουρος.
- ASI10: Rogue Agents (πράκτορες εκτός ελέγχου). Ένας πράκτορας παρεκκλίνει από τη λειτουργία ή το εύρος για το οποίο προορίζεται.
Δώστε στους πράκτορες ελάχιστα προνόμια και διαπιστευτήρια περιορισμένου εύρους
Η καταχώριση LLM01:2026 του OWASP σημειώνει ότι τα περισσότερα καταγεγραμμένα περιστατικά prompt injection υψηλού αντίκτυπου έγιναν σοβαρά επειδή το παραβιασμένο μοντέλο μπορούσε να δράσει μέσω εργαλείων με το επίπεδο προνομίων του χρήστη. Το ASI03 συνιστά ξεχωριστή ταυτότητα για κάθε πράκτορα και «βραχύβια tokens με στενό εύρος ανά εργασία»· το ASI02, προφίλ ανά εργαλείο με scopes, όρια ρυθμού (rate limits) και λίστες επιτρεπόμενων εξερχόμενων συνδέσεων (egress allow-lists). Εκτελείτε τα εργαλεία στο πλαίσιο του ίδιου του χρήστη με το ελάχιστο OAuth scope, όχι μέσω ενός κοινόχρηστου λογαριασμού με υψηλά προνόμια.
Η Invariant Labs έδειξε γιατί έχει σημασία το εύρος: ένα κακόβουλο issue στο GitHub μπορούσε να υφαρπάξει έναν πράκτορα συνδεδεμένο στον διακομιστή MCP του GitHub και να εκθέσει δεδομένα από τα ιδιωτικά repositories του χρήστη. Το χαρακτήρισε «όχι ελάττωμα στον κώδικα του ίδιου του διακομιστή MCP του GitHub» αλλά αρχιτεκτονικό ζήτημα, και πρότεινε να περιορίζεται κάθε συνεδρία σε ένα repository.
Ένας γρήγορος έλεγχος σχεδίασης είναι το Agents Rule of Two της Meta: σε μία συνεδρία, ένας πράκτορας δεν πρέπει να συνδυάζει περισσότερα από δύο από τα εξής: επεξεργασία μη αξιόπιστων εισόδων, πρόσβαση σε ευαίσθητα συστήματα ή ιδιωτικά δεδομένα, και αλλαγή κατάστασης ή επικοινωνία προς τα έξω. Αν χρειάζεται και τα τρία, η Meta λέει ότι «δεν θα πρέπει να του επιτρέπεται να λειτουργεί αυτόνομα».
Χρησιμοποιήστε λίστες επιτρεπόμενων και έλεγχο πολιτικής έξω από το μοντέλο
Αποφασίστε μέσα στον κώδικα, όχι στο prompt, τι επιτρέπεται να κάνει ο πράκτορας. Ορίστε λίστες επιτρεπόμενων για τα εργαλεία κάθε εργασίας, για τους προορισμούς δικτύου στους οποίους μπορεί να φτάσει και για τις εντολές που μπορεί να εκτελεί χωρίς να ρωτήσει, και απαγορεύστε όλα τα υπόλοιπα. Το ASI02 περιγράφει ένα σημείο επιβολής πολιτικής (policy enforcement point) που αντιμετωπίζει την έξοδο του planner ως μη αξιόπιστη: πριν εκτελεστεί ένα εργαλείο, ελέγχει την πρόθεση και τα ορίσματα, επιβάλλει σχήματα και όρια ρυθμού και εκδίδει βραχύβια διαπιστευτήρια.
Εκτελείτε σε sandbox κάθε κώδικα που τρέχει ο πράκτορας
Αν ένας πράκτορας γράφει ή εκτελεί κώδικα, να υπολογίζετε ότι ένα μέρος του θα είναι εχθρικό (ASI05). Η συμβουλή του OWASP: μην εκτελείτε ποτέ ως root, εκτελείτε τον κώδικα σε απομονωμένα containers (sandbox) με αυστηρά όρια, μεταξύ άλλων και στην πρόσβαση στο δίκτυο, και διαχωρίζετε την παραγωγή κώδικα από την εκτέλεση με σημεία επικύρωσης. Το κείμενο της Anthropic για το sandboxing του πράκτορα προγραμματισμού της προσθέτει ότι το αποτελεσματικό sandboxing χρειάζεται απομόνωση τόσο του συστήματος αρχείων όσο και του δικτύου, αφού χωρίς απομόνωση δικτύου ένας παραβιασμένος πράκτορας «θα μπορούσε να υποκλέψει ευαίσθητα αρχεία όπως κλειδιά SSH».
Ρωτήστε έναν άνθρωπο πριν από μη αναστρέψιμες ενέργειες
Απαιτήστε έγκριση πριν από οτιδήποτε δύσκολα αναιρείται ή είναι ορατό έξω από το σύστημα: διαγραφή δεδομένων, μεταφορά χρημάτων, δημοσίευση ή αποστολή μηνυμάτων. Το ASI02 προτείνει να εμφανίζεται ένα dry-run ή ένα diff της ενέργειας πριν από την έγκριση. Κρατήστε τα αιτήματα έγκρισης αρκετά σπάνια ώστε να μετρούν: το OWASP προειδοποιεί ότι η κόπωση από τις εγκρίσεις αποδυναμώνει την κρίση, και το ASI09 περιγράφει πράκτορες που πείθουν όσους ελέγχουν να εγκρίνουν επιβλαβείς ενέργειες.
Αντιμετωπίστε τους διακομιστές MCP και τις περιγραφές εργαλείων ως μη αξιόπιστους
Το MCP κάνει εύκολη τη σύνδεση εργαλείων σε έναν πράκτορα, και γι' αυτό τα εργαλεία γίνονται κίνδυνος για την εφοδιαστική αλυσίδα. Η προδιαγραφή του MCP ορίζει ότι οι clients «ΠΡΕΠΕΙ να θεωρούν τα annotations των εργαλείων μη αξιόπιστα, εκτός αν προέρχονται από αξιόπιστους διακομιστές» και ότι «ΘΑ ΠΡΕΠΕΙ πάντα να υπάρχει ένας άνθρωπος στον βρόχο, με τη δυνατότητα να απορρίπτει κλήσεις εργαλείων».
Η Invariant Labs περιγράφει το tool poisoning (δηλητηρίαση εργαλείων) ως οδηγίες μέσα σε περιγραφές εργαλείων που «είναι αόρατες στους χρήστες αλλά ορατές στα μοντέλα AI», και προειδοποιεί ότι ένας διακομιστής μπορεί να αλλάξει μια περιγραφή αφού την έχετε εγκρίνει. Το ASI04 του OWASP αναφέρει έναν κακόβουλο διακομιστή MCP στο npm που υποδυόταν μια νόμιμη ενσωμάτωση email και αντέγραφε κρυφά τα email στον επιτιθέμενο.
Πρακτικά βήματα:
- Εγκαθιστάτε διακομιστές MCP από πηγές που εμπιστεύεστε, κλειδώνετε τις εκδόσεις και επαληθεύετε τα hashes.
- Ελέγχετε τις περιγραφές των εργαλείων για κρυφές οδηγίες, και ξανά όποτε αλλάζουν.
- Για τοπικούς διακομιστές, εμφανίζετε την ακριβή εντολή πριν εκτελεστεί και τους εκκινείτε με ελάχιστα προνόμια σε sandbox, όπως συνιστούν οι βέλτιστες πρακτικές ασφαλείας του MCP.
- Μην προωθείτε ποτέ tokens (token passthrough): οι διακομιστές MCP «ΔΕΝ ΠΡΕΠΕΙ να δέχονται tokens που δεν εκδόθηκαν ρητά για τον διακομιστή MCP».
- Ξεκινήστε με στενά OAuth scopes και προσθέτετε περισσότερα μόνο όταν μια λειτουργία τα χρειάζεται.
Η ενότητα 4 του μαθήματος Ασφάλεια AI: Προστασία Εφαρμογών LLM και Πρακτόρων AI, που παρακολουθείτε με τον δικό σας ρυθμό, καλύπτει την ασφάλεια πρακτόρων AI, εργαλείων και διακομιστών MCP.
Κρατήστε καθαρή τη μνήμη του πράκτορα
Η μνήμη επιτρέπει σε μια επίθεση να διατηρείται από συνεδρία σε συνεδρία (ASI06). Επικυρώνετε ό,τι γράφεται στη μνήμη, κρατάτε χωριστή μνήμη ανά χρήστη και ανά εργασία, ορίζετε λήξη για τις καταχωρίσεις που δεν έχουν επαληθευτεί και μην αφήνετε τις εξόδους του ίδιου του πράκτορα να επιστρέφουν αυτόματα στην αξιόπιστη μνήμη. Η καταχώριση LLM01:2026 του OWASP προσθέτει: αντιμετωπίζετε τις εγγραφές στη μνήμη ως προνομιούχες ενέργειες και καταγράφετε το prompt πίσω από την καθεμία.
Καταγράφετε τις ενέργειες του πράκτορα και κρατήστε τρόπο να τον σταματήσετε
Κρατάτε logs που αποκαλύπτουν κάθε αλλοίωση (tamper-evident) για τις κλήσεις εργαλείων, τις εγκρίσεις και τα μηνύματα μεταξύ πρακτόρων, ώστε να μπορείτε να διερευνήσετε και να αναιρέσετε αλλαγές (ASI08, ASI10). Βεβαιωθείτε ότι μπορείτε να σταματήσετε γρήγορα έναν πράκτορα: το OWASP αναφέρει kill switches και ανάκληση διαπιστευτηρίων για πράκτορες εκτός ελέγχου, καθώς και circuit breakers με όρια βημάτων, χρόνου και κόστους για εκτελέσεις που ξεφεύγουν. Δοκιμάστε τη διαδικασία διακοπής πριν τη χρειαστείτε και κάνετε τακτικά red teaming στους πράκτορες, μόνο σε συστήματα που σας ανήκουν ή για τα οποία έχετε γραπτή άδεια δοκιμής, και ελέγξτε ότι οι όροι του παρόχου του μοντέλου σας επιτρέπουν δοκιμές ασφαλείας.
Τι λένε οι κανόνες της ΕΕ (γενικό πλαίσιο, όχι νομική συμβουλή)
- Δεν είναι κάθε σύστημα AI υψηλού κινδύνου σύμφωνα με την πράξη της ΕΕ για την τεχνητή νοημοσύνη: σε γενικές γραμμές, μόνο όσα χρησιμοποιούνται για σκοπό που απαριθμείται στο παράρτημα III (με εξαιρέσεις) ή αποτελούν κατασκευαστικό στοιχείο ασφαλείας ενός προϊόντος που καλύπτει η νομοθεσία της ΕΕ που απαριθμείται στο παράρτημα I (ή είναι τα ίδια τέτοιο προϊόν), όταν το προϊόν αυτό πρέπει να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος.
- Για τα συστήματα AI υψηλού κινδύνου, το άρθρο 15 απαιτεί «κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας». Το άρθρο 15 παράγραφος 5 προσθέτει την ανθεκτικότητα σε απόπειρες μη εξουσιοδοτημένων τρίτων να μεταβάλουν τη χρήση, τα αποτελέσματα ή τις επιδόσεις ενός συστήματος και απαριθμεί, όπου ενδείκνυται, μέτρα κατά της δηλητηρίασης δεδομένων, της δηλητηρίασης μοντέλων, των αντιπαραθετικών παραδειγμάτων (αποφυγή του μοντέλου) και των επιθέσεων κατά της εμπιστευτικότητας ή των ελαττωμάτων του μοντέλου.
- Μετά τον κανονισμό (ΕΕ) 2026/1744, το «ψηφιακό Omnibus για την ΤΝ» (σε ισχύ από τις 27 Ιουλίου 2026), οι υποχρεώσεις για τα συστήματα υψηλού κινδύνου εφαρμόζονται από τις 2 Δεκεμβρίου 2027 για τα συστήματα του παραρτήματος III και από τις 2 Αυγούστου 2028 για τα συστήματα σε προϊόντα του παραρτήματος I.
- Ορισμένοι κανόνες ισχύουν ήδη: σύμφωνα με το άρθρο 50, από τις 2 Αυγούστου 2026, οι πάροχοι συστημάτων AI που αλληλεπιδρούν απευθείας με ανθρώπους πρέπει να διασφαλίζουν ότι οι άνθρωποι αυτοί ενημερώνονται ότι έχουν να κάνουν με AI, εκτός αν αυτό είναι προφανές.
- Η πράξη για την κυβερνοανθεκτικότητα εφαρμόζεται σε προϊόντα με ψηφιακά στοιχεία, συμπεριλαμβανομένου του λογισμικού, που διατίθενται στην αγορά της ΕΕ, οπότε ελέγξτε αν ο πράκτοράς σας διατίθεται ως τέτοιο προϊόν ή λειτουργεί ως υπηρεσία. Τέθηκε σε ισχύ στις 10 Δεκεμβρίου 2024. Οι υποχρεώσεις των κατασκευαστών να αναφέρουν ενεργά αξιοποιούμενες ευπάθειες και σοβαρά περιστατικά ισχύουν από τις 11 Σεπτεμβρίου 2026, και οι κύριες υποχρεώσεις από τις 11 Δεκεμβρίου 2027.
Το αν κάτι από αυτά ισχύει για τον πράκτορά σας είναι ερώτημα για νομικό σύμβουλο.
Πού να συνεχίσετε
Αν μόλις ξεκινάτε να φτιάχνετε πράκτορες, ο οδηγός μας για το πώς να φτιάξετε έναν πράκτορα AI (στα αγγλικά) και το μάθημα AI Πρακτόρων: Εισαγωγή στην Ανάπτυξη Πρακτόρων, που παρακολουθείτε με τον δικό σας ρυθμό, καλύπτουν τα βασικά.
Ένας δομημένος τρόπος να αποκτήσετε αυτές τις δεξιότητες είναι το μάθημα Ασφάλεια AI: Προστασία Εφαρμογών LLM και Πρακτόρων AI: με τον δικό σας ρυθμό, μεσαίου επιπέδου και διάρκειας 40 ωρών. Καλύπτει την ασφάλεια της εφοδιαστικής αλυσίδας AI και τους κανόνες της ΕΕ, και στο τελικό του έργο σας ζητά να επιτεθείτε σε έναν πράκτορα AI, να τον διορθώσετε και να τον δοκιμάσετε ξανά.

Μάθετε τεχνικές δεξιότητες online στα bootcamps της Code Labs Academy
Γίνετε μέλος της υποστηρικτικής μας κοινότητας, ξεκλειδώστε το δυναμικό σας και ξεκινήστε μια επιτυχημένη καριέρα στην τεχνολογία.
Κάντε αίτηση τώρα