KI-Agenten absichern: OWASP Agentic Top 10, MCP und wichtige Maßnahmen
Aktualisiert am November 19, 2026Lesedauer: 8 Minuten
Ein KI-Agent, aufgebaut um ein großes Sprachmodell (LLM), tut mehr, als Fragen zu beantworten. Er plant, ruft Tools auf, liest und schreibt Daten und kommuniziert manchmal mit anderen Agenten. Dadurch steht bei jeder Schwäche des Modells mehr auf dem Spiel: Eine Prompt Injection, die in einem Chatbot nur eine schlechte Antwort erzeugen würde, kann einen Agenten dazu bringen, E-Mails zu senden, Datensätze zu ändern oder Code auszuführen. Dieser Leitfaden behandelt die OWASP Top 10 für agentische Anwendungen und praktische Maßnahmen, einschließlich der Sicherheit des Model Context Protocol (MCP).
Warum Agenten ein eigenes Sicherheitsmodell brauchen
NIST AI 100-2e2025 beschreibt einen Agenten als Software, die „ein Modell iterativ promptet“, seine Ausgaben verarbeitet, etwa um eine Funktion aufzurufen, und die Ergebnisse in den nächsten Prompt zurückspeist. Die OWASP Top 10 für LLM-Anwendungen 2026 ziehen genau dort die Grenze: Die Liste betrachtet das Modell als Komponente, und sobald das Modell mit Tools, Gedächtnis und nachgelagerten Folgen handelt, verweist OWASP auf seine Liste für agentische Anwendungen.
Diese Liste ergänzt ein Prinzip, das Sie als Erstes übernehmen sollten: Least Agency. OWASP rät Organisationen, „unnötige Autonomie zu vermeiden“, denn agentisches Verhalten dort einzusetzen, wo es nicht gebraucht wird, „vergrößert die Angriffsfläche, ohne Mehrwert zu schaffen“.
Die OWASP Top 10 für agentische Anwendungen
Das OWASP GenAI Security Project hat die OWASP Top 10 für agentische Anwendungen am 9. Dezember 2025 veröffentlicht. Die zehn Einträge:
- ASI01: Agent Goal Hijack (Kapern der Agentenziele). Eingeschleuste Inhalte lenken die Ziele oder Pläne des Agenten um.
- ASI02: Tool Misuse and Exploitation (Missbrauch und Ausnutzung von Tools). Der Agent nutzt legitime Tools auf unsichere Weise.
- ASI03: Identity and Privilege Abuse (Missbrauch von Identitäten und Berechtigungen). Delegierte oder geerbte Zugangsdaten werden missbraucht.
- ASI04: Agentic Supply Chain Vulnerabilities (Schwachstellen in der agentischen Lieferkette). Tools, MCP-Server, Prompts oder Agenten sind bösartig oder manipuliert.
- ASI05: Unexpected Code Execution (RCE) (unerwartete Codeausführung). Generierter oder eingeschleuster Code läuft auf Ihren Systemen.
- ASI06: Memory & Context Poisoning (Vergiftung von Gedächtnis und Kontext). Gespeicherte Erinnerungen oder abgerufener Kontext werden verfälscht.
- ASI07: Insecure Inter-Agent Communication (unsichere Kommunikation zwischen Agenten). Nachrichten zwischen Agenten werden gefälscht oder verändert.
- ASI08: Cascading Failures (Kaskadenfehler). Ein Fehler breitet sich über Agenten und Workflows aus.
- ASI09: Human-Agent Trust Exploitation (Ausnutzung des Vertrauens zwischen Mensch und Agent). Menschen vertrauen einem selbstsicher auftretenden Agenten zu sehr.
- ASI10: Rogue Agents (außer Kontrolle geratene Agenten). Ein Agent weicht von seiner vorgesehenen Funktion oder seinem Aufgabenbereich ab.
Geben Sie Agenten minimale Rechte und eng begrenzte Zugangsdaten
Der OWASP-Eintrag LLM01:2026 hält fest, dass die meisten dokumentierten Prompt-Injection-Vorfälle mit großen Auswirkungen deshalb so gravierend wurden, weil das kompromittierte Modell über Tools mit den Berechtigungen des Nutzers handeln konnte. ASI03 empfiehlt eigene Identitäten pro Agent und „kurzlebige, eng begrenzte Tokens pro Aufgabe“; ASI02 empfiehlt Profile pro Tool mit Scopes, Rate Limits und Egress-Allowlists. Führen Sie Tools im eigenen Kontext des Nutzers mit dem minimalen OAuth-Scope aus, nicht über ein gemeinsames Konto mit weitreichenden Rechten.
Invariant Labs hat gezeigt, warum der Scope wichtig ist: Ein bösartiges GitHub-Issue konnte einen Agenten kapern, der mit dem MCP-Server von GitHub verbunden war, und Daten aus den privaten Repositorys des Nutzers offenlegen. Die Forscher nannten das „keinen Fehler im Code des GitHub-MCP-Servers selbst“, sondern ein Architekturproblem, und schlugen vor, jede Sitzung auf ein einziges Repository zu beschränken.
Ein schneller Design-Check ist Metas Agents Rule of Two: In einer Sitzung sollte ein Agent höchstens zwei dieser Fähigkeiten kombinieren: nicht vertrauenswürdige Eingaben verarbeiten, auf sensible Systeme oder private Daten zugreifen und den Zustand ändern oder extern kommunizieren. Braucht er alle drei, „sollte er nicht autonom arbeiten dürfen“, so Meta.
Nutzen Sie Allowlists und eine Policy-Prüfung außerhalb des Modells
Legen Sie im Code fest, nicht im Prompt, was der Agent tun darf. Erlauben Sie per Allowlist die Tools für jede Aufgabe, die Netzwerkziele, die er erreichen darf, und die Befehle, die er ohne Rückfrage ausführen darf, und verweigern Sie alles andere. ASI02 beschreibt einen Policy Enforcement Point, der die Ausgabe des Planers als nicht vertrauenswürdig behandelt, Absicht und Argumente prüft, Schemas und Rate Limits durchsetzt und kurzlebige Zugangsdaten ausgibt, bevor ein Tool ausgeführt wird.
Führen Sie jeden Code des Agenten in einer Sandbox aus
Wenn ein Agent Code schreibt oder ausführt, sollten Sie damit rechnen, dass ein Teil davon bösartig ist (ASI05). Der Rat von OWASP: niemals als root ausführen, Code in Sandbox-Containern mit strikten Limits ausführen, auch für den Netzwerkzugriff, und Codegenerierung und -ausführung durch Validierungsschritte trennen. Der Beitrag von Anthropic über das Sandboxing seines Coding-Agenten ergänzt, dass wirksames Sandboxing sowohl Dateisystem- als auch Netzwerkisolation erfordert, da ein kompromittierter Agent ohne Netzwerkisolation „sensible Dateien wie SSH-Schlüssel exfiltrieren könnte“.
Fragen Sie vor unumkehrbaren Aktionen einen Menschen
Verlangen Sie eine Freigabe vor jeder Aktion, die sich schwer rückgängig machen lässt oder außerhalb des Systems sichtbar ist: Daten löschen, Geld überweisen, etwas veröffentlichen oder Nachrichten senden. ASI02 schlägt vor, vor der Freigabe einen Dry Run oder ein Diff der Aktion anzuzeigen. Halten Sie Abfragen so selten, dass sie Gewicht behalten: OWASP warnt, dass Freigabemüdigkeit das Urteilsvermögen schwächt, und ASI09 beschreibt Agenten, die Prüfer dazu überreden, schädliche Aktionen freizugeben.
Behandeln Sie MCP-Server und Tool-Beschreibungen als nicht vertrauenswürdig
MCP macht es einfach, Tools an einen Agenten anzubinden, und macht Tools damit zu einem Lieferkettenrisiko. Die MCP-Spezifikation legt fest, dass Clients „Tool-Annotationen als nicht vertrauenswürdig betrachten MÜSSEN, sofern sie nicht von vertrauenswürdigen Servern stammen“, und dass „immer ein Mensch eingebunden sein SOLLTE (Human in the Loop), der Tool-Aufrufe ablehnen kann“.
Invariant Labs beschreibt Tool Poisoning als Anweisungen in Tool-Beschreibungen, die „für Nutzer unsichtbar, für KI-Modelle aber sichtbar sind“, und warnt, dass ein Server eine Beschreibung ändern kann, nachdem Sie sie genehmigt haben. ASI04 von OWASP nennt einen bösartigen MCP-Server auf npm, der sich als legitime E-Mail-Integration ausgab und heimlich E-Mails an den Angreifer kopierte.
Praktische Schritte:
- Installieren Sie MCP-Server aus vertrauenswürdigen Quellen, pinnen Sie Versionen und verifizieren Sie Hashes.
- Prüfen Sie Tool-Beschreibungen auf versteckte Anweisungen, und prüfen Sie sie erneut, wenn sie sich ändern.
- Zeigen Sie bei lokalen Servern den genauen Befehl an, bevor er ausgeführt wird, und starten Sie ihn mit minimalen Rechten in einer Sandbox, wie es die MCP Security Best Practices empfehlen.
- Reichen Sie niemals Tokens durch: MCP-Server „DÜRFEN KEINE Tokens akzeptieren, die nicht ausdrücklich für den MCP-Server ausgestellt wurden“.
- Beginnen Sie mit eng gefassten OAuth-Scopes und fügen Sie weitere nur hinzu, wenn ein Vorgang sie erfordert.
Modul 4 des Selbstlernkurses KI-Sicherheit: LLM-Apps und KI-Agenten absichern behandelt die Absicherung von KI-Agenten, Tools und MCP-Servern.
Halten Sie das Gedächtnis des Agenten sauber
Über das Gedächtnis (Memory) kann ein Angriff sitzungsübergreifend fortbestehen (ASI06). Validieren Sie, was ins Gedächtnis geschrieben wird, trennen Sie das Gedächtnis pro Nutzer und pro Aufgabe, lassen Sie nicht verifizierte Einträge verfallen und lassen Sie die eigenen Ausgaben des Agenten nicht automatisch in das vertrauenswürdige Gedächtnis zurückfließen. Der OWASP-Eintrag LLM01:2026 ergänzt: Behandeln Sie Schreibvorgänge ins Gedächtnis als privilegiert und protokollieren Sie den Prompt hinter jedem einzelnen.
Protokollieren Sie Agentenaktionen und behalten Sie einen Weg, den Agenten zu stoppen
Führen Sie Logs, die Manipulationen erkennbar machen, über Tool-Aufrufe, Freigaben und Nachrichten zwischen Agenten, damit Sie Vorfälle untersuchen und Änderungen zurückrollen können (ASI08, ASI10). Stellen Sie sicher, dass Sie einen Agenten schnell stoppen können: OWASP nennt Kill Switches und den Widerruf von Zugangsdaten für außer Kontrolle geratene Agenten sowie Circuit Breaker mit Limits für Schritte, Zeit und Kosten bei ausufernden Durchläufen. Testen Sie diesen Stopp-Mechanismus, bevor Sie ihn brauchen, und unterziehen Sie Agenten regelmäßig einem Red Teaming, nur auf Systemen, die Ihnen gehören oder für die Sie eine schriftliche Testerlaubnis haben, und vergewissern Sie sich, dass die Nutzungsbedingungen Ihres Modellanbieters Sicherheitstests erlauben.
Was die EU-Vorschriften sagen (Hintergrund, keine Rechtsberatung)
- Nicht jedes KI-System ist nach der EU-KI-Verordnung hochriskant: Grob gesagt gilt das nur für Systeme, die für einen in Anhang III aufgeführten Zweck eingesetzt werden (mit Ausnahmen) oder die ein Sicherheitsbauteil eines Produkts sind, das unter die in Anhang I aufgeführten EU-Rechtsvorschriften fällt (oder selbst ein solches Produkt sind), wenn dieses Produkt einer Konformitätsbewertung durch Dritte unterzogen werden muss.
- Für Hochrisiko-KI-Systeme verlangt Artikel 15 „ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit“. Artikel 15 Absatz 5 ergänzt die Widerstandsfähigkeit gegen Versuche unbefugter Dritter, die Verwendung, die Ausgaben oder die Leistung eines Systems zu verändern, und nennt, wo angemessen, Maßnahmen gegen Data Poisoning, Model Poisoning, Adversarial Examples (Model Evasion) sowie Angriffe auf die Vertraulichkeit oder Modellmängel.
- Nach der Verordnung (EU) 2026/1744, der „Digital-Omnibus-Verordnung zur KI“ (in Kraft seit dem 27. Juli 2026), gelten die Pflichten für Hochrisiko-Systeme ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme in Produkten nach Anhang I.
- Einige Vorschriften gelten bereits: Nach Artikel 50 müssen Anbieter von KI-Systemen, die direkt mit Menschen interagieren, seit dem 2. August 2026 sicherstellen, dass diese Menschen informiert werden, dass sie es mit einer KI zu tun haben, sofern das nicht offensichtlich ist.
- Der Cyber Resilience Act gilt für Produkte mit digitalen Elementen, einschließlich Software, die auf dem EU-Markt in Verkehr gebracht werden. Prüfen Sie daher, ob Ihr Agent als ein solches Produkt ausgeliefert wird oder als Dienst läuft. Der Cyber Resilience Act ist am 10. Dezember 2024 in Kraft getreten. Die Meldepflichten der Hersteller für aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle gelten seit dem 11. September 2026, die Hauptpflichten ab dem 11. Dezember 2027.
Ob davon etwas für Ihren Agenten gilt, ist eine Frage für Ihre Rechtsberatung.
Wie es weitergeht
Wenn Sie gerade erst anfangen, Agenten zu bauen, vermitteln unser Leitfaden dazu, wie man einen KI-Agenten baut (auf Englisch), und der Selbstlernkurs Agentische KI: Einführung in die Agentenentwicklung die Grundlagen.
Ein strukturierter Weg, diese Fähigkeiten aufzubauen, ist der Kurs KI-Sicherheit: LLM-Apps und KI-Agenten absichern: ein Selbstlernkurs für Fortgeschrittene mit 40 Stunden Umfang. Er behandelt die Sicherheit der KI-Lieferkette und die EU-Vorschriften, und im Abschlussprojekt greifen Sie einen KI-Agenten an, korrigieren ihn und testen ihn erneut.

Lernen Sie online Tech-Skills mit Code Labs Academy
Treten Sie unserer unterstützenden Community bei, entfesseln Sie Ihr Potenzial und starten Sie Ihren Weg zu einer erfüllenden Karriere.
Jetzt bewerben