Zum Hauptinhalt springen
Zurück zum Blog

OWASP Top 10 für LLM-Anwendungen 2026: alle 10 Risiken erklärt

Aktualisiert am November 19, 2026Lesedauer: 7 Minuten


Die OWASP Top 10 für LLM-Anwendungen sind die Liste des OWASP GenAI Security Project mit den kritischsten Sicherheitsrisiken für Apps, die auf großen Sprachmodellen (LLMs) basieren. Die Ausgabe 2026 erschien im August 2026 (ihre Ressourcenseite ist auf den 3. August datiert) und wurde am 1. September 2026 angekündigt. Dieser Leitfaden listet alle zehn Einträge mit ihren offiziellen IDs auf, erklärt jeden kurz, nennt je eine praktische Maßnahme und fasst zusammen, was sich gegenüber 2025 geändert hat.

Das Eröffnungsschreiben der Projektleitung gibt den Ton vor: „Hören Sie auf zu versuchen, ein Modell zu bauen, das sich nicht täuschen lässt. Bauen Sie das System so darum herum, dass nichts Wichtiges kaputtgeht, wenn das Modell getäuscht wird – und das wird es.“

Wie die Liste 2026 entstand

Frühere Ausgaben stützten sich auf die Einschätzung von Praktikern. Für 2026 hat OWASP die Abstimmung der Community zusätzlich mit einem Korpus von 7714 realen Vorfällen aus öffentlichen Schwachstellendatenbanken und einer Datenbank für KI-Schäden abgeglichen; 6639 davon waren detailliert genug für eine Klassifizierung. Die Abstimmung zählt zu drei Vierteln, die Vorfallsdaten zu einem Viertel. Beide stimmten nicht immer überein: Nach reinen Vorfallszahlen fällt Prompt Injection aus den Top 10 heraus, was OWASP auf einen „Abwehreffekt“ zurückführt, da Teams sie intensiv bekämpfen und weniger saubere Exploits in öffentlichen Datenbanken landen. Bei Misinformation war es umgekehrt: Die Abstimmenden setzten sie fast ans Ende, die Vorfallsdaten fast an die Spitze, und die Belege zogen sie auf Platz sieben.

Die Liste 2026 im Überblick

Eintrag 2026Platz 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (als System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Die Plätze von 2025 stammen aus der Liste 2025 von OWASP.

LLM01:2026 Prompt Injection

Eingaben, die das Verhalten des Modells auf eine vom Entwickler nicht beabsichtigte Weise verändern, ob sie von einem Nutzer, einem Dokument, einem Tool-Ergebnis, einem Bild oder aus dem Gedächtnis stammen. Der Eintrag umfasst jetzt auch modalitätsübergreifende Angriffe, die Anweisungen in Bildern oder Audio verstecken. Maßnahme: Halten Sie Zugangsdaten und zustandsändernde Aktionen im Anwendungscode und geben Sie dem Modell pro Vorgang nur die minimal nötigen Rechte. Unser Leitfaden zu Prompt Injection behandelt diesen Eintrag ausführlich.

LLM02:2026 Sensitive Information Disclosure (Offenlegung sensibler Informationen)

Vertrauliche oder regulierte Daten, die über irgendeinen Kanal abfließen: die Antwort, Argumente von Tool-Aufrufen, Reasoning-Traces, abgerufene Chunks, Logs oder Embeddings. OWASP nennt übermäßiges Teilen im Vorfeld, etwa Laufwerke ohne eingegrenzte Berechtigungen, die einen Index für Retrieval-Augmented Generation (RAG) speisen, als einen von zwei Fehlern hinter den meisten Vorfällen. Maßnahme: Autorisieren Sie vor dem Abruf, indem Sie Zugriffsrechte auf Dokument- und Chunk-Ebene direkt in der Indexabfrage durchsetzen.

LLM03:2026 Excessive Agency (übermäßige Handlungsbefugnis)

Schädliche Aktionen als Reaktion auf unerwartete, mehrdeutige oder manipulierte Modellausgaben. Die Ursachen sind übermäßige Funktionalität, Berechtigungen oder Autonomie. In agentischen Systemen kann sich das laut OWASP als Tool-Missbrauch, als Missbrauch von Identitäten und Berechtigungen oder als Kaskadenfehler zeigen. Maßnahme: Minimieren Sie Tools und deren Berechtigungen (ein Tool, das E-Mails zusammenfasst, muss Mails nur lesen können) und verlangen Sie für folgenreiche Aktionen eine menschliche Freigabe.

LLM04:2026 Supply Chain (Lieferkette)

Risiken in Modellen, Datensätzen, Adaptern wie LoRA, Konvertierungspipelines und Paketen von Drittanbietern, einschließlich „Slopsquatting“, bei dem Angreifer Paketnamen registrieren, die Coding-Assistenten halluzinieren. Maßnahme: Pinnen Sie Modellartefakte über einen unveränderlichen Digest statt über ein veränderliches Tag, prüfen Sie Signaturen und vergewissern Sie sich, dass von KI vorgeschlagene Abhängigkeiten existieren, bevor Sie sie installieren.

LLM05:2026 Data and Model Poisoning (Vergiftung von Daten und Modellen)

Manipulierte Daten oder Modellartefakte, die beim Pre-Training, Fine-Tuning, Embedding oder bei der Verteilung Hintertüren oder Verzerrungen einschleusen. Poisoning kann billig sein: Souly et al. (2025) fanden heraus, dass 250 vergiftete Dokumente Modelle mit 600 Mio. bis 13 Mrd. Parametern kompromittierten, unabhängig von der Größe des Datensatzes. Maßnahme: Verfolgen Sie die Herkunft von Daten und Modellen, versionieren Sie Ihre Datensätze und behandeln Sie Chat-Templates, Tokenizer-Konfigurationen und Adapter wie Code, der signiert und verifiziert werden muss.

LLM06:2026 Unbounded Consumption (unbegrenzter Verbrauch)

Unkontrollierte Inferenz, die Ausfälle, ausufernde Kosten („Denial of Wallet“) oder Modelldiebstahl durch Extraktion verursacht. Reasoning-Modelle, multimodale Eingaben und Tool-Schleifen von Agenten verschärfen das Problem. Maßnahme: harte Ausgabenobergrenzen, die die Inferenz stoppen, dazu Circuit Breaker für Agenten mit Limits für Schritte, Rekursion, Zeit und Kosten pro Durchlauf.

LLM07:2026 Misinformation (Fehlinformationen)

Falsche oder unbelegte Ausgaben, die glaubwürdig genug wirken, um danach zu handeln. In agentischen Systemen wird aus einer falschen Antwort eine falsche Aktion, etwa wenn ein Agent meldet, ein Backup sei gelaufen, obwohl es nie stattgefunden hat. Maßnahme: ein Claim-Check-Act-Muster, das Generierung und Ausführung trennt und Behauptungen und Vorbedingungen prüft, bevor gehandelt wird.

LLM08:2026 Hidden Context Exposure (Preisgabe von verborgenem Kontext)

Extraktion oder Rekonstruktion von verborgenem Kontext: System-Prompts, Entwickleranweisungen, abgerufene Richtlinientexte und Tool-Schemas. OWASP rät, davon auszugehen, dass verborgener Kontext auffindbar ist. Maßnahme: Halten Sie Zugangsdaten und Secrets daraus fern und setzen Sie die Autorisierung in deterministischem Code außerhalb des Modells durch.

LLM09:2026 Vector and Embedding Weaknesses (Schwachstellen bei Vektoren und Embeddings)

Angriffe auf die Embedding-Schicht hinter RAG, dem Gedächtnis von Agenten und semantischen Caches. In den Worten von OWASP: „Poisoning macht das System falsch, Inversion lässt es Daten preisgeben, Jamming bringt es zum Schweigen, und versagende Zugriffskontrolle macht es wahllos.“ Maßnahme: Setzen Sie die Mandantentrennung in der Indexabfrage selbst durch, nicht als Filter nach dem Abruf, und halten Sie Inhalte unterschiedlicher Vertrauensstufen in getrennten Indizes.

LLM10:2026 Improper Output Handling (unsachgemäße Ausgabeverarbeitung)

Modellausgaben werden ohne Validierung an nachgelagerte Systeme weitergegeben, was zu XSS, SQL-Injection, SSRF oder Remote Code Execution führen kann. Der Eintrag umfasst jetzt auch unsicheren Code, den Assistenten in großem Umfang generieren. Maßnahme: Behandeln Sie Modellausgaben wie Nutzereingaben: Kodieren Sie sie für den jeweiligen Kontext, nutzen Sie parametrisierte Abfragen und deaktivieren Sie das automatische Rendern von Markdown-Bildern und Link-Vorschauen.

Was sich gegenüber der Ausgabe 2025 geändert hat

Laut OWASP hat sich die Reihenfolge „stärker verschoben als in früheren Jahren“. Die wichtigsten Änderungen:

  • Excessive Agency stieg vom sechsten auf den dritten Platz, laut OWASP „die folgenreichste Verschiebung auf der Liste“.
  • Unbounded Consumption stieg um vier Plätze, und Improper Output Handling fiel am tiefsten, vom fünften auf den zehnten Platz.
  • Prompt Injection und Sensitive Information Disclosure behielten die ersten beiden Plätze.
  • Aus System Prompt Leakage wurde Hidden Context Exposure, ein breiter gefasster Eintrag.
  • Bestehende Einträge haben neuere Risiken aufgenommen, statt dass neue Kategorien hinzukamen: modalitätsübergreifende Injection, Modellartefakte, die nicht das sind, was sie zu sein vorgeben, die Unterwanderung des Fine-Tunings und unsicherer generierter Code.
  • Die Zuordnungen zu Frameworks (NIST, MITRE ATLAS, CWE und andere) wurden in einen gemeinsamen Anhang verschoben.

OWASP zieht außerdem eine klarere Grenze. Diese Liste betrachtet das Modell als Komponente Ihrer Anwendung. Sobald das Modell zu einem Akteur mit Tools, Gedächtnis und nachgelagerten Folgen wird, empfiehlt OWASP, sie mit den OWASP Top 10 für agentische Anwendungen zu kombinieren, die unser Leitfaden dazu, wie Sie KI-Agenten absichern, Schritt für Schritt durchgeht.

So nutzen Sie die Liste im Team

OWASP rät, „alle zehn abzuarbeiten und oben anzufangen“. In der Praxis heißt das:

  • Gehen Sie die zehn Einträge durch, wenn Sie eine LLM-Funktion entwerfen oder prüfen, und notieren Sie, wo sie angreifbar ist.
  • Machen Sie aus jeder Maßnahme ein Ticket mit einer verantwortlichen Person und testen Sie nach den Korrekturen erneut.
  • Versehen Sie Befunde mit den IDs der Einträge, damit Entwickler, Sicherheitsingenieure und Product Owner dasselbe Vokabular verwenden.
  • Testen Sie nur Systeme, die Ihnen gehören oder für die Sie eine schriftliche Testerlaubnis haben, und vergewissern Sie sich, dass die Nutzungsbedingungen Ihres Modellanbieters Sicherheitstests erlauben.

Das Abschlussprojekt des Selbstlernkurses KI-Sicherheit: LLM-Apps und KI-Agenten absichern, „Einen KI-Agenten angreifen, korrigieren und erneut testen“, endet mit einem Sicherheitsbericht, der jeden Befund den OWASP-Listen zuordnet.

Wie es weitergeht

Beginnen Sie mit dem Eintrag an der Spitze: Unser Leitfaden dazu, was Prompt Injection ist, erklärt direkte und indirekte Angriffe sowie mehrschichtige Abwehrmaßnahmen. Wenn Ihre App Dokumente abruft, sehen Sie sich LLM02 und LLM09 genau an, die Berechtigungen beim Abruf und die Embedding-Schicht behandeln; AI Engineer: Einführung in RAG & Suche ist ein verwandter Selbstlernkurs.

Ein strukturierter Weg, diese Fähigkeiten aufzubauen, ist der Kurs KI-Sicherheit: LLM-Apps und KI-Agenten absichern: ein Selbstlernkurs für Fortgeschrittene mit 40 Stunden Umfang, für Entwickler, KI-Ingenieure und Sicherheitsfachleute, die KI-Funktionen bauen oder testen.

Lernen Sie online Tech-Skills mit Code Labs Academy

Lernen Sie online Tech-Skills mit Code Labs Academy

Treten Sie unserer unterstützenden Community bei, entfesseln Sie Ihr Potenzial und starten Sie Ihren Weg zu einer erfüllenden Karriere.

Jetzt bewerben

Häufig gestellte Fragen

Was sind die OWASP Top 10 für LLM-Anwendungen 2026?

Es ist die Liste des OWASP GenAI Security Project mit den zehn kritischsten Sicherheitsrisiken für Anwendungen, die auf großen Sprachmodellen basieren, veröffentlicht im August 2026. Jeder Eintrag erklärt das Risiko, beschreibt Angriffsszenarien und nennt Gegenmaßnahmen.

Was steht auf Platz eins der OWASP LLM Top 10 2026?

LLM01:2026 Prompt Injection steht an erster Stelle, wie schon 2025. Sensitive Information Disclosure bleibt auf Platz zwei, und Excessive Agency rückt auf Platz drei vor.

Was hat sich gegenüber den OWASP LLM Top 10 von 2025 geändert?

Die Reihenfolge hat sich stärker verändert als in früheren Ausgaben: Excessive Agency stieg vom sechsten auf den dritten Platz, Unbounded Consumption stieg um vier Plätze, und Improper Output Handling fiel vom fünften auf den zehnten Platz. Aus System Prompt Leakage wurde Hidden Context Exposure, und erstmals flossen in die Rangfolge auch Daten aus realen Vorfällen ein.

Was ist 2026 aus System Prompt Leakage geworden?

Der Eintrag wurde umbenannt und erweitert: LLM08:2026 Hidden Context Exposure. Er umfasst jetzt jeden verborgenen Kontext, den das Modell sehen kann, darunter Entwickleranweisungen, abgerufene Richtlinientexte und Tool-Schemas, nicht nur den System-Prompt.

Worin unterscheiden sich die LLM Top 10 von den OWASP Top 10 für agentische Anwendungen?

Die LLM Top 10 betrachten das Modell als Komponente innerhalb Ihrer Anwendung. Wenn das Modell selbstständig mit Tools, Gedächtnis und nachgelagerten Auswirkungen handelt, rät OWASP, sie mit den Top 10 für agentische Anwendungen zu kombinieren.

Karriere-Services

Individuelle Karriereunterstützung für deinen Einstieg in die Tech-Branche. Mit Lebenslauf-Feedback, Probeinterviews und Branchen-Insights, damit du deine neuen Skills selbstbewusst präsentieren kannst.

Entdecken