Přejít na hlavní obsah
Zpět na blog

OWASP Top 10 pro LLM aplikace 2026: vysvětlení všech 10 rizik

Aktualizováno na November 19, 20267 minuty čte


OWASP Top 10 pro LLM aplikace je seznam nejkritičtějších bezpečnostních rizik pro aplikace postavené na velkých jazykových modelech (LLM), který sestavuje OWASP GenAI Security Project. Edice 2026 vyšla v srpnu 2026 (její stránka se zdrojem nese datum 3. srpna) a byla oznámena 1. září 2026. Tento průvodce uvádí všech deset položek s jejich oficiálními ID, každou stručně vysvětluje, ke každé přidává jedno praktické opatření a shrnuje, co se změnilo oproti roku 2025.

Úvodní dopis vedoucích projektu udává tón: „Přestaňte se snažit postavit model, který nejde oklamat. Postavte kolem něj systém tak, aby se ve chvíli, kdy bude model oklamán – a on bude –, nic důležitého nerozbilo.“

Jak vznikl seznam 2026

Dřívější edice stavěly na úsudku odborníků z praxe. Pro rok 2026 OWASP navíc porovnal komunitní hlasování s korpusem 7714 skutečných incidentů z veřejných databází zranitelností a z databáze škod způsobených AI, z nichž 6639 obsahovalo dost podrobností pro klasifikaci. Hlasování má tři čtvrtiny váhy, data o incidentech jednu čtvrtinu. Oba zdroje se ne vždy shodly: při seřazení podle prostého počtu incidentů vypadává prompt injection z top 10, což OWASP připisuje „efektu obrany“, protože týmy proti ní tvrdě bojují a do veřejných databází se dostává méně čistých exploitů. U Misinformation to bylo naopak: hlasující ji umístili ke konci, záznamy o incidentech na začátek a důkazy ji nakonec vytáhly na sedmé místo.

Seznam 2026 v kostce

Položka 2026Pozice v roce 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (jako System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Pozice z roku 2025 pocházejí ze seznamu OWASP pro rok 2025.

LLM01:2026 Prompt Injection

Vstup, který mění chování modelu způsobem, jaký vývojář nezamýšlel, ať už pochází od uživatele, z dokumentu, výsledku nástroje, obrázku nebo paměti. Položka nově zahrnuje i mezimodální útoky, které skrývají instrukce v obrázcích nebo zvuku. Opatření: přihlašovací údaje a akce měnící stav držte v kódu aplikace a modelu přidělujte pro každou operaci nejnižší nutná oprávnění. Této položce se podrobně věnuje náš průvodce prompt injection.

LLM02:2026 Sensitive Information Disclosure (vyzrazení citlivých informací)

Únik důvěrných nebo regulovaných dat jakýmkoli kanálem: odpovědí, argumenty volání nástrojů, stopami uvažování, vyhledanými úseky dokumentů, logy nebo embeddingy. OWASP označuje nadměrné sdílení dat už v dřívějších fázích, například disky bez omezení přístupu, které plní index pro generování rozšířené o vyhledávání (RAG), za jedno ze dvou selhání, která stojí za většinou incidentů. Opatření: autorizujte ještě před vyhledáváním a řízení přístupu na úrovni dokumentů a úseků vynucujte přímo v dotazu do indexu.

LLM03:2026 Excessive Agency (nadměrná autonomie)

Škodlivé akce provedené v reakci na neočekávaný, nejednoznačný nebo zmanipulovaný výstup modelu. Hlavními příčinami jsou nadměrná funkcionalita, oprávnění nebo autonomie. V agentních systémech se podle OWASP může projevit jako zneužití nástrojů, zneužití identity a oprávnění nebo kaskádová selhání. Opatření: minimalizujte nástroje a jejich oprávnění (nástroj pro shrnutí e-mailů potřebuje poštu jen číst) a u akcí s velkým dopadem vyžadujte schválení člověkem.

LLM04:2026 Supply Chain (dodavatelský řetězec)

Rizika v modelech, datových sadách, adaptérech jako LoRA, konverzních pipelinech a balíčcích třetích stran, včetně „slopsquattingu“, kdy útočníci registrují názvy balíčků, které si AI asistenti pro programování vymýšlejí (halucinují). Opatření: připínejte artefakty modelů pomocí neměnného digestu, nikoli měnitelného tagu, ověřujte podpisy a před instalací zkontrolujte, že závislosti navržené AI skutečně existují.

LLM05:2026 Data and Model Poisoning (otrávení dat a modelů)

Zmanipulovaná data nebo artefakty modelů, které během předtrénování, doladění, tvorby embeddingů nebo distribuce vkládají zadní vrátka či zkreslení. Otrávení může být levné: Souly a kol. (2025) zjistili, že 250 otrávených dokumentů kompromitovalo modely od 600 mil. do 13 mld. parametrů bez ohledu na velikost datové sady. Opatření: sledujte původ dat a modelů, verzujte datové sady a se šablonami chatu, konfiguracemi tokenizéru a adaptéry zacházejte jako s kódem, který musí být podepsaný a ověřený.

LLM06:2026 Unbounded Consumption (neomezená spotřeba zdrojů)

Nekontrolovaná inference, která způsobuje výpadky, nekontrolovatelný růst nákladů („denial of wallet“) nebo krádež modelu jeho extrakcí. Situaci zhoršují modely s uvažováním, multimodální vstupy a smyčky volání nástrojů u agentů. Opatření: pevné limity výdajů, které inferenci zastaví, a k tomu pojistky (circuit breakers) pro agenty s limity kroků, rekurze, času a nákladů na jeden běh.

LLM07:2026 Misinformation (nepravdivé informace)

Nesprávný nebo nepodložený výstup, který působí natolik věrohodně, že podle něj někdo začne jednat. V agentních systémech se z chybné odpovědi stává chybná akce, například když agent nahlásí, že proběhla záloha, která ve skutečnosti nikdy neproběhla. Opatření: vzor claim-check-act (tvrzení, ověření, akce), který odděluje generování od provedení a před akcí ověřuje tvrzení a předpoklady.

LLM08:2026 Hidden Context Exposure (odhalení skrytého kontextu)

Vytažení nebo rekonstrukce skrytého kontextu: systémových promptů, instrukcí vývojáře, vyhledaných textů zásad a schémat nástrojů. OWASP doporučuje počítat s tím, že skrytý kontext lze odhalit. Opatření: nedávejte do něj přihlašovací údaje ani jiné tajné údaje a autorizaci vynucujte v deterministickém kódu mimo model.

LLM09:2026 Vector and Embedding Weaknesses (slabiny vektorů a embeddingů)

Útoky na vrstvu embeddingů, na které stojí RAG, paměť agentů a sémantické mezipaměti. Slovy OWASP: „otrávení způsobí, že se systém mýlí, inverze, že vyzrazuje data, rušení, že mlčí, a selhání řízení přístupu, že je nevybíravý“. Opatření: oddělení dat jednotlivých tenantů vynucujte přímo v dotazu do indexu, ne jako filtr po vyhledání, a obsah s různou úrovní důvěryhodnosti ukládejte do samostatných indexů.

LLM10:2026 Improper Output Handling (nesprávné zpracování výstupu)

Předávání výstupu modelu dál bez validace, které může vést k XSS, SQL injection, SSRF nebo vzdálenému spuštění kódu. Položka nově zahrnuje i nezabezpečený kód, který asistenti generují ve velkém. Opatření: s výstupem modelu zacházejte jako s uživatelským vstupem: kódujte ho podle kontextu, používejte parametrizované dotazy a vypněte automatické vykreslování obrázků v Markdownu a náhledů odkazů.

Co se změnilo oproti edici 2025

Podle OWASP se pořadí „pohnulo víc než v minulých letech“. Hlavní změny:

  • Excessive Agency stoupla ze šestého na třetí místo, což OWASP označuje za „nejvýznamnější posun v celém seznamu“.
  • Unbounded Consumption stoupla o čtyři místa a Improper Output Handling klesla nejvíc, z pátého na desáté místo.
  • Prompt Injection a Sensitive Information Disclosure si udržely první dvě místa.
  • Ze System Prompt Leakage se stala širší položka Hidden Context Exposure.
  • Novější rizika se místo do nových kategorií dostala do stávajících položek: mezimodální injekce, artefakty modelů, které nejsou tím, za co se vydávají, podvracení doladění a nezabezpečený generovaný kód.
  • Mapování na rámce (NIST, MITRE ATLAS, CWE a další) se přesunulo do jedné přílohy.

OWASP také jasněji vymezuje hranice. Tento seznam se zabývá modelem jako komponentou vaší aplikace. Jakmile se z modelu stane aktér s nástroji, pamětí a dopady na navazující systémy, OWASP doporučuje kombinovat ho s OWASP Top 10 pro agentní aplikace, který rozebírá náš průvodce jak zabezpečit AI agenty.

Jak seznam používat v týmu

OWASP radí: „projděte všech deset, začněte nahoře“. V praxi:

  • Když navrhujete nebo revidujete funkci postavenou na LLM, projděte všech deset položek a poznamenejte si, kde je zranitelná.
  • Z každého opatření udělejte úkol s odpovědnou osobou a po opravách testujte znovu.
  • Nálezy označujte ID položek, aby vývojáři, bezpečnostní inženýři a produktoví vlastníci mluvili stejným jazykem.
  • Testujte pouze systémy, které vlastníte nebo k jejichž testování máte písemné povolení, a ověřte si, že podmínky poskytovatele vašeho modelu bezpečnostní testování povolují.

Závěrečný projekt kurzu Bezpečnost AI: zabezpečení LLM aplikací a AI agentů, který studujete vlastním tempem, nazvaný „Zaútočte na AI agenta, opravte ho a znovu otestujte“, končí bezpečnostní zprávou, která každý nález přiřazuje k seznamům OWASP.

Kam dál

Začněte položkou na vrcholu: náš průvodce co je prompt injection vysvětluje přímé a nepřímé útoky i vícevrstvou obranu. Pokud vaše aplikace vyhledává v dokumentech, podívejte se pozorně na LLM02 a LLM09, které se týkají oprávnění při vyhledávání a vrstvy embeddingů; souvisejícím kurzem vlastním tempem je AI Engineer: Úvod do RAG a vyhledávání.

Jedním ze strukturovaných způsobů, jak si tyto dovednosti osvojit, je kurz Bezpečnost AI: zabezpečení LLM aplikací a AI agentů: studuje se vlastním tempem, je na středně pokročilé úrovni a trvá 40 hodin. Je určen vývojářům, AI inženýrům a bezpečnostním specialistům, kteří vytvářejí nebo testují AI funkce.

Naučte se technické dovednosti online s Code Labs Academy

Naučte se technické dovednosti online s Code Labs Academy

Připojte se k naší podpůrné komunitě, odemkněte svůj potenciál a vydejte se na obohacující kariéru.

Přihlaste se hned

Často kladené otázky

Co je OWASP Top 10 pro LLM aplikace 2026?

Je to seznam deseti nejkritičtějších bezpečnostních rizik pro aplikace postavené na velkých jazykových modelech, který sestavil OWASP GenAI Security Project a který vyšel v srpnu 2026. Každá položka vysvětluje riziko, uvádí scénáře útoků a vyjmenovává opatření.

Co je na prvním místě OWASP LLM Top 10 2026?

Na prvním místě je LLM01:2026 Prompt Injection, stejně jako v roce 2025. Sensitive Information Disclosure (vyzrazení citlivých informací) zůstává na druhém místě a Excessive Agency (nadměrná autonomie) se posouvá na třetí.

Co se změnilo oproti OWASP LLM Top 10 2025?

Pořadí se změnilo výrazněji než v minulých edicích: Excessive Agency stoupla ze šestého na třetí místo, Unbounded Consumption o čtyři místa a Improper Output Handling klesla z pátého na desáté. Položka System Prompt Leakage se změnila na Hidden Context Exposure a pořadí poprvé zohlednilo také data o skutečných incidentech.

Co se v roce 2026 stalo se System Prompt Leakage?

Položka byla přejmenována a rozšířena na LLM08:2026 Hidden Context Exposure (odhalení skrytého kontextu). Nyní zahrnuje veškerý skrytý kontext, který model vidí, včetně instrukcí vývojáře, vyhledaných textů zásad a schémat nástrojů, nejen systémový prompt.

Čím se LLM Top 10 liší od OWASP Top 10 pro agentní aplikace?

LLM Top 10 se zabývá modelem jako komponentou uvnitř vaší aplikace. Když model jedná samostatně s nástroji, pamětí a dopady na navazující systémy, OWASP doporučuje kombinovat ho s Top 10 pro agentní aplikace.

Kariérní služby

Personalizovaná kariérní podpora pro start v IT. Revize životopisu, modelové pohovory a oborové tipy vám pomohou prezentovat nové dovednosti s jistotou.

Prozkoumat