OWASP Top 10 pro LLM aplikace 2026: vysvětlení všech 10 rizik
Aktualizováno na November 19, 20267 minuty čte
OWASP Top 10 pro LLM aplikace je seznam nejkritičtějších bezpečnostních rizik pro aplikace postavené na velkých jazykových modelech (LLM), který sestavuje OWASP GenAI Security Project. Edice 2026 vyšla v srpnu 2026 (její stránka se zdrojem nese datum 3. srpna) a byla oznámena 1. září 2026. Tento průvodce uvádí všech deset položek s jejich oficiálními ID, každou stručně vysvětluje, ke každé přidává jedno praktické opatření a shrnuje, co se změnilo oproti roku 2025.
Úvodní dopis vedoucích projektu udává tón: „Přestaňte se snažit postavit model, který nejde oklamat. Postavte kolem něj systém tak, aby se ve chvíli, kdy bude model oklamán – a on bude –, nic důležitého nerozbilo.“
Jak vznikl seznam 2026
Dřívější edice stavěly na úsudku odborníků z praxe. Pro rok 2026 OWASP navíc porovnal komunitní hlasování s korpusem 7714 skutečných incidentů z veřejných databází zranitelností a z databáze škod způsobených AI, z nichž 6639 obsahovalo dost podrobností pro klasifikaci. Hlasování má tři čtvrtiny váhy, data o incidentech jednu čtvrtinu. Oba zdroje se ne vždy shodly: při seřazení podle prostého počtu incidentů vypadává prompt injection z top 10, což OWASP připisuje „efektu obrany“, protože týmy proti ní tvrdě bojují a do veřejných databází se dostává méně čistých exploitů. U Misinformation to bylo naopak: hlasující ji umístili ke konci, záznamy o incidentech na začátek a důkazy ji nakonec vytáhly na sedmé místo.
Seznam 2026 v kostce
| Položka 2026 | Pozice v roce 2025 |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (jako System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Pozice z roku 2025 pocházejí ze seznamu OWASP pro rok 2025.
LLM01:2026 Prompt Injection
Vstup, který mění chování modelu způsobem, jaký vývojář nezamýšlel, ať už pochází od uživatele, z dokumentu, výsledku nástroje, obrázku nebo paměti. Položka nově zahrnuje i mezimodální útoky, které skrývají instrukce v obrázcích nebo zvuku. Opatření: přihlašovací údaje a akce měnící stav držte v kódu aplikace a modelu přidělujte pro každou operaci nejnižší nutná oprávnění. Této položce se podrobně věnuje náš průvodce prompt injection.
LLM02:2026 Sensitive Information Disclosure (vyzrazení citlivých informací)
Únik důvěrných nebo regulovaných dat jakýmkoli kanálem: odpovědí, argumenty volání nástrojů, stopami uvažování, vyhledanými úseky dokumentů, logy nebo embeddingy. OWASP označuje nadměrné sdílení dat už v dřívějších fázích, například disky bez omezení přístupu, které plní index pro generování rozšířené o vyhledávání (RAG), za jedno ze dvou selhání, která stojí za většinou incidentů. Opatření: autorizujte ještě před vyhledáváním a řízení přístupu na úrovni dokumentů a úseků vynucujte přímo v dotazu do indexu.
LLM03:2026 Excessive Agency (nadměrná autonomie)
Škodlivé akce provedené v reakci na neočekávaný, nejednoznačný nebo zmanipulovaný výstup modelu. Hlavními příčinami jsou nadměrná funkcionalita, oprávnění nebo autonomie. V agentních systémech se podle OWASP může projevit jako zneužití nástrojů, zneužití identity a oprávnění nebo kaskádová selhání. Opatření: minimalizujte nástroje a jejich oprávnění (nástroj pro shrnutí e-mailů potřebuje poštu jen číst) a u akcí s velkým dopadem vyžadujte schválení člověkem.
LLM04:2026 Supply Chain (dodavatelský řetězec)
Rizika v modelech, datových sadách, adaptérech jako LoRA, konverzních pipelinech a balíčcích třetích stran, včetně „slopsquattingu“, kdy útočníci registrují názvy balíčků, které si AI asistenti pro programování vymýšlejí (halucinují). Opatření: připínejte artefakty modelů pomocí neměnného digestu, nikoli měnitelného tagu, ověřujte podpisy a před instalací zkontrolujte, že závislosti navržené AI skutečně existují.
LLM05:2026 Data and Model Poisoning (otrávení dat a modelů)
Zmanipulovaná data nebo artefakty modelů, které během předtrénování, doladění, tvorby embeddingů nebo distribuce vkládají zadní vrátka či zkreslení. Otrávení může být levné: Souly a kol. (2025) zjistili, že 250 otrávených dokumentů kompromitovalo modely od 600 mil. do 13 mld. parametrů bez ohledu na velikost datové sady. Opatření: sledujte původ dat a modelů, verzujte datové sady a se šablonami chatu, konfiguracemi tokenizéru a adaptéry zacházejte jako s kódem, který musí být podepsaný a ověřený.
LLM06:2026 Unbounded Consumption (neomezená spotřeba zdrojů)
Nekontrolovaná inference, která způsobuje výpadky, nekontrolovatelný růst nákladů („denial of wallet“) nebo krádež modelu jeho extrakcí. Situaci zhoršují modely s uvažováním, multimodální vstupy a smyčky volání nástrojů u agentů. Opatření: pevné limity výdajů, které inferenci zastaví, a k tomu pojistky (circuit breakers) pro agenty s limity kroků, rekurze, času a nákladů na jeden běh.
LLM07:2026 Misinformation (nepravdivé informace)
Nesprávný nebo nepodložený výstup, který působí natolik věrohodně, že podle něj někdo začne jednat. V agentních systémech se z chybné odpovědi stává chybná akce, například když agent nahlásí, že proběhla záloha, která ve skutečnosti nikdy neproběhla. Opatření: vzor claim-check-act (tvrzení, ověření, akce), který odděluje generování od provedení a před akcí ověřuje tvrzení a předpoklady.
LLM08:2026 Hidden Context Exposure (odhalení skrytého kontextu)
Vytažení nebo rekonstrukce skrytého kontextu: systémových promptů, instrukcí vývojáře, vyhledaných textů zásad a schémat nástrojů. OWASP doporučuje počítat s tím, že skrytý kontext lze odhalit. Opatření: nedávejte do něj přihlašovací údaje ani jiné tajné údaje a autorizaci vynucujte v deterministickém kódu mimo model.
LLM09:2026 Vector and Embedding Weaknesses (slabiny vektorů a embeddingů)
Útoky na vrstvu embeddingů, na které stojí RAG, paměť agentů a sémantické mezipaměti. Slovy OWASP: „otrávení způsobí, že se systém mýlí, inverze, že vyzrazuje data, rušení, že mlčí, a selhání řízení přístupu, že je nevybíravý“. Opatření: oddělení dat jednotlivých tenantů vynucujte přímo v dotazu do indexu, ne jako filtr po vyhledání, a obsah s různou úrovní důvěryhodnosti ukládejte do samostatných indexů.
LLM10:2026 Improper Output Handling (nesprávné zpracování výstupu)
Předávání výstupu modelu dál bez validace, které může vést k XSS, SQL injection, SSRF nebo vzdálenému spuštění kódu. Položka nově zahrnuje i nezabezpečený kód, který asistenti generují ve velkém. Opatření: s výstupem modelu zacházejte jako s uživatelským vstupem: kódujte ho podle kontextu, používejte parametrizované dotazy a vypněte automatické vykreslování obrázků v Markdownu a náhledů odkazů.
Co se změnilo oproti edici 2025
Podle OWASP se pořadí „pohnulo víc než v minulých letech“. Hlavní změny:
- Excessive Agency stoupla ze šestého na třetí místo, což OWASP označuje za „nejvýznamnější posun v celém seznamu“.
- Unbounded Consumption stoupla o čtyři místa a Improper Output Handling klesla nejvíc, z pátého na desáté místo.
- Prompt Injection a Sensitive Information Disclosure si udržely první dvě místa.
- Ze System Prompt Leakage se stala širší položka Hidden Context Exposure.
- Novější rizika se místo do nových kategorií dostala do stávajících položek: mezimodální injekce, artefakty modelů, které nejsou tím, za co se vydávají, podvracení doladění a nezabezpečený generovaný kód.
- Mapování na rámce (NIST, MITRE ATLAS, CWE a další) se přesunulo do jedné přílohy.
OWASP také jasněji vymezuje hranice. Tento seznam se zabývá modelem jako komponentou vaší aplikace. Jakmile se z modelu stane aktér s nástroji, pamětí a dopady na navazující systémy, OWASP doporučuje kombinovat ho s OWASP Top 10 pro agentní aplikace, který rozebírá náš průvodce jak zabezpečit AI agenty.
Jak seznam používat v týmu
OWASP radí: „projděte všech deset, začněte nahoře“. V praxi:
- Když navrhujete nebo revidujete funkci postavenou na LLM, projděte všech deset položek a poznamenejte si, kde je zranitelná.
- Z každého opatření udělejte úkol s odpovědnou osobou a po opravách testujte znovu.
- Nálezy označujte ID položek, aby vývojáři, bezpečnostní inženýři a produktoví vlastníci mluvili stejným jazykem.
- Testujte pouze systémy, které vlastníte nebo k jejichž testování máte písemné povolení, a ověřte si, že podmínky poskytovatele vašeho modelu bezpečnostní testování povolují.
Závěrečný projekt kurzu Bezpečnost AI: zabezpečení LLM aplikací a AI agentů, který studujete vlastním tempem, nazvaný „Zaútočte na AI agenta, opravte ho a znovu otestujte“, končí bezpečnostní zprávou, která každý nález přiřazuje k seznamům OWASP.
Kam dál
Začněte položkou na vrcholu: náš průvodce co je prompt injection vysvětluje přímé a nepřímé útoky i vícevrstvou obranu. Pokud vaše aplikace vyhledává v dokumentech, podívejte se pozorně na LLM02 a LLM09, které se týkají oprávnění při vyhledávání a vrstvy embeddingů; souvisejícím kurzem vlastním tempem je AI Engineer: Úvod do RAG a vyhledávání.
Jedním ze strukturovaných způsobů, jak si tyto dovednosti osvojit, je kurz Bezpečnost AI: zabezpečení LLM aplikací a AI agentů: studuje se vlastním tempem, je na středně pokročilé úrovni a trvá 40 hodin. Je určen vývojářům, AI inženýrům a bezpečnostním specialistům, kteří vytvářejí nebo testují AI funkce.

Naučte se technické dovednosti online s Code Labs Academy
Připojte se k naší podpůrné komunitě, odemkněte svůj potenciál a vydejte se na obohacující kariéru.
Přihlaste se hned