Prejsť na hlavný obsah
Späť na blog

OWASP Top 10 pre LLM aplikácie 2026: vysvetlenie všetkých 10 rizík

Aktualizované na November 19, 20267 minúty čítania


OWASP Top 10 pre LLM aplikácie je zoznam najkritickejších bezpečnostných rizík pre aplikácie postavené na veľkých jazykových modeloch (LLM), ktorý zostavuje OWASP GenAI Security Project. Edícia 2026 vyšla v auguste 2026 (jej stránka so zdrojom nesie dátum 3. augusta) a bola oznámená 1. septembra 2026. Tento sprievodca uvádza všetkých desať položiek s ich oficiálnymi ID, každú stručne vysvetľuje, ku každej pridáva jedno praktické opatrenie a zhŕňa, čo sa zmenilo oproti roku 2025.

Úvodný list vedúcich projektu udáva tón: „Prestaňte sa snažiť postaviť model, ktorý sa nedá oklamať. Postavte okolo neho systém tak, aby sa vo chvíli, keď bude model oklamaný – a bude –, nič dôležité nepokazilo.“

Ako vznikol zoznam 2026

Predchádzajúce edície stavali na úsudku odborníkov z praxe. Pre rok 2026 OWASP navyše porovnal komunitné hlasovanie s korpusom 7714 skutočných incidentov z verejných databáz zraniteľností a z databázy škôd spôsobených AI, z ktorých 6639 obsahovalo dosť podrobností na klasifikáciu. Hlasovanie má tri štvrtiny váhy, údaje o incidentoch jednu štvrtinu. Oba zdroje sa nie vždy zhodli: pri zoradení podľa prostého počtu incidentov vypadáva prompt injection z top 10, čo OWASP pripisuje „efektu obrany“, pretože tímy proti nej tvrdo bojujú a do verejných databáz sa dostáva menej čistých exploitov. Pri Misinformation to bolo naopak: hlasujúci ju umiestnili ku koncu, záznamy o incidentoch na začiatok a dôkazy ju napokon vytiahli na siedme miesto.

Zoznam 2026 v skratke

Položka 2026Pozícia v roku 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (ako System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Pozície z roku 2025 pochádzajú zo zoznamu OWASP pre rok 2025.

LLM01:2026 Prompt Injection

Vstup, ktorý mení správanie modelu spôsobom, aký vývojár nezamýšľal, či už pochádza od používateľa, z dokumentu, výsledku nástroja, obrázka alebo pamäte. Položka po novom zahŕňa aj medzimodálne útoky, ktoré skrývajú inštrukcie v obrázkoch alebo zvuku. Opatrenie: prihlasovacie údaje a akcie meniace stav držte v kóde aplikácie a modelu prideľujte pre každú operáciu najnižšie potrebné oprávnenia. Tejto položke sa podrobne venuje náš sprievodca prompt injection.

LLM02:2026 Sensitive Information Disclosure (vyzradenie citlivých informácií)

Únik dôverných alebo regulovaných údajov akýmkoľvek kanálom: odpoveďou, argumentmi volaní nástrojov, stopami uvažovania, vyhľadanými úsekmi dokumentov, logmi alebo embeddingmi. OWASP označuje nadmerné zdieľanie údajov už v skorších fázach, napríklad disky bez obmedzenia prístupu, ktoré plnia index pre generovanie rozšírené o vyhľadávanie (RAG), za jedno z dvoch zlyhaní, ktoré stoja za väčšinou incidentov. Opatrenie: autorizujte ešte pred vyhľadávaním a riadenie prístupu na úrovni dokumentov a úsekov vynucujte priamo v dopyte do indexu.

LLM03:2026 Excessive Agency (nadmerná autonómia)

Škodlivé akcie vykonané v reakcii na neočakávaný, nejednoznačný alebo zmanipulovaný výstup modelu. Hlavnými príčinami sú nadmerná funkcionalita, oprávnenia alebo autonómia. V agentických systémoch sa podľa OWASP môže prejaviť ako zneužitie nástrojov, zneužitie identity a oprávnení alebo kaskádové zlyhania. Opatrenie: minimalizujte nástroje a ich oprávnenia (nástroj na zhrnutie e-mailov potrebuje poštu len čítať) a pri akciách s veľkým dopadom vyžadujte schválenie človekom.

LLM04:2026 Supply Chain (dodávateľský reťazec)

Riziká v modeloch, súboroch údajov, adaptéroch ako LoRA, konverzných pipelinoch a balíkoch tretích strán vrátane „slopsquattingu“, keď útočníci registrujú názvy balíkov, ktoré si AI asistenti na programovanie vymýšľajú (halucinujú). Opatrenie: pripínajte artefakty modelov pomocou nemenného digestu, nie meniteľného tagu, overujte podpisy a pred inštaláciou skontrolujte, či závislosti navrhnuté AI naozaj existujú.

LLM05:2026 Data and Model Poisoning (otrávenie údajov a modelov)

Zmanipulované údaje alebo artefakty modelov, ktoré počas predtrénovania, dolaďovania, tvorby embeddingov alebo distribúcie vkladajú zadné vrátka či skreslenie. Otrávenie môže byť lacné: Souly a kol. (2025) zistili, že 250 otrávených dokumentov kompromitovalo modely od 600 mil. do 13 mld. parametrov bez ohľadu na veľkosť súboru údajov. Opatrenie: sledujte pôvod údajov a modelov, verzujte súbory údajov a so šablónami chatu, konfiguráciami tokenizéra a adaptérmi zaobchádzajte ako s kódom, ktorý musí byť podpísaný a overený.

LLM06:2026 Unbounded Consumption (neobmedzená spotreba zdrojov)

Nekontrolovaná inferencia, ktorá spôsobuje výpadky, nekontrolovateľný rast nákladov („denial of wallet“) alebo krádež modelu jeho extrakciou. Situáciu zhoršujú modely s uvažovaním, multimodálne vstupy a slučky volaní nástrojov pri agentoch. Opatrenie: pevné limity výdavkov, ktoré inferenciu zastavia, a k tomu poistky (circuit breakers) pre agentov s limitmi krokov, rekurzie, času a nákladov na jeden beh.

LLM07:2026 Misinformation (nepravdivé informácie)

Nesprávny alebo nepodložený výstup, ktorý pôsobí natoľko dôveryhodne, že podľa neho niekto začne konať. V agentických systémoch sa z chybnej odpovede stáva chybná akcia, napríklad keď agent nahlási, že prebehla záloha, ktorá v skutočnosti nikdy neprebehla. Opatrenie: vzor claim-check-act (tvrdenie, overenie, akcia), ktorý oddeľuje generovanie od vykonania a pred akciou overuje tvrdenia a predpoklady.

LLM08:2026 Hidden Context Exposure (odhalenie skrytého kontextu)

Vytiahnutie alebo rekonštrukcia skrytého kontextu: systémových promptov, inštrukcií vývojára, vyhľadaných textov zásad a schém nástrojov. OWASP odporúča počítať s tým, že skrytý kontext sa dá odhaliť. Opatrenie: nedávajte doň prihlasovacie údaje ani iné tajné údaje a autorizáciu vynucujte v deterministickom kóde mimo modelu.

LLM09:2026 Vector and Embedding Weaknesses (slabiny vektorov a embeddingov)

Útoky na vrstvu embeddingov, na ktorej stoja RAG, pamäť agentov a sémantické vyrovnávacie pamäte. Slovami OWASP: „otrávenie spôsobí, že sa systém mýli, inverzia, že vyzrádza údaje, rušenie, že mlčí, a zlyhanie riadenia prístupu, že je nevyberavý“. Opatrenie: oddelenie údajov jednotlivých tenantov vynucujte priamo v dopyte do indexu, nie ako filter po vyhľadaní, a obsah s rôznou úrovňou dôveryhodnosti ukladajte do samostatných indexov.

LLM10:2026 Improper Output Handling (nesprávne spracovanie výstupu)

Odovzdávanie výstupu modelu ďalej bez validácie, ktoré môže viesť k XSS, SQL injection, SSRF alebo vzdialenému spusteniu kódu. Položka po novom zahŕňa aj nezabezpečený kód, ktorý asistenti generujú vo veľkom. Opatrenie: s výstupom modelu zaobchádzajte ako s používateľským vstupom: kódujte ho podľa kontextu, používajte parametrizované dopyty a vypnite automatické vykresľovanie obrázkov v Markdowne a náhľadov odkazov.

Čo sa zmenilo oproti edícii 2025

Podľa OWASP sa poradie „pohlo viac ako v minulých rokoch“. Hlavné zmeny:

  • Excessive Agency stúpla zo šiesteho na tretie miesto, čo OWASP označuje za „najvýznamnejší posun v celom zozname“.
  • Unbounded Consumption stúpla o štyri miesta a Improper Output Handling klesla najviac, z piateho na desiate miesto.
  • Prompt Injection a Sensitive Information Disclosure si udržali prvé dve miesta.
  • Zo System Prompt Leakage sa stala širšia položka Hidden Context Exposure.
  • Novšie riziká sa namiesto do nových kategórií dostali do existujúcich položiek: medzimodálna injekcia, artefakty modelov, ktoré nie sú tým, za čo sa vydávajú, podvracanie dolaďovania a nezabezpečený generovaný kód.
  • Mapovanie na rámce (NIST, MITRE ATLAS, CWE a ďalšie) sa presunulo do jednej prílohy.

OWASP aj jasnejšie vymedzuje hranice. Tento zoznam sa zaoberá modelom ako komponentom vašej aplikácie. Keď sa z modelu stane aktér s nástrojmi, pamäťou a dosahmi na nadväzujúce systémy, OWASP odporúča kombinovať ho s OWASP Top 10 pre agentické aplikácie, ktorý rozoberá náš sprievodca ako zabezpečiť AI agentov.

Ako zoznam používať v tíme

OWASP radí: „prejdite všetkých desať, začnite zhora“. V praxi:

  • Keď navrhujete alebo revidujete funkciu postavenú na LLM, prejdite všetkých desať položiek a poznačte si, kde je zraniteľná.
  • Z každého opatrenia urobte úlohu so zodpovednou osobou a po opravách testujte znova.
  • Zistenia označujte ID položiek, aby vývojári, bezpečnostní inžinieri a produktoví vlastníci hovorili rovnakým jazykom.
  • Testujte iba systémy, ktoré vlastníte alebo na ktorých testovanie máte písomné povolenie, a overte si, že podmienky poskytovateľa vášho modelu bezpečnostné testovanie povoľujú.

Záverečný projekt kurzu Bezpečnosť AI: zabezpečenie LLM aplikácií a AI agentov, ktorý študujete vlastným tempom, s názvom „Zaútočte na AI agenta, opravte ho a znova otestujte“ sa končí bezpečnostnou správou, ktorá každé zistenie priraďuje k zoznamom OWASP.

Kam ďalej

Začnite položkou na vrchole: náš sprievodca čo je prompt injection vysvetľuje priame a nepriame útoky aj viacvrstvovú obranu. Ak vaša aplikácia vyhľadáva v dokumentoch, pozrite sa pozorne na LLM02 a LLM09, ktoré sa týkajú oprávnení pri vyhľadávaní a vrstvy embeddingov; súvisiacim kurzom vlastným tempom je AI inžinier: úvod do RAG a vyhľadávania.

Jedným zo štruktúrovaných spôsobov, ako si tieto zručnosti osvojiť, je kurz Bezpečnosť AI: zabezpečenie LLM aplikácií a AI agentov: študuje sa vlastným tempom, je na stredne pokročilej úrovni a trvá 40 hodín. Je určený vývojárom, AI inžinierom a bezpečnostným špecialistom, ktorí vytvárajú alebo testujú AI funkcie.

Naučte sa technické zručnosti online s Code Labs Academy

Naučte sa technické zručnosti online s Code Labs Academy

Pripojte sa k našej podpornej komunite, odomknite svoj potenciál a vydajte sa na odmeňujúcu kariéru.

Prihlásiť sa

Často kladené otázky

Čo je OWASP Top 10 pre LLM aplikácie 2026?

Je to zoznam desiatich najkritickejších bezpečnostných rizík pre aplikácie postavené na veľkých jazykových modeloch, ktorý zostavil OWASP GenAI Security Project a ktorý vyšiel v auguste 2026. Každá položka vysvetľuje riziko, uvádza scenáre útokov a vymenúva opatrenia.

Čo je na prvom mieste OWASP LLM Top 10 2026?

Na prvom mieste je LLM01:2026 Prompt Injection, rovnako ako v roku 2025. Sensitive Information Disclosure (vyzradenie citlivých informácií) zostáva na druhom mieste a Excessive Agency (nadmerná autonómia) sa posúva na tretie.

Čo sa zmenilo oproti OWASP LLM Top 10 2025?

Poradie sa zmenilo výraznejšie ako v minulých edíciách: Excessive Agency stúpla zo šiesteho na tretie miesto, Unbounded Consumption o štyri miesta a Improper Output Handling klesla z piateho na desiate. Položka System Prompt Leakage sa zmenila na Hidden Context Exposure a poradie po prvý raz zohľadnilo aj údaje o skutočných incidentoch.

Čo sa v roku 2026 stalo so System Prompt Leakage?

Položka bola premenovaná a rozšírená na LLM08:2026 Hidden Context Exposure (odhalenie skrytého kontextu). Teraz zahŕňa akýkoľvek skrytý kontext, ktorý model vidí, vrátane inštrukcií vývojára, vyhľadaných textov zásad a schém nástrojov, nielen systémový prompt.

Čím sa LLM Top 10 líši od OWASP Top 10 pre agentické aplikácie?

LLM Top 10 sa zaoberá modelom ako komponentom vo vnútri vašej aplikácie. Keď model koná samostatne s nástrojmi, pamäťou a dosahmi na nadväzujúce systémy, OWASP odporúča kombinovať ho s Top 10 pre agentické aplikácie.

Kariérne služby

Personalizovaná kariérna podpora pre štart v IT. Zahŕňa kontrolu životopisu, modelové pohovory a odborné postrehy, aby ste svoje nové zručnosti prezentovali sebavedomo.

Preskúmaj