OWASP Top 10 za aplikacije LLM 2026: razlaga vseh 10 tveganj
Posodobljeno na November 19, 20267 minute preberite
OWASP Top 10 za aplikacije LLM je seznam najbolj kritičnih varnostnih tveganj za aplikacije, zgrajene na velikih jezikovnih modelih (LLM), ki ga pripravlja OWASP GenAI Security Project. Izdaja 2026 je izšla avgusta 2026 (njena stran z virom nosi datum 3. avgusta), uradno pa je bila predstavljena 1. septembra 2026. Ta vodnik navaja vseh deset postavk z uradnimi ID-ji, vsako na kratko pojasni, za vsako poda en praktičen ukrep in povzame, kaj se je spremenilo glede na leto 2025.
Uvodno pismo vodij projekta določi ton: „Nehajte poskušati zgraditi model, ki ga ni mogoče prevarati. Okoli njega zgradite sistem tako, da se, ko bo model prevaran – in bo –, nič pomembnega ne pokvari.“
Kako je nastal seznam 2026
Prejšnje izdaje so temeljile na presoji strokovnjakov iz prakse. Za leto 2026 je OWASP glasovanje skupnosti dodatno primerjal s korpusom 7714 resničnih incidentov iz javnih zbirk podatkov o ranljivostih in zbirke podatkov o škodi, ki jo je povzročila AI; od teh jih je 6639 vsebovalo dovolj podrobnosti za razvrstitev. Glasovanje nosi tri četrtine teže, podatki o incidentih pa eno četrtino. Vira se nista vedno ujemala: pri razvrstitvi po golem številu incidentov prompt injection izpade iz top 10, kar OWASP pripisuje „učinku obrambe“, saj se ekipe proti njej odločno borijo in v javne zbirke pride manj čistih izkoriščanj. Pri Misinformation je bilo obratno: glasovalci so jo postavili blizu dna, podatki o incidentih blizu vrha, dokazi pa so jo potegnili na sedmo mesto.
Seznam 2026 na kratko
| Postavka 2026 | Mesto v letu 2025 |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (kot System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Mesta za leto 2025 so povzeta po seznamu OWASP za leto 2025.
LLM01:2026 Prompt Injection
Vhodni podatki, ki spremenijo vedenje modela na način, ki ga razvijalec ni nameraval, ne glede na to, ali prihajajo od uporabnika, iz dokumenta, rezultata orodja, slike ali pomnilnika. Postavka zdaj zajema tudi medmodalne napade, ki navodila skrivajo v slikah ali zvoku. Ukrep: poverilnice in dejanja, ki spreminjajo stanje, hranite v kodi aplikacije in modelu za vsako operacijo dodelite najmanjša potrebna pooblastila. To postavko podrobno obravnava naš vodnik o prompt injection.
LLM02:2026 Sensitive Information Disclosure (razkritje občutljivih informacij)
Uhajanje zaupnih ali reguliranih podatkov po katerem koli kanalu: prek odgovora, argumentov klicev orodij, sledi razmišljanja, pridobljenih odsekov, dnevnikov ali vložitev. OWASP kot eno od dveh napak, ki stojita za večino incidentov, navaja prekomerno deljenje podatkov že v zgodnejših fazah, na primer diske brez omejitve dostopa, ki napajajo indeks za generiranje, podprto s pridobivanjem (RAG). Ukrep: avtorizirajte že pred pridobivanjem in nadzor dostopa na ravni dokumentov in odsekov uveljavite neposredno v poizvedbi v indeksu.
LLM03:2026 Excessive Agency (prekomerna avtonomija)
Škodljiva dejanja, izvedena kot odziv na nepričakovan, dvoumen ali zmanipuliran izhod modela. Glavni vzroki so prekomerna funkcionalnost, pooblastila ali avtonomija. V agentnih sistemih se po navedbah OWASP lahko kaže kot zloraba orodij, zloraba identitete in pooblastil ali kaskadne odpovedi. Ukrep: nabor orodij in njihovih pooblastil zmanjšajte na minimum (orodje za povzemanje e-pošte potrebuje le branje pošte) in za dejanja z velikim vplivom zahtevajte človeško odobritev.
LLM04:2026 Supply Chain (dobavna veriga)
Tveganja v modelih, naborih podatkov, adapterjih, kot je LoRA, cevovodih za pretvorbo in paketih tretjih oseb, vključno s „slopsquattingom“, pri katerem napadalci registrirajo imena paketov, ki si jih pomočniki AI za programiranje izmislijo (halucinirajo). Ukrep: artefakte modelov pripnite z nespremenljivim izvlečkom (digest) namesto s spremenljivo oznako, preverjajte podpise in pred namestitvijo preverite, ali odvisnosti, ki jih predlaga AI, res obstajajo.
LLM05:2026 Data and Model Poisoning (zastrupitev podatkov in modelov)
Zmanipulirani podatki ali artefakti modelov, ki med predučenjem, finim prilagajanjem, ustvarjanjem vložitev ali distribucijo vgradijo zadnja vrata ali pristranskost. Zastrupitev je lahko poceni: Souly idr. (2025) so ugotovili, da je 250 zastrupljenih dokumentov ogrozilo modele velikosti od 600 milijonov do 13 milijard parametrov ne glede na velikost nabora podatkov. Ukrep: sledite poreklu podatkov in modelov, uvedite različice naborov podatkov ter predloge klepeta, konfiguracije tokenizatorja in adapterje obravnavajte kot kodo, ki mora biti podpisana in preverjena.
LLM06:2026 Unbounded Consumption (neomejena poraba virov)
Nenadzorovana inferenca, ki povzroča izpade, nebrzdane stroške („denial of wallet“) ali krajo modela z ekstrakcijo. Modeli z razmišljanjem, večmodalni vhodi in zanke klicev orodij pri agentih stanje še poslabšajo. Ukrep: trde omejitve porabe, ki ustavijo inferenco, ter varovala (circuit breakers) za agente z omejitvami korakov, rekurzije, časa in stroškov posameznega zagona.
LLM07:2026 Misinformation (napačne informacije)
Napačen ali nepodprt izhod, ki je videti dovolj verodostojen, da nekdo na njegovi podlagi ukrepa. V agentnih sistemih napačen odgovor postane napačno dejanje, na primer ko agent sporoči, da je bila varnostna kopija narejena, čeprav nikoli ni bila. Ukrep: vzorec claim-check-act (trditev, preverjanje, dejanje), ki ločuje generiranje od izvedbe ter pred ukrepanjem preveri trditve in predpogoje.
LLM08:2026 Hidden Context Exposure (razkritje skritega konteksta)
Izluščenje ali rekonstrukcija skritega konteksta: sistemskih pozivov, navodil razvijalcev, pridobljenih besedil pravilnikov in shem orodij. OWASP svetuje, da izhajate iz predpostavke, da je skriti kontekst mogoče odkriti. Ukrep: vanj ne vključujte poverilnic in skrivnosti, avtorizacijo pa uveljavljajte v deterministični kodi zunaj modela.
LLM09:2026 Vector and Embedding Weaknesses (šibkosti vektorjev in vložitev)
Napadi na plast vložitev, na kateri temeljijo RAG, pomnilnik agentov in semantični predpomnilniki. Po besedah OWASP „zastrupitev povzroči, da se sistem moti, inverzija, da pušča podatke, motenje, da utihne, odpoved nadzora dostopa pa, da ne razlikuje več“. Ukrep: omejitev na podatke posameznega najemnika (tenant scoping) uveljavljajte neposredno v poizvedbi v indeksu, ne kot filter po pridobivanju, vsebino z različnimi ravnmi zaupanja pa hranite v ločenih indeksih.
LLM10:2026 Improper Output Handling (neustrezna obdelava izhodnih podatkov)
Posredovanje izhoda modela naprej brez preverjanja, kar lahko vodi v XSS, SQL injection, SSRF ali oddaljeno izvajanje kode. Postavka zdaj zajema tudi nevarno kodo, ki jo pomočniki ustvarjajo v velikem obsegu. Ukrep: izhod modela obravnavajte kot uporabniški vnos: kodirajte ga glede na kontekst, uporabljajte parametrizirane poizvedbe ter izklopite samodejno prikazovanje slik v Markdownu in predogledov povezav.
Kaj se je spremenilo glede na izdajo 2025
Po navedbah OWASP se je vrstni red „premaknil bolj kot v preteklih letih“. Glavne spremembe:
- Excessive Agency se je s šestega mesta povzpela na tretje, kar OWASP imenuje „najpomembnejši premik na seznamu“.
- Unbounded Consumption se je povzpela za štiri mesta, Improper Output Handling pa je padla najbolj, s petega na deseto mesto.
- Prompt Injection in Sensitive Information Disclosure sta obdržali prvi dve mesti.
- System Prompt Leakage je postala Hidden Context Exposure, širša postavka.
- Obstoječe postavke so vključile novejša tveganja, namesto da bi nastale nove kategorije: medmodalno injekcijo, artefakte modelov, ki niso to, za kar se izdajajo, spodkopavanje finega prilagajanja in nevarno ustvarjeno kodo.
- Preslikave na okvire (NIST, MITRE ATLAS, CWE in drugi) so premaknjene v eno prilogo.
OWASP potegne tudi jasnejšo mejo. Ta seznam obravnava model kot komponento vaše aplikacije. Ko model postane akter z orodji, pomnilnikom in posledicami za nadaljnje sisteme, OWASP svetuje, naj ga dopolnite z OWASP Top 10 za agentne aplikacije, ki ga predstavlja naš vodnik o tem, kako zavarovati agente AI.
Kako seznam uporabljati v ekipi
OWASP svetuje: „obdelajte vseh deset, začnite na vrhu“. V praksi:
- Ko načrtujete ali pregledujete funkcijo LLM, preglejte vseh deset postavk in si zabeležite, kje je izpostavljena.
- Vsak ukrep pretvorite v zahtevek z lastnikom in po popravkih znova testirajte.
- Ugotovitve označite z ID-ji postavk, da bodo razvijalci, varnostni inženirji in lastniki izdelkov uporabljali skupno izrazoslovje.
- Testirajte samo sisteme, ki so v vaši lasti ali za katerih testiranje imate pisno dovoljenje, in preverite, ali pogoji ponudnika vašega modela dovoljujejo varnostno testiranje.
Zaključni projekt tečaja v lastnem tempu Varnost AI: zaščita aplikacij LLM in agentov AI, „Napadite agenta AI, ga popravite in znova preizkusite“, se konča z varnostnim poročilom, ki vsako ugotovitev poveže s seznamoma OWASP.
Kako naprej
Začnite pri postavki na vrhu: naš vodnik o tem, kaj je prompt injection, pojasnjuje neposredne in posredne napade ter večplastno obrambo. Če vaša aplikacija pridobiva dokumente, si natančno oglejte LLM02 in LLM09, ki obravnavata pooblastila pri pridobivanju in plast vložitev; soroden tečaj v lastnem tempu je AI Engineer: uvod v RAG in iskanje.
Eden od strukturiranih načinov za pridobitev teh veščin je tečaj Varnost AI: zaščita aplikacij LLM in agentov AI: poteka v lastnem tempu, je na srednji ravni in traja 40 ur, namenjen pa je razvijalcem, inženirjem AI in varnostnim strokovnjakom, ki gradijo ali testirajo funkcije AI.

Naučite se tehničnih veščin na spletu z Code Labs Academy
Pridružite se naši podporni skupnosti, odklenite svoj potencial in se lotite koristne karierne poti.
Prijavite se zdaj