Skoči na glavno vsebino
Nazaj na blog

OWASP Top 10 za aplikacije LLM 2026: razlaga vseh 10 tveganj

Posodobljeno na November 19, 20267 minute preberite


OWASP Top 10 za aplikacije LLM je seznam najbolj kritičnih varnostnih tveganj za aplikacije, zgrajene na velikih jezikovnih modelih (LLM), ki ga pripravlja OWASP GenAI Security Project. Izdaja 2026 je izšla avgusta 2026 (njena stran z virom nosi datum 3. avgusta), uradno pa je bila predstavljena 1. septembra 2026. Ta vodnik navaja vseh deset postavk z uradnimi ID-ji, vsako na kratko pojasni, za vsako poda en praktičen ukrep in povzame, kaj se je spremenilo glede na leto 2025.

Uvodno pismo vodij projekta določi ton: „Nehajte poskušati zgraditi model, ki ga ni mogoče prevarati. Okoli njega zgradite sistem tako, da se, ko bo model prevaran – in bo –, nič pomembnega ne pokvari.“

Kako je nastal seznam 2026

Prejšnje izdaje so temeljile na presoji strokovnjakov iz prakse. Za leto 2026 je OWASP glasovanje skupnosti dodatno primerjal s korpusom 7714 resničnih incidentov iz javnih zbirk podatkov o ranljivostih in zbirke podatkov o škodi, ki jo je povzročila AI; od teh jih je 6639 vsebovalo dovolj podrobnosti za razvrstitev. Glasovanje nosi tri četrtine teže, podatki o incidentih pa eno četrtino. Vira se nista vedno ujemala: pri razvrstitvi po golem številu incidentov prompt injection izpade iz top 10, kar OWASP pripisuje „učinku obrambe“, saj se ekipe proti njej odločno borijo in v javne zbirke pride manj čistih izkoriščanj. Pri Misinformation je bilo obratno: glasovalci so jo postavili blizu dna, podatki o incidentih blizu vrha, dokazi pa so jo potegnili na sedmo mesto.

Seznam 2026 na kratko

Postavka 2026Mesto v letu 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (kot System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Mesta za leto 2025 so povzeta po seznamu OWASP za leto 2025.

LLM01:2026 Prompt Injection

Vhodni podatki, ki spremenijo vedenje modela na način, ki ga razvijalec ni nameraval, ne glede na to, ali prihajajo od uporabnika, iz dokumenta, rezultata orodja, slike ali pomnilnika. Postavka zdaj zajema tudi medmodalne napade, ki navodila skrivajo v slikah ali zvoku. Ukrep: poverilnice in dejanja, ki spreminjajo stanje, hranite v kodi aplikacije in modelu za vsako operacijo dodelite najmanjša potrebna pooblastila. To postavko podrobno obravnava naš vodnik o prompt injection.

LLM02:2026 Sensitive Information Disclosure (razkritje občutljivih informacij)

Uhajanje zaupnih ali reguliranih podatkov po katerem koli kanalu: prek odgovora, argumentov klicev orodij, sledi razmišljanja, pridobljenih odsekov, dnevnikov ali vložitev. OWASP kot eno od dveh napak, ki stojita za večino incidentov, navaja prekomerno deljenje podatkov že v zgodnejših fazah, na primer diske brez omejitve dostopa, ki napajajo indeks za generiranje, podprto s pridobivanjem (RAG). Ukrep: avtorizirajte že pred pridobivanjem in nadzor dostopa na ravni dokumentov in odsekov uveljavite neposredno v poizvedbi v indeksu.

LLM03:2026 Excessive Agency (prekomerna avtonomija)

Škodljiva dejanja, izvedena kot odziv na nepričakovan, dvoumen ali zmanipuliran izhod modela. Glavni vzroki so prekomerna funkcionalnost, pooblastila ali avtonomija. V agentnih sistemih se po navedbah OWASP lahko kaže kot zloraba orodij, zloraba identitete in pooblastil ali kaskadne odpovedi. Ukrep: nabor orodij in njihovih pooblastil zmanjšajte na minimum (orodje za povzemanje e-pošte potrebuje le branje pošte) in za dejanja z velikim vplivom zahtevajte človeško odobritev.

LLM04:2026 Supply Chain (dobavna veriga)

Tveganja v modelih, naborih podatkov, adapterjih, kot je LoRA, cevovodih za pretvorbo in paketih tretjih oseb, vključno s „slopsquattingom“, pri katerem napadalci registrirajo imena paketov, ki si jih pomočniki AI za programiranje izmislijo (halucinirajo). Ukrep: artefakte modelov pripnite z nespremenljivim izvlečkom (digest) namesto s spremenljivo oznako, preverjajte podpise in pred namestitvijo preverite, ali odvisnosti, ki jih predlaga AI, res obstajajo.

LLM05:2026 Data and Model Poisoning (zastrupitev podatkov in modelov)

Zmanipulirani podatki ali artefakti modelov, ki med predučenjem, finim prilagajanjem, ustvarjanjem vložitev ali distribucijo vgradijo zadnja vrata ali pristranskost. Zastrupitev je lahko poceni: Souly idr. (2025) so ugotovili, da je 250 zastrupljenih dokumentov ogrozilo modele velikosti od 600 milijonov do 13 milijard parametrov ne glede na velikost nabora podatkov. Ukrep: sledite poreklu podatkov in modelov, uvedite različice naborov podatkov ter predloge klepeta, konfiguracije tokenizatorja in adapterje obravnavajte kot kodo, ki mora biti podpisana in preverjena.

LLM06:2026 Unbounded Consumption (neomejena poraba virov)

Nenadzorovana inferenca, ki povzroča izpade, nebrzdane stroške („denial of wallet“) ali krajo modela z ekstrakcijo. Modeli z razmišljanjem, večmodalni vhodi in zanke klicev orodij pri agentih stanje še poslabšajo. Ukrep: trde omejitve porabe, ki ustavijo inferenco, ter varovala (circuit breakers) za agente z omejitvami korakov, rekurzije, časa in stroškov posameznega zagona.

LLM07:2026 Misinformation (napačne informacije)

Napačen ali nepodprt izhod, ki je videti dovolj verodostojen, da nekdo na njegovi podlagi ukrepa. V agentnih sistemih napačen odgovor postane napačno dejanje, na primer ko agent sporoči, da je bila varnostna kopija narejena, čeprav nikoli ni bila. Ukrep: vzorec claim-check-act (trditev, preverjanje, dejanje), ki ločuje generiranje od izvedbe ter pred ukrepanjem preveri trditve in predpogoje.

LLM08:2026 Hidden Context Exposure (razkritje skritega konteksta)

Izluščenje ali rekonstrukcija skritega konteksta: sistemskih pozivov, navodil razvijalcev, pridobljenih besedil pravilnikov in shem orodij. OWASP svetuje, da izhajate iz predpostavke, da je skriti kontekst mogoče odkriti. Ukrep: vanj ne vključujte poverilnic in skrivnosti, avtorizacijo pa uveljavljajte v deterministični kodi zunaj modela.

LLM09:2026 Vector and Embedding Weaknesses (šibkosti vektorjev in vložitev)

Napadi na plast vložitev, na kateri temeljijo RAG, pomnilnik agentov in semantični predpomnilniki. Po besedah OWASP „zastrupitev povzroči, da se sistem moti, inverzija, da pušča podatke, motenje, da utihne, odpoved nadzora dostopa pa, da ne razlikuje več“. Ukrep: omejitev na podatke posameznega najemnika (tenant scoping) uveljavljajte neposredno v poizvedbi v indeksu, ne kot filter po pridobivanju, vsebino z različnimi ravnmi zaupanja pa hranite v ločenih indeksih.

LLM10:2026 Improper Output Handling (neustrezna obdelava izhodnih podatkov)

Posredovanje izhoda modela naprej brez preverjanja, kar lahko vodi v XSS, SQL injection, SSRF ali oddaljeno izvajanje kode. Postavka zdaj zajema tudi nevarno kodo, ki jo pomočniki ustvarjajo v velikem obsegu. Ukrep: izhod modela obravnavajte kot uporabniški vnos: kodirajte ga glede na kontekst, uporabljajte parametrizirane poizvedbe ter izklopite samodejno prikazovanje slik v Markdownu in predogledov povezav.

Kaj se je spremenilo glede na izdajo 2025

Po navedbah OWASP se je vrstni red „premaknil bolj kot v preteklih letih“. Glavne spremembe:

  • Excessive Agency se je s šestega mesta povzpela na tretje, kar OWASP imenuje „najpomembnejši premik na seznamu“.
  • Unbounded Consumption se je povzpela za štiri mesta, Improper Output Handling pa je padla najbolj, s petega na deseto mesto.
  • Prompt Injection in Sensitive Information Disclosure sta obdržali prvi dve mesti.
  • System Prompt Leakage je postala Hidden Context Exposure, širša postavka.
  • Obstoječe postavke so vključile novejša tveganja, namesto da bi nastale nove kategorije: medmodalno injekcijo, artefakte modelov, ki niso to, za kar se izdajajo, spodkopavanje finega prilagajanja in nevarno ustvarjeno kodo.
  • Preslikave na okvire (NIST, MITRE ATLAS, CWE in drugi) so premaknjene v eno prilogo.

OWASP potegne tudi jasnejšo mejo. Ta seznam obravnava model kot komponento vaše aplikacije. Ko model postane akter z orodji, pomnilnikom in posledicami za nadaljnje sisteme, OWASP svetuje, naj ga dopolnite z OWASP Top 10 za agentne aplikacije, ki ga predstavlja naš vodnik o tem, kako zavarovati agente AI.

Kako seznam uporabljati v ekipi

OWASP svetuje: „obdelajte vseh deset, začnite na vrhu“. V praksi:

  • Ko načrtujete ali pregledujete funkcijo LLM, preglejte vseh deset postavk in si zabeležite, kje je izpostavljena.
  • Vsak ukrep pretvorite v zahtevek z lastnikom in po popravkih znova testirajte.
  • Ugotovitve označite z ID-ji postavk, da bodo razvijalci, varnostni inženirji in lastniki izdelkov uporabljali skupno izrazoslovje.
  • Testirajte samo sisteme, ki so v vaši lasti ali za katerih testiranje imate pisno dovoljenje, in preverite, ali pogoji ponudnika vašega modela dovoljujejo varnostno testiranje.

Zaključni projekt tečaja v lastnem tempu Varnost AI: zaščita aplikacij LLM in agentov AI, „Napadite agenta AI, ga popravite in znova preizkusite“, se konča z varnostnim poročilom, ki vsako ugotovitev poveže s seznamoma OWASP.

Kako naprej

Začnite pri postavki na vrhu: naš vodnik o tem, kaj je prompt injection, pojasnjuje neposredne in posredne napade ter večplastno obrambo. Če vaša aplikacija pridobiva dokumente, si natančno oglejte LLM02 in LLM09, ki obravnavata pooblastila pri pridobivanju in plast vložitev; soroden tečaj v lastnem tempu je AI Engineer: uvod v RAG in iskanje.

Eden od strukturiranih načinov za pridobitev teh veščin je tečaj Varnost AI: zaščita aplikacij LLM in agentov AI: poteka v lastnem tempu, je na srednji ravni in traja 40 ur, namenjen pa je razvijalcem, inženirjem AI in varnostnim strokovnjakom, ki gradijo ali testirajo funkcije AI.

Naučite se tehničnih veščin na spletu z Code Labs Academy

Naučite se tehničnih veščin na spletu z Code Labs Academy

Pridružite se naši podporni skupnosti, odklenite svoj potencial in se lotite koristne karierne poti.

Prijavite se zdaj

Pogosta vprašanja

Kaj je OWASP Top 10 za aplikacije LLM 2026?

To je seznam desetih najbolj kritičnih varnostnih tveganj za aplikacije, zgrajene na velikih jezikovnih modelih, ki ga je pripravil OWASP GenAI Security Project in je izšel avgusta 2026. Vsaka postavka pojasni tveganje, navede scenarije napadov in našteje ukrepe.

Kaj je na prvem mestu seznama OWASP LLM Top 10 2026?

Na prvem mestu je LLM01:2026 Prompt Injection, tako kot leta 2025. Sensitive Information Disclosure (razkritje občutljivih informacij) ostaja na drugem mestu, Excessive Agency (prekomerna avtonomija) pa se povzpne na tretje.

Kaj se je spremenilo v primerjavi z OWASP LLM Top 10 2025?

Vrstni red se je spremenil bolj kot v preteklih izdajah: Excessive Agency se je s šestega mesta povzpela na tretje, Unbounded Consumption za štiri mesta, Improper Output Handling pa je s petega padla na deseto. System Prompt Leakage je postala Hidden Context Exposure, razvrstitev pa je prvič upoštevala tudi podatke o resničnih incidentih.

Kaj se je leta 2026 zgodilo s postavko System Prompt Leakage?

Preimenovali so jo in razširili v LLM08:2026 Hidden Context Exposure (razkritje skritega konteksta). Postavka zdaj zajema ves skriti kontekst, ki ga model vidi, vključno z navodili razvijalca, pridobljenimi besedili pravilnikov in shemami orodij, ne le sistemskega poziva.

V čem se LLM Top 10 razlikuje od OWASP Top 10 za agentne aplikacije?

LLM Top 10 obravnava model kot komponento znotraj vaše aplikacije. Ko model deluje samostojno, z orodji, pomnilnikom in učinki na nadaljnje sisteme, OWASP svetuje, naj ga dopolnite s Top 10 za agentne aplikacije.

Karierne storitve

Prilagojena karierna podpora za vstop v tehnološki sektor. Vključuje pregled življenjepisa, poskusne razgovore in vpoglede v panogo, da svoje nove spretnosti predstavite samozavestno.

Razišči