Pāriet uz galveno saturu
Atpakaļ uz emuāru

OWASP Top 10 LLM lietotnēm 2026: visu 10 risku skaidrojums

Atjaunināts vietnē November 19, 20266 minūtes lasīt


OWASP Top 10 LLM lietotnēm ir OWASP GenAI Security Project saraksts ar kritiskākajiem drošības riskiem lietotnēm, kas veidotas uz lielo valodas modeļu (LLM) bāzes. Saraksta 2026. gada izdevums tika publicēts 2026. gada augustā (tā resursa lapa datēta ar 3. augustu) un izziņots 2026. gada 1. septembrī. Šajā ceļvedī uzskaitīti visi desmit punkti ar to oficiālajiem ID, katrs īsi izskaidrots, katram sniegts viens praktisks kontroles pasākums un apkopots, kas mainījies kopš 2025. gada.

Projekta vadītāju ievadvēstule nosaka toni: „Beidziet mēģināt izveidot modeli, ko nevar apmānīt. Veidojiet sistēmu ap to tā, lai tad, kad modelis tiks apmānīts, un tas notiks, nekas svarīgs nesabojātos.”

Kā tika veidots 2026. gada saraksts

Iepriekšējie izdevumi balstījās uz praktiķu vērtējumu. Gatavojot 2026. gada sarakstu, OWASP kopienas balsojumu papildus salīdzināja ar 7714 reālu incidentu kopumu no publiskām ievainojamību datubāzēm un AI radīta kaitējuma datubāzes; 6639 no tiem bija pietiekami detalizēti, lai tos klasificētu. Balsojumam ir trīs ceturtdaļas svara, incidentu datiem — viena ceturtdaļa. Abi avoti ne vienmēr sakrita: ja kārto tikai pēc incidentu skaita, uzvedņu injekcija izkrīt no top 10, ko OWASP skaidro ar „aizsardzības efektu”, jo komandas ar to aktīvi cīnās un publiskajās datubāzēs nonāk mazāk tīru ekspluatāciju. Ar Misinformation bija otrādi: balsotāji to novietoja tuvu saraksta beigām, incidentu dati — tuvu sākumam, un pierādījumi to pacēla uz septīto vietu.

2026. gada saraksts īsumā

Punkts 2026Vieta 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (kā System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Vietas 2025. gadā ņemtas no OWASP 2025. gada saraksta.

LLM01:2026 Prompt Injection (uzvedņu injekcija)

Ievade, kas maina modeļa darbību veidos, kurus izstrādātājs nav paredzējis, neatkarīgi no tā, vai tā nāk no lietotāja, dokumenta, rīka rezultāta, attēla vai atmiņas. Tagad šis punkts aptver arī starpmodālus uzbrukumus, kuros norādījumi paslēpti attēlos vai audio. Kontroles pasākums: glabājiet piekļuves datus un stāvokli mainošas darbības lietotnes kodā un katrai operācijai piešķiriet modelim mazākās nepieciešamās privilēģijas. Mūsu ceļvedis par uzvedņu injekciju šo punktu aplūko padziļināti.

LLM02:2026 Sensitive Information Disclosure (sensitīvas informācijas atklāšana)

Konfidenciālu vai regulētu datu noplūde pa jebkuru kanālu: atbildē, rīku izsaukumu argumentos, spriešanas gaitas pierakstos, izgūtos fragmentos, žurnālos vai iegulumos. OWASP kā vienu no divām kļūdām, kas ir vairuma incidentu pamatā, min pārmērīgu koplietošanu jau avotā, piemēram, neierobežotus diskus, no kuriem dati nonāk izguves papildinātas ģenerēšanas (RAG) indeksā. Kontroles pasākums: autorizējiet pirms izguves, piekļuvi dokumentu un fragmentu līmenī nodrošinot pašā indeksa vaicājumā.

LLM03:2026 Excessive Agency (pārmērīga rīcības brīvība)

Kaitīgas darbības, kas veiktas, reaģējot uz negaidītu, neviennozīmīgu vai manipulētu modeļa izvadi. Pamatcēloņi ir pārmērīga funkcionalitāte, pārmērīgas atļaujas vai pārmērīga autonomija. Aģentu sistēmās, pēc OWASP teiktā, tā var izpausties kā rīku ļaunprātīga izmantošana, identitātes un privilēģiju ļaunprātīga izmantošana vai kaskādes kļūmes. Kontroles pasākums: samaziniet rīku skaitu un to atļaujas (e-pasta kopsavilkuma rīkam vajag tikai lasīt pastu) un pieprasiet cilvēka apstiprinājumu darbībām ar lielu ietekmi.

LLM04:2026 Supply Chain (piegādes ķēde)

Riski trešo pušu modeļos, datu kopās, adapteros, piemēram, LoRA, konvertēšanas konveijeros un pakotnēs, tostarp „slopsquatting”, kad uzbrucēji reģistrē pakotņu nosaukumus, ko halucinē programmēšanas asistenti. Kontroles pasākums: piesaistiet modeļu artefaktus nemainīgam jaucējkodam (digest), nevis maināmam tagam, pārbaudiet parakstus un pirms instalēšanas pārliecinieties, ka AI ieteiktās atkarības patiešām eksistē.

LLM05:2026 Data and Model Poisoning (datu un modeļu saindēšana)

Manipulēti dati vai modeļu artefakti, kas iestrādā sētas durvis vai neobjektivitāti pirmsapmācības, pielāgošanas, iegulumu veidošanas vai izplatīšanas laikā. Saindēšana var būt lēta: Souly et al. (2025) konstatēja, ka 250 saindēti dokumenti kompromitēja modeļus ar 600 miljoniem līdz 13 miljardiem parametru neatkarīgi no datu kopas lieluma. Kontroles pasākums: izsekojiet datu un modeļu izcelsmi, veidojiet datu kopu versijas un uzskatiet tērzēšanas veidnes, tokenizatora konfigurācijas un adapterus par kodu, kas jāparaksta un jāpārbauda.

LLM06:2026 Unbounded Consumption (neierobežots patēriņš)

Nekontrolēta secināšana (inference), kas izraisa darbības pārtraukumus, nekontrolējamas izmaksas („denial of wallet”) vai modeļa zādzību ar ekstrakcijas palīdzību. Spriešanas modeļi, multimodāla ievade un aģentu rīku cikli problēmu pastiprina. Kontroles pasākums: stingri izdevumu griesti, kas aptur secināšanu, kā arī aģentu ķēdes pārtraucēji (circuit breakers) ar soļu, rekursijas, laika un vienas palaišanas izmaksu limitiem.

LLM07:2026 Misinformation (nepatiesa informācija)

Nepareiza vai nepamatota izvade, kas izskatās pietiekami ticama, lai uz tās pamata rīkotos. Aģentu sistēmās nepareiza atbilde kļūst par nepareizu darbību, piemēram, kad aģents ziņo, ka dublēšana ir izpildīta, lai gan tā nekad nav notikusi. Kontroles pasākums: šablons „apgalvo–pārbauda–rīkojas” (claim-check-act), kas nodala ģenerēšanu no izpildes un pirms rīcības pārbauda apgalvojumus un priekšnosacījumus.

LLM08:2026 Hidden Context Exposure (slēptā konteksta atklāšana)

Slēptā konteksta izgūšana vai rekonstruēšana: sistēmas uzvednes, izstrādātāja norādījumi, izgūti politiku teksti un rīku shēmas. OWASP iesaka pieņemt, ka slēpto kontekstu var atklāt. Kontroles pasākums: neturiet tajā piekļuves datus un noslēpumus un nodrošiniet autorizāciju deterministiskā kodā ārpus modeļa.

LLM09:2026 Vector and Embedding Weaknesses (vektoru un iegulumu vājās vietas)

Uzbrukumi iegulumu slānim, uz kura balstās RAG, aģentu atmiņa un semantiskās kešatmiņas. OWASP vārdiem: „saindēšana padara sistēmu kļūdainu, inversija liek tai noplūst, traucēšana to apklusina, un piekļuves kontroles kļūme padara to neizvēlīgu.” Kontroles pasākums: nodrošiniet nomnieku (tenant) nošķiršanu pašā indeksa vaicājumā, nevis kā filtru pēc izguves, un glabājiet dažādu uzticamības līmeņu saturu atsevišķos indeksos.

LLM10:2026 Improper Output Handling (nepareiza izvades apstrāde)

Modeļa izvades nodošana tālāk bez validācijas, kas var novest pie XSS, SQL injekcijas, SSRF vai attālinātas koda izpildes. Tagad šis punkts aptver arī nedrošu kodu, ko asistenti ģenerē lielā apjomā. Kontroles pasākums: izturieties pret modeļa izvadi kā pret lietotāja ievadi: kodējiet to atbilstoši kontekstam, izmantojiet parametrizētus vaicājumus un atspējojiet Markdown attēlu un saišu priekšskatījumu automātisku atveidošanu.

Kas mainījies kopš 2025. gada izdevuma

OWASP norāda, ka secība „mainījās vairāk nekā iepriekšējos gados”. Galvenās izmaiņas:

  • Excessive Agency pakāpās no sestās uz trešo vietu, ko OWASP sauc par „saraksta nozīmīgāko pārvietojumu”.
  • Unbounded Consumption pakāpās par četrām vietām, bet Improper Output Handling noslīdēja visvairāk, no piektās uz desmito vietu.
  • Prompt Injection un Sensitive Information Disclosure saglabāja divas augstākās vietas.
  • System Prompt Leakage kļuva par Hidden Context Exposure, kas ir plašāks punkts.
  • Jaunu kategoriju vietā esošie punkti iekļāva jaunākus riskus: starpmodālu injekciju, modeļu artefaktus, kas nav tas, par ko uzdodas, pielāgošanas graušanu un nedrošu ģenerētu kodu.
  • Ietvaru sasaiste (NIST, MITRE ATLAS, CWE u. c.) pārcelta uz vienu pielikumu.

OWASP arī novelk skaidrāku robežu. Šis saraksts aplūko modeli kā jūsu lietotnes komponentu. Tiklīdz modelis kļūst par dalībnieku ar rīkiem, atmiņu un sekām tālākajās sistēmās, OWASP iesaka to izmantot kopā ar OWASP Top 10 aģentu lietotnēm, ko aplūko mūsu ceļvedis par to, kā aizsargāt AI aģentus.

Kā izmantot sarakstu komandā

OWASP iesaka „strādāt ar visiem desmit, sākot no augšas”. Praksē:

  • Izejiet cauri desmit punktiem, kad projektējat vai pārskatāt LLM funkciju, un atzīmējiet, kur tā ir neaizsargāta.
  • Katru kontroles pasākumu pārvērtiet par biļeti ar atbildīgo personu un pēc labojumiem testējiet atkārtoti.
  • Marķējiet atradumus ar punktu ID, lai izstrādātājiem, drošības inženieriem un produktu īpašniekiem būtu kopīga terminoloģija.
  • Testējiet tikai sistēmas, kas pieder jums vai kuru testēšanai jums ir rakstiska atļauja, un pārbaudiet, vai jūsu modeļa nodrošinātāja noteikumi atļauj drošības testēšanu.

Savā tempā apgūstamā kursa AI drošība: LLM lietotņu un AI aģentu aizsardzība noslēguma projekts „AI aģenta uzlaušana, labošana un atkārtota testēšana” noslēdzas ar drošības ziņojumu, kurā katrs atradums ir sasaistīts ar OWASP sarakstiem.

Ko lasīt tālāk

Sāciet ar saraksta pirmo punktu: mūsu ceļvedis par to, kas ir uzvedņu injekcija, skaidro tiešos un netiešos uzbrukumus un daudzslāņu aizsardzību. Ja jūsu lietotne izgūst dokumentus, rūpīgi aplūkojiet LLM02 un LLM09, kas attiecas uz izguves atļaujām un iegulumu slāni; saistīts savā tempā apgūstams kurss ir AI inženieris: ievads RAG un meklēšanā.

Viens strukturēts veids, kā apgūt šīs prasmes, ir kurss AI drošība: LLM lietotņu un AI aģentu aizsardzība: savā tempā, vidējais līmenis, 40 stundas, paredzēts izstrādātājiem, AI inženieriem un drošības speciālistiem, kuri veido vai testē AI funkcijas.

Mācieties tehniskās prasmes tiešsaistē ar Code Labs Academy

Mācieties tehniskās prasmes tiešsaistē ar Code Labs Academy

Pievienojieties mūsu atbalstošajai kopienai, atbloķējiet savu potenciālu un uzsāciet atalgojošu karjeras ceļu.

Piesakieties tūlīt

Biežāk uzdotie jautājumi

Kas ir OWASP Top 10 LLM lietotnēm 2026?

Tas ir OWASP GenAI Security Project saraksts ar desmit kritiskākajiem drošības riskiem lietotnēm, kas veidotas uz lielo valodas modeļu bāzes, un tas publicēts 2026. gada augustā. Katrā punktā skaidrots risks, sniegti uzbrukumu scenāriji un uzskaitīti mazināšanas pasākumi.

Kas ieņem pirmo vietu OWASP LLM Top 10 2026 sarakstā?

Pirmajā vietā ir LLM01:2026 Prompt Injection, tāpat kā 2025. gadā. Sensitive Information Disclosure saglabā otro vietu, bet Excessive Agency paceļas uz trešo vietu.

Kas mainījies salīdzinājumā ar 2025. gada OWASP LLM Top 10?

Secība mainījās vairāk nekā iepriekšējos izdevumos: Excessive Agency pakāpās no sestās uz trešo vietu, Unbounded Consumption pakāpās par četrām vietām, bet Improper Output Handling noslīdēja no piektās uz desmito vietu. System Prompt Leakage kļuva par Hidden Context Exposure, un pirmo reizi vērtējumā tika ņemti vērā arī dati par reāliem incidentiem.

Kas notika ar System Prompt Leakage 2026. gadā?

Tas tika pārdēvēts un paplašināts par LLM08:2026 Hidden Context Exposure. Tagad šis punkts aptver jebkuru slēpto kontekstu, ko modelis var redzēt, tostarp izstrādātāja norādījumus, izgūtus politiku tekstus un rīku shēmas, nevis tikai sistēmas uzvedni.

Ar ko LLM Top 10 atšķiras no OWASP Top 10 aģentu lietotnēm?

LLM Top 10 aplūko modeli kā komponentu jūsu lietotnē. Kad modelis rīkojas patstāvīgi ar rīkiem, atmiņu un sekām tālākajās sistēmās, OWASP iesaka to izmantot kopā ar Top 10 aģentu lietotnēm.

Karjeras pakalpojumi

Personalizēts karjeras atbalsts, lai sāktu karjeru tehnoloģiju nozarē. CV pārskati, interviju simulācijas un nozares ieskati palīdzēs pārliecinoši parādīt jaunās prasmes.

Izpētīt