Pereiti prie pagrindinio turinio
Atgal į tinklaraštį

OWASP Top 10 LLM programoms 2026: visų 10 rizikų paaiškinimas

Atnaujinta November 19, 20266 Perskaityta minučių


OWASP Top 10 LLM programoms – tai OWASP GenAI Security Project sąrašas, kuriame pateikiamos svarbiausios saugumo rizikos programoms, sukurtoms naudojant didžiuosius kalbos modelius (LLM). Sąrašo 2026 m. leidimas buvo paskelbtas 2026 m. rugpjūtį (jo ištekliaus puslapis datuotas rugpjūčio 3 d.) ir pristatytas 2026 m. rugsėjo 1 d.. Šiame vadove išvardyti visi dešimt punktų su oficialiais ID, kiekvienas trumpai paaiškintas, kiekvienam pateikta po vieną praktinę kontrolės priemonę ir apibendrinta, kas pasikeitė nuo 2025 m.

Projekto vadovų įžanginis laiškas nustato toną: „Liaukitės bandę sukurti modelį, kurio negalima apgauti. Kurkite aplink jį sistemą taip, kad kai modelis bus apgautas, o taip ir nutiks, nesugestų niekas svarbaus.“

Kaip buvo sudarytas 2026 m. sąrašas

Ankstesni leidimai rėmėsi praktikų vertinimais. Rengiant 2026 m. sąrašą, bendruomenės balsavimo rezultatai papildomai palyginti su 7714 realių incidentų rinkiniu iš viešų pažeidžiamumų duomenų bazių ir AI žalos duomenų bazės; 6639 iš jų buvo pakankamai išsamūs, kad būtų galima juos klasifikuoti. Balsavimas sudaro tris ketvirtadalius svorio, incidentų duomenys – vieną ketvirtadalį. Šie du šaltiniai ne visada sutapo: jei reitinguotume vien pagal incidentų skaičių, prompt injection iškristų iš top 10. OWASP tai aiškina „gynybos efektu“: komandos aktyviai su ja kovoja, todėl į viešas duomenų bazes patenka mažiau aiškių išnaudojimo atvejų. Misinformation atveju buvo priešingai: balsuotojai ją įvertino arti sąrašo pabaigos, incidentų duomenys – arti pradžios, o įrodymai pakėlė ją į septintą vietą.

2026 m. sąrašas trumpai

2026 m. punktasVieta 2025 m.
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (kaip System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Vietos 2025 m. paimtos iš OWASP 2025 m. sąrašo.

LLM01:2026 Prompt Injection

Įvestis, kuri pakeičia modelio elgseną taip, kaip kūrėjas nenumatė, nesvarbu, ar ji gaunama iš naudotojo, dokumento, įrankio rezultato, paveikslėlio ar atminties. Dabar šis punktas apima ir tarpmodalines atakas, kai instrukcijos slepiamos paveikslėliuose ar garso įrašuose. Kontrolės priemonė: prisijungimo duomenis ir būseną keičiančius veiksmus laikykite programos kode ir kiekvienai operacijai suteikite modeliui mažiausias privilegijas. Mūsų vadovas apie prompt injection šį punktą nagrinėja išsamiai.

LLM02:2026 Sensitive Information Disclosure (jautrios informacijos atskleidimas)

Konfidencialių ar reguliuojamų duomenų nutekėjimas bet kuriuo kanalu: per atsakymą, įrankių iškvietimų argumentus, samprotavimo pėdsakus, išgautas ištraukas, žurnalus ar įterpinius. OWASP kaip vieną iš dviejų klaidų, lemiančių daugumą incidentų, nurodo perteklinį bendrinimą jau šaltinyje, pavyzdžiui, neapribotus diskus, iš kurių duomenys patenka į išgavimu papildyto generavimo (RAG) indeksą. Kontrolės priemonė: autorizuokite prieš išgavimą, prieigą dokumentų ir ištraukų lygmeniu užtikrindami pačioje indekso užklausoje.

LLM03:2026 Excessive Agency (perteklinė veiksmų laisvė)

Žalingi veiksmai, atliekami reaguojant į netikėtą, dviprasmišką ar manipuliuotą modelio išvestį. Pagrindinės priežastys – perteklinis funkcionalumas, pertekliniai leidimai ar perteklinis autonomiškumas. Agentinėse sistemose, pasak OWASP, tai gali pasireikšti kaip piktnaudžiavimas įrankiais, piktnaudžiavimas tapatybe ir privilegijomis ar kaskadiniai gedimai. Kontrolės priemonė: sumažinkite įrankių skaičių ir jų leidimus (el. laiškų apibendrinimo įrankiui reikia tik skaityti paštą) ir reikalaukite žmogaus patvirtinimo didelio poveikio veiksmams.

LLM04:2026 Supply Chain (tiekimo grandinė)

Rizikos trečiųjų šalių modeliuose, duomenų rinkiniuose, adapteriuose, pavyzdžiui, LoRA, konvertavimo konvejeriuose ir paketuose, įskaitant „slopsquatting“, kai užpuolikai užregistruoja paketų pavadinimus, kuriuos haliucinuoja programavimo asistentai. Kontrolės priemonė: modelių artefaktus susiekite su nekintama maišos reikšme (digest), o ne su kintama žyma, tikrinkite parašus ir prieš diegdami įsitikinkite, kad AI pasiūlytos priklausomybės tikrai egzistuoja.

LLM05:2026 Data and Model Poisoning (duomenų ir modelių užnuodijimas)

Manipuliuoti duomenys ar modelių artefaktai, kurie išankstinio mokymo, derinimo, įterpinių kūrimo ar platinimo metu įdiegia užpakalines duris ar šališkumą. Užnuodijimas gali būti pigus: Souly et al. (2025) nustatė, kad 250 užnuodytų dokumentų pakako pažeisti modelius nuo 600 milijonų iki 13 milijardų parametrų, nepriklausomai nuo duomenų rinkinio dydžio. Kontrolės priemonė: sekite duomenų ir modelių kilmę, versijuokite duomenų rinkinius, o pokalbių šablonus, žetonizatoriaus konfigūracijas ir adapterius laikykite kodu, kurį būtina pasirašyti ir patikrinti.

LLM06:2026 Unbounded Consumption (neribotas vartojimas)

Nekontroliuojamas išvedimas (inference), dėl kurio sutrinka veikimas, nevaldomai auga išlaidos („denial of wallet“) arba modelis pavagiamas išgavimo atakomis. Samprotaujantys modeliai, multimodalinės įvestys ir agentų įrankių ciklai problemą didina. Kontrolės priemonė: griežtos išlaidų ribos, kurios sustabdo išvedimą, ir agentų grandinės pertraukikliai (circuit breakers) su žingsnių, rekursijos, laiko ir vieno paleidimo kainos limitais.

LLM07:2026 Misinformation (klaidinga informacija)

Neteisinga ar nepagrįsta išvestis, atrodanti pakankamai patikimai, kad pagal ją būtų imamasi veiksmų. Agentinėse sistemose klaidingas atsakymas tampa klaidingu veiksmu, pavyzdžiui, kai agentas praneša, kad atsarginė kopija sukurta, nors to niekada nebuvo padaryta. Kontrolės priemonė: šablonas „teiginys–patikra–veiksmas“ (claim-check-act), kuris atskiria generavimą nuo vykdymo ir prieš imantis veiksmų patikrina teiginius bei išankstines sąlygas.

LLM08:2026 Hidden Context Exposure (paslėpto konteksto atskleidimas)

Paslėpto konteksto išgavimas ar atkūrimas: sistemos raginimai, kūrėjo instrukcijos, išgauti politikos tekstai ir įrankių schemos. OWASP pataria laikyti, kad paslėptą kontekstą galima atskleisti. Kontrolės priemonė: nelaikykite jame prisijungimo duomenų ir paslapčių, o autorizaciją užtikrinkite deterministiniame kode už modelio ribų.

LLM09:2026 Vector and Embedding Weaknesses (vektorių ir įterpinių silpnosios vietos)

Atakos prieš įterpinių sluoksnį, kuriuo remiasi RAG, agentų atmintis ir semantinės spartinančiosios atmintinės. OWASP žodžiais: „užnuodijimas sistemą padaro klaidingą, inversija priverčia ją nutekinti duomenis, trikdymas ją nutildo, o prieigos kontrolės spraga padaro ją neišrankią.“ Kontrolės priemonė: nuomininkų (tenant) atskyrimą užtikrinkite pačioje indekso užklausoje, o ne kaip filtrą po išgavimo, ir skirtingo patikimumo lygio turinį laikykite atskiruose indeksuose.

LLM10:2026 Improper Output Handling (netinkamas išvesties apdorojimas)

Modelio išvesties perdavimas toliau be patikros, galintis lemti XSS, SQL injekciją, SSRF ar nuotolinį kodo vykdymą. Dabar šis punktas apima ir nesaugų kodą, kurį asistentai generuoja dideliu mastu. Kontrolės priemonė: modelio išvestį laikykite naudotojo įvestimi: koduokite ją pagal kontekstą, naudokite parametrizuotas užklausas ir išjunkite automatinį Markdown paveikslėlių ir nuorodų peržiūrų atvaizdavimą.

Kas pasikeitė nuo 2025 m. leidimo

OWASP teigia, kad tvarka „pasikeitė labiau nei ankstesniais metais“. Pagrindiniai pokyčiai:

  • Excessive Agency pakilo iš šeštos į trečią vietą – OWASP tai vadina „reikšmingiausiu poslinkiu sąraše“.
  • Unbounded Consumption pakilo keturiomis vietomis, o Improper Output Handling nukrito labiausiai – iš penktos į dešimtą vietą.
  • Prompt Injection ir Sensitive Information Disclosure išlaikė dvi aukščiausias vietas.
  • System Prompt Leakage tapo platesniu punktu – Hidden Context Exposure.
  • Užuot pridėjus naujų kategorijų, esami punktai apėmė naujesnes rizikas: tarpmodalinę injekciją, modelių artefaktus, kurie nėra tai, kuo dedasi, derinimo iškraipymą ir nesaugų sugeneruotą kodą.
  • Sąsajos su sistemomis (NIST, MITRE ATLAS, CWE ir kitomis) perkeltos į vieną priedą.

OWASP taip pat nubrėžia aiškesnę ribą. Šis sąrašas nagrinėja modelį kaip jūsų programos komponentą. Kai modelis tampa veikėju su įrankiais, atmintimi ir pasekmėmis kitoms sistemoms, OWASP pataria jį naudoti kartu su OWASP Top 10 agentinėms programoms, kurį aptaria mūsų vadovas apie tai, kaip apsaugoti AI agentus.

Kaip naudoti sąrašą komandoje

OWASP pataria „išnagrinėti visus dešimt, pradedant nuo viršaus“. Praktiškai:

  • Peržiūrėkite dešimt punktų, kai projektuojate ar peržiūrite LLM funkciją, ir pasižymėkite, kur ji pažeidžiama.
  • Kiekvieną kontrolės priemonę paverskite užduotimi su atsakingu asmeniu ir po pataisymų testuokite iš naujo.
  • Radinius žymėkite punktų ID, kad kūrėjai, saugumo inžinieriai ir produktų savininkai vartotų tą patį žodyną.
  • Testuokite tik sistemas, kurios priklauso jums arba kurioms testuoti turite rašytinį leidimą, ir patikrinkite, ar jūsų modelio teikėjo sąlygos leidžia saugumo testavimą.

Savo tempu studijuojamo kurso AI saugumas: LLM programų ir AI agentų apsauga baigiamasis projektas „AI agento atakavimas, taisymas ir pakartotinis testavimas“ baigiamas saugumo ataskaita, kurioje kiekvienas radinys susiejamas su OWASP sąrašais.

Ką skaityti toliau

Pradėkite nuo pirmo punkto: mūsų vadovas apie tai, kas yra prompt injection, paaiškina tiesiogines ir netiesiogines atakas bei daugiasluoksnę gynybą. Jei jūsų programa išgauna dokumentus, atidžiai išnagrinėkite LLM02 ir LLM09, kurie apima išgavimo leidimus ir įterpinių sluoksnį; susijęs savo tempu studijuojamas kursas yra AI inžinierius: įvadas į RAG ir paiešką.

Vienas struktūruotas būdas įgyti šių įgūdžių – kursas AI saugumas: LLM programų ir AI agentų apsauga: savo tempu, vidutinio lygio, 40 valandų, skirtas kūrėjams, AI inžinieriams ir saugumo specialistams, kurie kuria ar testuoja AI funkcijas.

Išmokite techninių įgūdžių internete su Code Labs Academy

Išmokite techninių įgūdžių internete su Code Labs Academy

Prisijunkite prie mūsų palaikomosios bendruomenės, atrkite savo galimybes ir pradėkite naudingą karjeros kelią.

Kreipkitės dabar

Dažniausiai užduodami klausimai

Kas yra OWASP Top 10 LLM programoms 2026?

Tai OWASP GenAI Security Project sąrašas, kuriame pateikiama dešimt svarbiausių saugumo rizikų programoms, sukurtoms naudojant didžiuosius kalbos modelius; jis paskelbtas 2026 m. rugpjūtį. Kiekviename punkte paaiškinama rizika, pateikiami atakų scenarijai ir išvardijamos rizikos mažinimo priemonės.

Kas užima pirmą vietą OWASP LLM Top 10 2026 sąraše?

Pirmoje vietoje yra LLM01:2026 Prompt Injection, kaip ir 2025 m. Sensitive Information Disclosure lieka antroje vietoje, o Excessive Agency pakyla į trečią.

Kas pasikeitė, palyginti su 2025 m. OWASP LLM Top 10?

Tvarka pasikeitė labiau nei ankstesniuose leidimuose: Excessive Agency pakilo iš šeštos į trečią vietą, Unbounded Consumption pakilo keturiomis vietomis, o Improper Output Handling nukrito iš penktos į dešimtą vietą. System Prompt Leakage tapo Hidden Context Exposure, ir pirmą kartą reitinge buvo atsižvelgta ir į realių incidentų duomenis.

Kas nutiko System Prompt Leakage 2026 m.?

Šis punktas pervadintas ir išplėstas į LLM08:2026 Hidden Context Exposure. Dabar jis apima bet kokį paslėptą kontekstą, kurį modelis gali matyti, įskaitant kūrėjo instrukcijas, išgautus politikos tekstus ir įrankių schemas, o ne tik sistemos raginimą.

Kuo LLM Top 10 skiriasi nuo OWASP Top 10 agentinėms programoms?

LLM Top 10 nagrinėja modelį kaip jūsų programos komponentą. Kai modelis veikia savarankiškai su įrankiais, atmintimi ir pasekmėmis kitoms sistemoms, OWASP pataria jį naudoti kartu su Top 10 agentinėms programoms.

Karjeros paslaugos

Individuali karjeros pagalba startui IT srityje. CV peržiūros, bandomieji pokalbiai ir pramonės įžvalgos padės drąsiai pristatyti naujus įgūdžius.

Tyrinėk