Slaan oor na hoofinhoud
Terug na die blog

OWASP Top 10 vir LLM-toepassings 2026: al 10 risiko's verduidelik

Opgedateer op November 19, 20267 minute lees


Die OWASP Top 10 vir LLM-toepassings is die OWASP GenAI Security Project se lys van die mees kritieke sekuriteitsrisiko's vir toepassings wat op groot taalmodelle (LLM's) gebou is. Die 2026-uitgawe is in Augustus 2026 gepubliseer (die hulpbronblad is op 3 Augustus gedateer) en is op 1 September 2026 aangekondig. Hierdie gids lys al tien inskrywings met hul amptelike ID's, verduidelik elkeen kortliks, gee een praktiese kontrole per inskrywing en som op wat sedert 2025 verander het.

Die projekleiers se openingsbrief stel die toon: “Hou op om te probeer om 'n model te bou wat nie mislei kan word nie. Bou die stelsel rondom die model, sodat niks belangriks breek wanneer die model mislei word nie, en dit sal gebeur.”

Hoe die 2026-lys saamgestel is

Vorige uitgawes het op die oordeel van praktisyns staatgemaak. Vir 2026 het OWASP die gemeenskapstemming ook getoets teen 'n korpus van 7714 werklike insidente uit openbare kwesbaarheidsdatabasisse en 'n databasis van KI-skade, waarvan 6639 genoeg besonderhede gehad het om te klassifiseer. Die stemming dra driekwart van die gewig en die insidentdata 'n kwart. Die twee het nie altyd ooreengestem nie: gerangskik volgens rou insidenttellings val prompt injection uit die top 10, wat OWASP toeskryf aan 'n “verdedigingseffek”, aangesien spanne dit hard beveg en minder skoon uitbuitings openbare databasisse bereik. Misinformation het die ander kant toe gegaan: stemmers het dit naby die onderkant geplaas, die insidentrekord naby die bopunt, en die bewyse het dit tot die sewende plek opgetrek.

Die 2026-lys in 'n oogopslag

Inskrywing in 2026Posisie in 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (as System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Die posisies vir 2025 kom uit OWASP se 2025-lys.

LLM01:2026 Prompt Injection

Invoer wat die model se gedrag verander op maniere wat die ontwikkelaar nie bedoel het nie, of dit nou van 'n gebruiker, 'n dokument, 'n hulpmiddel se resultaat, 'n beeld of die geheue kom. Die inskrywing dek nou ook kruismodale aanvalle wat instruksies in beelde of oudio versteek. Kontrole: hou toegangsbewyse en handelinge wat toestand verander in die toepassingskode, en gee die model minste voorreg per bewerking. Ons gids oor prompt injection dek hierdie inskrywing in diepte.

LLM02:2026 Sensitive Information Disclosure (openbaarmaking van sensitiewe inligting)

Vertroulike of gereguleerde data wat deur enige kanaal uitlek: die antwoord, argumente van hulpmiddeloproepe, redenasiespore, herwinde chunks, logs of inbeddings. OWASP noem oormatige deling stroomop, soos skywe sonder afgebakende toegang wat 'n indeks vir retrieval-augmented generation (RAG) voed, as een van twee mislukkings agter die meeste insidente. Kontrole: magtig voor herwinning deur toegang op dokument- en chunkvlak binne die indeksnavraag af te dwing.

LLM03:2026 Excessive Agency (oormatige handelingsvryheid)

Skadelike handelinge in reaksie op onverwagte, dubbelsinnige of gemanipuleerde modeluitvoer. Die grondoorsake is oormatige funksionaliteit, toestemmings of outonomie. In agentiese stelsels kan dit volgens OWASP na vore kom as misbruik van hulpmiddels, misbruik van identiteit en voorregte, of kettingmislukkings. Kontrole: beperk hulpmiddels en hul toestemmings tot die minimum ('n hulpmiddel wat e-pos opsom, hoef net e-pos te lees) en vereis menslike goedkeuring vir handelinge met 'n groot impak.

LLM04:2026 Supply Chain (verskaffingsketting)

Risiko's in modelle, datastelle, adapters soos LoRA, omskakelingspyplyne en pakkette van derde partye, insluitend “slopsquatting”, waar aanvallers pakketname registreer wat kodeerassistente hallusineer. Kontrole: pen modelartefakte vas met 'n onveranderlike digest eerder as 'n veranderlike tag, verifieer handtekeninge en kontroleer dat afhanklikhede wat KI voorstel, wel bestaan voordat jy hulle installeer.

LLM05:2026 Data and Model Poisoning (data- en modelvergiftiging)

Gemanipuleerde data of modelartefakte wat tydens voorafopleiding, fynafstemming, inbedding of verspreiding agterdeure of sydigheid inbou. Vergiftiging kan goedkoop wees: Souly et al. (2025) het gevind dat 250 vergiftigde dokumente modelle van 600 miljoen tot 13 miljard parameters gekompromitteer het, ongeag die grootte van die datastel. Kontrole: hou die herkoms van data en modelle dop, plaas jou datastelle onder weergawebeheer en behandel chat-sjablone, tokeniseerder-konfigurasies en adapters as kode wat onderteken en geverifieer moet word.

LLM06:2026 Unbounded Consumption (onbegrensde verbruik)

Onbeheerde inferensie wat onderbrekings, buitensporige koste (“denial of wallet”) of modeldiefstal deur ekstraksie veroorsaak. Redenasiemodelle, multimodale invoer en agente se hulpmiddellusse vererger dit. Kontrole: harde bestedingsperke wat inferensie stop, plus stroombrekers (circuit breakers) vir agente met perke op stappe, rekursie, tyd en koste per lopie.

LLM07:2026 Misinformation (wanninligting)

Verkeerde of ongegronde uitvoer wat geloofwaardig genoeg lyk om op te reageer. In agentiese stelsels word 'n verkeerde antwoord 'n verkeerde handeling, soos 'n agent wat rapporteer dat 'n rugsteun gemaak is, terwyl dit nooit gebeur het nie. Kontrole: 'n claim-check-act-patroon wat generering van uitvoering skei en bewerings en voorvereistes verifieer voordat daar opgetree word.

LLM08:2026 Hidden Context Exposure (blootstelling van versteekte konteks)

Die onttrekking of rekonstruksie van versteekte konteks: stelselprompts, ontwikkelaarsinstruksies, herwinde beleidsteks en hulpmiddelskemas. OWASP raai aan dat jy aanvaar dat versteekte konteks ontdek kan word. Kontrole: hou toegangsbewyse en geheime daaruit, en dwing magtiging af in deterministiese kode buite die model.

LLM09:2026 Vector and Embedding Weaknesses (swakhede in vektore en inbeddings)

Aanvalle op die inbeddingslaag agter RAG, agentgeheue en semantiese kasgeheues. In OWASP se woorde: “vergiftiging maak die stelsel verkeerd, inversie laat dit lek, jamming laat dit stilbly, en mislukte toegangsbeheer maak dit lukraak.” Kontrole: dwing die skeiding tussen huurders (tenants) binne die indeksnavraag af, nie as 'n filter ná herwinning nie, en hou inhoud met verskillende vertrouensvlakke in aparte indekse.

LLM10:2026 Improper Output Handling (onbehoorlike hantering van uitvoer)

Modeluitvoer word sonder validering na stelsels verder af in die ketting deurgegee, wat tot XSS, SQL injection, SSRF of afgeleë kode-uitvoering kan lei. Dit dek nou ook onveilige kode wat assistente op groot skaal genereer. Kontrole: behandel modeluitvoer soos gebruikersinvoer: enkodeer dit vir sy konteks, gebruik geparametriseerde navrae en skakel die outomatiese weergawe van Markdown-beelde en skakelvoorskoue af.

Wat sedert die 2025-uitgawe verander het

OWASP sê die volgorde “het meer geskuif as in vorige jare”. Die belangrikste veranderinge:

  • Excessive Agency het van sesde na derde geklim, wat OWASP “die skuif met die grootste gevolge op die lys” noem.
  • Unbounded Consumption het vier plekke gestyg, en Improper Output Handling het die verste gedaal, van vyfde na tiende.
  • Prompt Injection en Sensitive Information Disclosure het die boonste twee plekke behou.
  • System Prompt Leakage het Hidden Context Exposure geword, 'n breër inskrywing.
  • Bestaande inskrywings het nuwer risiko's opgeneem in plaas daarvan dat nuwe kategorieë bygevoeg is: kruismodale inspuiting, modelartefakte wat nie is wat hulle voorgee om te wees nie, die ondermyning van fynafstemming en onveilige gegenereerde kode.
  • Koppelings aan raamwerke (NIST, MITRE ATLAS, CWE en ander) is na een bylae geskuif.

OWASP trek ook 'n duideliker grens. Hierdie lys dek die model as 'n komponent van jou toepassing. Sodra die model 'n akteur word met hulpmiddels, geheue en gevolge verder af in die ketting, sê OWASP dat jy dit saam met die OWASP Top 10 vir agentiese toepassings moet gebruik, wat ons gids oor hoe om KI-agente te beveilig stap vir stap deurloop.

Hoe om die lys in jou span te gebruik

OWASP se raad is om “al tien deur te werk en bo te begin”. In die praktyk:

  • Gaan deur die tien inskrywings wanneer jy 'n LLM-funksie ontwerp of hersien, en teken aan waar dit blootgestel is.
  • Maak van elke kontrole 'n ticket met 'n eienaar, en toets weer ná die regstellings.
  • Merk bevindinge met die ID's van die inskrywings, sodat ontwikkelaars, sekuriteitsingenieurs en produkeienaars dieselfde woordeskat gebruik.
  • Toets net stelsels wat jy besit of skriftelike toestemming het om te toets, en maak seker dat jou modelverskaffer se voorwaardes sekuriteitstoetsing toelaat.

Die sluitstukprojek van die selftempo-kursus KI-sekuriteit: beveiliging van LLM-toepassings en KI-agente, “Val 'n KI-agent aan, herstel dit en toets dit weer”, eindig met 'n sekuriteitsverslag wat elke bevinding aan die OWASP-lyste koppel.

Wat volgende

Begin by die inskrywing bo-aan: ons gids oor wat prompt injection is verduidelik direkte en indirekte aanvalle en gelaagde verdediging. As jou toepassing dokumente herwin, kyk mooi na LLM02 en LLM09, wat herwinningstoestemmings en die inbeddingslaag dek; KI-ingenieur: Inleiding tot RAG en soektogte is 'n verwante selftempo-kursus.

'n Gestruktureerde manier om hierdie vaardighede op te bou, is die kursus KI-sekuriteit: beveiliging van LLM-toepassings en KI-agente: teen jou eie pas, op intermediêre vlak en 40 uur lank, vir ontwikkelaars, KI-ingenieurs en sekuriteitskundiges wat KI-funksies bou of toets.

Leer tegniese vaardighede aanlyn met Code Labs Academy

Leer tegniese vaardighede aanlyn met Code Labs Academy

Sluit aan by ons ondersteunende gemeenskap, ontsluit u potensiaal en begin met 'n lonende loopbaan.

Doen nou aansoek

Gereelde vrae

Wat is die OWASP Top 10 vir LLM-toepassings 2026?

Dit is die OWASP GenAI Security Project se lys van die tien mees kritieke sekuriteitsrisiko's vir toepassings wat op groot taalmodelle gebou is, gepubliseer in Augustus 2026. Elke inskrywing verduidelik die risiko, gee aanvalscenario's en lys versagtingsmaatreëls.

Wat is nommer een op die OWASP LLM Top 10 2026?

LLM01:2026 Prompt Injection is eerste, soos in 2025. Sensitive Information Disclosure bly tweede, en Excessive Agency skuif op na derde.

Wat het verander sedert die OWASP LLM Top 10 van 2025?

Die volgorde het meer verander as in vorige uitgawes: Excessive Agency het van sesde na derde gestyg, Unbounded Consumption het vier plekke gestyg en Improper Output Handling het van vyfde na tiende gedaal. System Prompt Leakage het Hidden Context Exposure geword, en vir die eerste keer het die rangorde ook data uit werklike insidente in ag geneem.

Wat het in 2026 van System Prompt Leakage geword?

Dit is herdoop en verbreed as LLM08:2026 Hidden Context Exposure. Die inskrywing dek nou enige versteekte konteks wat die model kan sien, insluitend ontwikkelaarsinstruksies, herwinde beleidsteks en hulpmiddelskemas, nie net die stelselprompt nie.

Hoe verskil die LLM Top 10 van die OWASP Top 10 vir agentiese toepassings?

Die LLM Top 10 dek die model as 'n komponent binne jou toepassing. Wanneer die model op sy eie optree met hulpmiddels, geheue en gevolge verder af in die ketting, raai OWASP aan dat jy dit saam met die Top 10 vir agentiese toepassings gebruik.

Loopbaandienste

Persoonlike loopbaanondersteuning om jou tech-loopbaan te begin. Kry CV-terugvoer, proefonderhoude en bedryfsinsigte sodat jy jou nuwe vaardighede met selfvertroue kan wys.

Verken