Salt la conținutul principal
Înapoi la blog

OWASP Top 10 pentru aplicații LLM 2026: cele 10 riscuri explicate

Actualizat la November 19, 20268 minute de citit


OWASP Top 10 pentru aplicații LLM este lista OWASP GenAI Security Project cu cele mai critice riscuri de securitate pentru aplicațiile construite pe modele lingvistice de mari dimensiuni (LLM). Ediția 2026 a fost publicată în august 2026 (pagina sa de resurse poartă data de 3 august) și anunțată pe 1 septembrie 2026. Acest ghid prezintă toate cele zece puncte cu ID-urile lor oficiale, le explică pe scurt, propune câte un control practic pentru fiecare și rezumă ce s-a schimbat față de 2025.

Scrisoarea de deschidere a coordonatorilor proiectului dă tonul: „Nu mai încercați să construiți un model care nu poate fi păcălit. Construiți sistemul din jurul lui, astfel încât, atunci când modelul va fi păcălit, și va fi, să nu se strice nimic important.”

Cum a fost construită lista din 2026

Edițiile anterioare se bazau pe judecata practicienilor. Pentru 2026, OWASP a confruntat și votul comunității cu un corpus de 7714 incidente reale din baze de date publice de vulnerabilități și dintr-o bază de date privind prejudiciile cauzate de AI, dintre care 6639 aveau suficiente detalii pentru a fi clasificate. Votul cântărește trei sferturi, iar datele despre incidente un sfert. Cele două surse nu au coincis întotdeauna: ordonată după numărul brut de incidente, injecția de prompt iese din top 10, lucru pe care OWASP îl pune pe seama unui „efect de apărare”, întrucât echipele o combat intens și mai puține exploatări curate ajung în bazele de date publice. Punctul Misinformation a evoluat invers: votanții l-au plasat spre coada clasamentului, istoricul incidentelor spre vârf, iar datele l-au urcat pe locul al șaptelea.

Lista din 2026 pe scurt

Punct din 2026Poziția în 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (ca System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Pozițiile din 2025 provin din lista din 2025 a OWASP.

LLM01:2026 Prompt Injection (injecția de prompt)

O intrare care schimbă comportamentul modelului în moduri pe care dezvoltatorul nu le-a intenționat, fie că vine de la un utilizator, dintr-un document, din rezultatul unui instrument, dintr-o imagine sau din memorie. Punctul acoperă acum și atacurile cross-modale, care ascund instrucțiuni în imagini sau în audio. Control: păstrează credențialele și acțiunile care modifică starea în codul aplicației și acordă modelului privilegiul minim pentru fiecare operațiune. Ghidul nostru despre injecția de prompt tratează acest punct în detaliu.

LLM02:2026 Sensitive Information Disclosure (divulgarea informațiilor sensibile)

Scurgerea de date confidențiale sau reglementate prin orice canal: răspunsul, argumentele apelurilor de instrumente, urmele de raționament, fragmentele regăsite, jurnalele sau embedding-urile. OWASP numește partajarea excesivă în amonte, cum ar fi unitățile de stocare fără restricții de acces care alimentează un index de generare augmentată prin regăsire (RAG), drept una dintre cele două erori aflate la originea celor mai multe incidente. Control: autorizează înainte de regăsire, aplicând controlul accesului la nivel de document și de fragment chiar în interogarea indexului.

LLM03:2026 Excessive Agency (autonomia excesivă)

Acțiuni dăunătoare executate ca răspuns la ieșiri ale modelului neașteptate, ambigue sau manipulate. Cauzele de fond sunt funcționalitatea, permisiunile sau autonomia excesive. În sistemele agentice, spune OWASP, se poate manifesta prin utilizarea abuzivă a instrumentelor, abuzul de identitate și privilegii sau eșecuri în cascadă. Control: redu la minimum instrumentele și permisiunile lor (un instrument care rezumă e-mailuri are nevoie doar să citească mesajele) și cere aprobare umană pentru acțiunile cu impact mare.

LLM04:2026 Supply Chain (lanțul de aprovizionare)

Riscuri în modelele, seturile de date și adaptoarele terțe, precum LoRA, în pipeline-urile de conversie și în pachete, inclusiv „slopsquatting”, prin care atacatorii înregistrează nume de pachete pe care asistenții de programare le halucinează. Control: fixează artefactele de model printr-un digest imuabil, nu printr-un tag modificabil, verifică semnăturile și asigură-te că dependențele sugerate de AI există înainte de a le instala.

LLM05:2026 Data and Model Poisoning (otrăvirea datelor și a modelelor)

Date sau artefacte de model manipulate care introduc backdoor-uri sau distorsiuni în timpul preantrenării, al fine-tuning-ului, al generării embedding-urilor sau al distribuției. Otrăvirea poate fi ieftină: Souly et al. (2025) au constatat că 250 de documente otrăvite au compromis modele de la 600 de milioane la 13 miliarde de parametri, indiferent de dimensiunea setului de date. Control: urmărește proveniența datelor și a modelelor, versionează seturile de date și tratează șabloanele de chat, configurațiile tokenizerului și adaptoarele ca pe un cod care trebuie semnat și verificat.

LLM06:2026 Unbounded Consumption (consumul nelimitat)

Inferență necontrolată care provoacă întreruperi, costuri scăpate de sub control („denial of wallet”) sau furtul modelului prin extragere. Modelele de raționament, intrările multimodale și buclele de instrumente ale agenților agravează problema. Control: plafoane stricte de cheltuieli care opresc inferența, plus circuit breakere pentru agenți, cu limite de pași, de recursivitate, de timp și de cost per rulare.

LLM07:2026 Misinformation (informațiile eronate)

Ieșiri incorecte sau nefondate care par suficient de credibile încât cineva să acționeze pe baza lor. În sistemele agentice, un răspuns greșit devine o acțiune greșită, de exemplu un agent care raportează că un backup a rulat, deși nu a rulat niciodată. Control: un tipar claim-check-act (afirmare, verificare, acțiune) care separă generarea de execuție și verifică afirmațiile și precondițiile înainte de a acționa.

LLM08:2026 Hidden Context Exposure (expunerea contextului ascuns)

Extragerea sau reconstituirea contextului ascuns: prompturi de sistem, instrucțiuni ale dezvoltatorului, textul politicilor regăsit și schemele instrumentelor. OWASP recomandă să pornești de la premisa că acest context ascuns poate fi descoperit. Control: nu include în el credențiale și secrete și aplică autorizarea în cod determinist, în afara modelului.

LLM09:2026 Vector and Embedding Weaknesses (punctele slabe ale vectorilor și ale embedding-urilor)

Atacuri asupra stratului de embedding-uri din spatele RAG, al memoriei agenților și al cache-urilor semantice. În cuvintele OWASP, „otrăvirea face sistemul să greșească, inversiunea îl face să scurgă date, bruiajul îl reduce la tăcere, iar eșecul controlului accesului îl face nediscriminatoriu”. Control: aplică separarea pe chiriași (tenant) chiar în interogarea indexului, nu ca filtru după regăsire, și păstrează conținutul cu niveluri diferite de încredere în indexuri separate.

LLM10:2026 Improper Output Handling (gestionarea necorespunzătoare a ieșirilor)

Transmiterea ieșirii modelului către sistemele din aval fără validare, ceea ce poate duce la XSS, injecție SQL, SSRF sau execuție de cod la distanță. Punctul acoperă acum și codul nesigur pe care asistenții îl generează la scară largă. Control: tratează ieșirea modelului ca pe o intrare de la utilizator: codific-o pentru contextul în care este folosită, utilizează interogări parametrizate și dezactivează afișarea automată a imaginilor Markdown și a previzualizărilor de linkuri.

Ce s-a schimbat față de ediția 2025

OWASP spune că ordinea „s-a schimbat mai mult decât în anii trecuți”. Principalele schimbări:

  • Excessive Agency a urcat de pe locul al șaselea pe al treilea, ceea ce OWASP numește „mutarea cu cele mai mari consecințe din listă”.
  • Unbounded Consumption a urcat patru poziții, iar Improper Output Handling a coborât cel mai mult, de pe locul al cincilea pe al zecelea.
  • Prompt Injection și Sensitive Information Disclosure și-au păstrat primele două locuri.
  • System Prompt Leakage a devenit Hidden Context Exposure, un punct mai larg.
  • Punctele existente au absorbit riscurile mai noi, în loc să fie adăugate categorii noi: injecția cross-modală, artefactele de model care nu sunt ceea ce pretind că sunt, subminarea fine-tuning-ului și codul generat nesigur.
  • Corespondențele cu alte cadre (NIST, MITRE ATLAS, CWE și altele) au fost mutate într-o singură anexă.

OWASP trasează și o graniță mai clară. Această listă acoperă modelul ca pe o componentă a aplicației tale. Odată ce modelul devine un actor, cu instrumente, memorie și consecințe în aval, OWASP recomandă să o folosești împreună cu OWASP Top 10 pentru aplicații agentice, pe care ghidul nostru despre cum să securizezi agenții AI îl explică pas cu pas.

Cum folosești lista în echipa ta

Sfatul OWASP este să „lucrezi la toate cele zece, începând de sus”. În practică:

  • Parcurge cele zece puncte atunci când proiectezi sau revizuiești o funcționalitate LLM și notează unde este expusă.
  • Transformă fiecare control într-un tichet cu un responsabil și retestează după remedieri.
  • Etichetează constatările cu ID-urile punctelor, pentru ca dezvoltatorii, inginerii de securitate și product ownerii să folosească același vocabular.
  • Testează doar sisteme care îți aparțin sau pe care ai permisiunea scrisă să le testezi și asigură-te că termenii furnizorului modelului tău permit testarea securității.

Proiectul final al cursului în ritm propriu Securitatea AI: protejarea aplicațiilor LLM și a agenților AI, „Atacați, remediați și retestați un agent AI”, se încheie cu un raport de securitate care asociază fiecare constatare cu listele OWASP.

Pașii următori

Începe cu punctul din vârful listei: ghidul nostru despre ce este injecția de prompt explică atacurile directe și indirecte și apărările pe mai multe niveluri. Dacă aplicația ta regăsește documente, acordă o atenție deosebită punctelor LLM02 și LLM09, care tratează permisiunile de regăsire și stratul de embedding-uri; Inginer AI: introducere în RAG și căutare este un curs înrudit, tot în ritm propriu.

O modalitate structurată de a-ți dezvolta aceste competențe este cursul Securitatea AI: protejarea aplicațiilor LLM și a agenților AI: în ritm propriu, de nivel intermediar și cu o durată de 40 de ore, pentru dezvoltatori, ingineri AI și specialiști în securitate care construiesc sau testează funcționalități AI.

Învață competențe tehnice online cu Code Labs Academy

Învață competențe tehnice online cu Code Labs Academy

Alătură-te comunității noastre, descoperă-ți potențialul și pornește pe o cale de carieră plină de satisfacții.

Aplică acum

Întrebări frecvente

Ce este OWASP Top 10 pentru aplicații LLM 2026?

Este lista OWASP GenAI Security Project cu cele mai critice zece riscuri de securitate pentru aplicațiile construite pe modele lingvistice de mari dimensiuni, publicată în august 2026. Fiecare punct explică riscul, oferă scenarii de atac și enumeră măsuri de atenuare.

Ce se află pe primul loc în OWASP LLM Top 10 2026?

Pe primul loc se află LLM01:2026 Prompt Injection (injecția de prompt), ca și în 2025. Sensitive Information Disclosure (divulgarea informațiilor sensibile) rămâne pe locul al doilea, iar Excessive Agency (autonomia excesivă) urcă pe locul al treilea.

Ce s-a schimbat față de OWASP LLM Top 10 din 2025?

Ordinea s-a schimbat mai mult decât în edițiile anterioare: Excessive Agency a urcat de pe locul al șaselea pe al treilea, Unbounded Consumption a urcat patru poziții, iar Improper Output Handling a coborât de pe locul al cincilea pe al zecelea. System Prompt Leakage a devenit Hidden Context Exposure și, pentru prima dată, clasamentul a ținut cont și de date despre incidente reale.

Ce s-a întâmplat cu System Prompt Leakage în 2026?

A fost redenumit și extins ca LLM08:2026 Hidden Context Exposure (expunerea contextului ascuns). Punctul acoperă acum orice context ascuns pe care modelul îl poate vedea, inclusiv instrucțiunile dezvoltatorului, textul politicilor regăsit și schemele instrumentelor, nu doar promptul de sistem.

Prin ce diferă LLM Top 10 de OWASP Top 10 pentru aplicații agentice?

LLM Top 10 acoperă modelul ca pe o componentă din aplicația ta. Atunci când modelul acționează singur, cu instrumente, memorie și efecte în aval, OWASP recomandă să îl folosești împreună cu Top 10 pentru aplicații agentice.

Servicii de carieră

Suport de carieră personalizat pentru a începe în domeniul tech. Include revizuiri de CV, interviuri simulate și perspective din industrie pentru a-ți pune în valoare noile competențe cu încredere.

Explorează