OWASP Top 10 pentru aplicații LLM 2026: cele 10 riscuri explicate
Actualizat la November 19, 20268 minute de citit
OWASP Top 10 pentru aplicații LLM este lista OWASP GenAI Security Project cu cele mai critice riscuri de securitate pentru aplicațiile construite pe modele lingvistice de mari dimensiuni (LLM). Ediția 2026 a fost publicată în august 2026 (pagina sa de resurse poartă data de 3 august) și anunțată pe 1 septembrie 2026. Acest ghid prezintă toate cele zece puncte cu ID-urile lor oficiale, le explică pe scurt, propune câte un control practic pentru fiecare și rezumă ce s-a schimbat față de 2025.
Scrisoarea de deschidere a coordonatorilor proiectului dă tonul: „Nu mai încercați să construiți un model care nu poate fi păcălit. Construiți sistemul din jurul lui, astfel încât, atunci când modelul va fi păcălit, și va fi, să nu se strice nimic important.”
Cum a fost construită lista din 2026
Edițiile anterioare se bazau pe judecata practicienilor. Pentru 2026, OWASP a confruntat și votul comunității cu un corpus de 7714 incidente reale din baze de date publice de vulnerabilități și dintr-o bază de date privind prejudiciile cauzate de AI, dintre care 6639 aveau suficiente detalii pentru a fi clasificate. Votul cântărește trei sferturi, iar datele despre incidente un sfert. Cele două surse nu au coincis întotdeauna: ordonată după numărul brut de incidente, injecția de prompt iese din top 10, lucru pe care OWASP îl pune pe seama unui „efect de apărare”, întrucât echipele o combat intens și mai puține exploatări curate ajung în bazele de date publice. Punctul Misinformation a evoluat invers: votanții l-au plasat spre coada clasamentului, istoricul incidentelor spre vârf, iar datele l-au urcat pe locul al șaptelea.
Lista din 2026 pe scurt
| Punct din 2026 | Poziția în 2025 |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (ca System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Pozițiile din 2025 provin din lista din 2025 a OWASP.
LLM01:2026 Prompt Injection (injecția de prompt)
O intrare care schimbă comportamentul modelului în moduri pe care dezvoltatorul nu le-a intenționat, fie că vine de la un utilizator, dintr-un document, din rezultatul unui instrument, dintr-o imagine sau din memorie. Punctul acoperă acum și atacurile cross-modale, care ascund instrucțiuni în imagini sau în audio. Control: păstrează credențialele și acțiunile care modifică starea în codul aplicației și acordă modelului privilegiul minim pentru fiecare operațiune. Ghidul nostru despre injecția de prompt tratează acest punct în detaliu.
LLM02:2026 Sensitive Information Disclosure (divulgarea informațiilor sensibile)
Scurgerea de date confidențiale sau reglementate prin orice canal: răspunsul, argumentele apelurilor de instrumente, urmele de raționament, fragmentele regăsite, jurnalele sau embedding-urile. OWASP numește partajarea excesivă în amonte, cum ar fi unitățile de stocare fără restricții de acces care alimentează un index de generare augmentată prin regăsire (RAG), drept una dintre cele două erori aflate la originea celor mai multe incidente. Control: autorizează înainte de regăsire, aplicând controlul accesului la nivel de document și de fragment chiar în interogarea indexului.
LLM03:2026 Excessive Agency (autonomia excesivă)
Acțiuni dăunătoare executate ca răspuns la ieșiri ale modelului neașteptate, ambigue sau manipulate. Cauzele de fond sunt funcționalitatea, permisiunile sau autonomia excesive. În sistemele agentice, spune OWASP, se poate manifesta prin utilizarea abuzivă a instrumentelor, abuzul de identitate și privilegii sau eșecuri în cascadă. Control: redu la minimum instrumentele și permisiunile lor (un instrument care rezumă e-mailuri are nevoie doar să citească mesajele) și cere aprobare umană pentru acțiunile cu impact mare.
LLM04:2026 Supply Chain (lanțul de aprovizionare)
Riscuri în modelele, seturile de date și adaptoarele terțe, precum LoRA, în pipeline-urile de conversie și în pachete, inclusiv „slopsquatting”, prin care atacatorii înregistrează nume de pachete pe care asistenții de programare le halucinează. Control: fixează artefactele de model printr-un digest imuabil, nu printr-un tag modificabil, verifică semnăturile și asigură-te că dependențele sugerate de AI există înainte de a le instala.
LLM05:2026 Data and Model Poisoning (otrăvirea datelor și a modelelor)
Date sau artefacte de model manipulate care introduc backdoor-uri sau distorsiuni în timpul preantrenării, al fine-tuning-ului, al generării embedding-urilor sau al distribuției. Otrăvirea poate fi ieftină: Souly et al. (2025) au constatat că 250 de documente otrăvite au compromis modele de la 600 de milioane la 13 miliarde de parametri, indiferent de dimensiunea setului de date. Control: urmărește proveniența datelor și a modelelor, versionează seturile de date și tratează șabloanele de chat, configurațiile tokenizerului și adaptoarele ca pe un cod care trebuie semnat și verificat.
LLM06:2026 Unbounded Consumption (consumul nelimitat)
Inferență necontrolată care provoacă întreruperi, costuri scăpate de sub control („denial of wallet”) sau furtul modelului prin extragere. Modelele de raționament, intrările multimodale și buclele de instrumente ale agenților agravează problema. Control: plafoane stricte de cheltuieli care opresc inferența, plus circuit breakere pentru agenți, cu limite de pași, de recursivitate, de timp și de cost per rulare.
LLM07:2026 Misinformation (informațiile eronate)
Ieșiri incorecte sau nefondate care par suficient de credibile încât cineva să acționeze pe baza lor. În sistemele agentice, un răspuns greșit devine o acțiune greșită, de exemplu un agent care raportează că un backup a rulat, deși nu a rulat niciodată. Control: un tipar claim-check-act (afirmare, verificare, acțiune) care separă generarea de execuție și verifică afirmațiile și precondițiile înainte de a acționa.
LLM08:2026 Hidden Context Exposure (expunerea contextului ascuns)
Extragerea sau reconstituirea contextului ascuns: prompturi de sistem, instrucțiuni ale dezvoltatorului, textul politicilor regăsit și schemele instrumentelor. OWASP recomandă să pornești de la premisa că acest context ascuns poate fi descoperit. Control: nu include în el credențiale și secrete și aplică autorizarea în cod determinist, în afara modelului.
LLM09:2026 Vector and Embedding Weaknesses (punctele slabe ale vectorilor și ale embedding-urilor)
Atacuri asupra stratului de embedding-uri din spatele RAG, al memoriei agenților și al cache-urilor semantice. În cuvintele OWASP, „otrăvirea face sistemul să greșească, inversiunea îl face să scurgă date, bruiajul îl reduce la tăcere, iar eșecul controlului accesului îl face nediscriminatoriu”. Control: aplică separarea pe chiriași (tenant) chiar în interogarea indexului, nu ca filtru după regăsire, și păstrează conținutul cu niveluri diferite de încredere în indexuri separate.
LLM10:2026 Improper Output Handling (gestionarea necorespunzătoare a ieșirilor)
Transmiterea ieșirii modelului către sistemele din aval fără validare, ceea ce poate duce la XSS, injecție SQL, SSRF sau execuție de cod la distanță. Punctul acoperă acum și codul nesigur pe care asistenții îl generează la scară largă. Control: tratează ieșirea modelului ca pe o intrare de la utilizator: codific-o pentru contextul în care este folosită, utilizează interogări parametrizate și dezactivează afișarea automată a imaginilor Markdown și a previzualizărilor de linkuri.
Ce s-a schimbat față de ediția 2025
OWASP spune că ordinea „s-a schimbat mai mult decât în anii trecuți”. Principalele schimbări:
- Excessive Agency a urcat de pe locul al șaselea pe al treilea, ceea ce OWASP numește „mutarea cu cele mai mari consecințe din listă”.
- Unbounded Consumption a urcat patru poziții, iar Improper Output Handling a coborât cel mai mult, de pe locul al cincilea pe al zecelea.
- Prompt Injection și Sensitive Information Disclosure și-au păstrat primele două locuri.
- System Prompt Leakage a devenit Hidden Context Exposure, un punct mai larg.
- Punctele existente au absorbit riscurile mai noi, în loc să fie adăugate categorii noi: injecția cross-modală, artefactele de model care nu sunt ceea ce pretind că sunt, subminarea fine-tuning-ului și codul generat nesigur.
- Corespondențele cu alte cadre (NIST, MITRE ATLAS, CWE și altele) au fost mutate într-o singură anexă.
OWASP trasează și o graniță mai clară. Această listă acoperă modelul ca pe o componentă a aplicației tale. Odată ce modelul devine un actor, cu instrumente, memorie și consecințe în aval, OWASP recomandă să o folosești împreună cu OWASP Top 10 pentru aplicații agentice, pe care ghidul nostru despre cum să securizezi agenții AI îl explică pas cu pas.
Cum folosești lista în echipa ta
Sfatul OWASP este să „lucrezi la toate cele zece, începând de sus”. În practică:
- Parcurge cele zece puncte atunci când proiectezi sau revizuiești o funcționalitate LLM și notează unde este expusă.
- Transformă fiecare control într-un tichet cu un responsabil și retestează după remedieri.
- Etichetează constatările cu ID-urile punctelor, pentru ca dezvoltatorii, inginerii de securitate și product ownerii să folosească același vocabular.
- Testează doar sisteme care îți aparțin sau pe care ai permisiunea scrisă să le testezi și asigură-te că termenii furnizorului modelului tău permit testarea securității.
Proiectul final al cursului în ritm propriu Securitatea AI: protejarea aplicațiilor LLM și a agenților AI, „Atacați, remediați și retestați un agent AI”, se încheie cu un raport de securitate care asociază fiecare constatare cu listele OWASP.
Pașii următori
Începe cu punctul din vârful listei: ghidul nostru despre ce este injecția de prompt explică atacurile directe și indirecte și apărările pe mai multe niveluri. Dacă aplicația ta regăsește documente, acordă o atenție deosebită punctelor LLM02 și LLM09, care tratează permisiunile de regăsire și stratul de embedding-uri; Inginer AI: introducere în RAG și căutare este un curs înrudit, tot în ritm propriu.
O modalitate structurată de a-ți dezvolta aceste competențe este cursul Securitatea AI: protejarea aplicațiilor LLM și a agenților AI: în ritm propriu, de nivel intermediar și cu o durată de 40 de ore, pentru dezvoltatori, ingineri AI și specialiști în securitate care construiesc sau testează funcționalități AI.

Învață competențe tehnice online cu Code Labs Academy
Alătură-te comunității noastre, descoperă-ți potențialul și pornește pe o cale de carieră plină de satisfacții.
Aplică acum