Cum să securizezi agenții AI: OWASP Agentic Top 10, MCP și controale
Actualizat la November 19, 20269 minute de citit
Un agent AI, construit în jurul unui model lingvistic de mari dimensiuni (LLM), face mai mult decât să răspundă la întrebări. Planifică, apelează instrumente, citește și scrie date și uneori comunică cu alți agenți. Acest lucru mărește miza fiecărei slăbiciuni a modelului: o injecție de prompt care într-un chatbot ar produce doar un răspuns greșit poate face un agent să trimită e-mailuri, să modifice înregistrări sau să ruleze cod. Acest ghid prezintă OWASP Top 10 pentru aplicații agentice și controale practice, inclusiv securitatea Model Context Protocol (MCP).
De ce au nevoie agenții de un model de securitate propriu
NIST AI 100-2e2025 descrie un agent ca pe un software care „trimite iterativ prompturi unui model”, îi procesează ieșirile, de exemplu pentru a apela o funcție, și reintroduce rezultatele în promptul următor. OWASP Top 10 pentru aplicații LLM 2026 trasează granița exact aici: acoperă modelul ca pe o componentă, iar odată ce modelul acționează cu instrumente, memorie și consecințe în aval, OWASP trimite la lista sa dedicată agenților.
Această listă adaugă un principiu care merită adoptat înaintea tuturor: autonomia minimă (least agency). OWASP le recomandă organizațiilor „să evite autonomia inutilă”, deoarece introducerea unui comportament agentic acolo unde nu este necesar „extinde suprafața de atac fără să aducă valoare”.
OWASP Top 10 pentru aplicații agentice
OWASP GenAI Security Project a lansat OWASP Top 10 pentru aplicații agentice pe 9 decembrie 2025. Cele zece puncte ale sale:
- ASI01: Agent Goal Hijack (deturnarea obiectivelor agentului). Conținutul injectat redirecționează obiectivele sau planurile agentului.
- ASI02: Tool Misuse and Exploitation (utilizarea abuzivă și exploatarea instrumentelor). Agentul folosește instrumente legitime în moduri nesigure.
- ASI03: Identity and Privilege Abuse (abuzul de identitate și privilegii). Credențialele delegate sau moștenite sunt folosite abuziv.
- ASI04: Agentic Supply Chain Vulnerabilities (vulnerabilitățile lanțului de aprovizionare agentic). Instrumentele, serverele MCP, prompturile sau agenții sunt rău intenționați sau au fost modificați.
- ASI05: Unexpected Code Execution (RCE) (executarea neașteptată de cod). Cod generat sau injectat rulează pe sistemele tale.
- ASI06: Memory & Context Poisoning (otrăvirea memoriei și a contextului). Memoria stocată sau contextul regăsit sunt corupte.
- ASI07: Insecure Inter-Agent Communication (comunicarea nesigură între agenți). Mesajele dintre agenți sunt falsificate sau modificate.
- ASI08: Cascading Failures (eșecurile în cascadă). O singură defecțiune se propagă în mai mulți agenți și fluxuri de lucru.
- ASI09: Human-Agent Trust Exploitation (exploatarea încrederii dintre oameni și agenți). Oamenii au prea multă încredere într-un agent care pare sigur pe el.
- ASI10: Rogue Agents (agenții scăpați de sub control). Un agent se abate de la funcția sau de la domeniul prevăzut.
Acordă agenților privilegiul minim și credențiale cu domeniu restrâns
Punctul LLM01:2026 al OWASP observă că majoritatea incidentelor documentate de injecție de prompt cu impact mare au devenit grave pentru că modelul compromis putea acționa prin instrumente cu nivelul de privilegii al utilizatorului. ASI03 recomandă identități separate pentru fiecare agent și „tokenuri cu durată scurtă de viață și domeniu restrâns pentru fiecare sarcină”; ASI02, profiluri pentru fiecare instrument, cu domenii de acces, limite de rată și liste de permisiuni pentru traficul de ieșire. Rulează instrumentele în contextul propriu al utilizatorului, cu domeniul OAuth minim, nu printr-un cont partajat cu privilegii ridicate.
Invariant Labs a arătat de ce contează domeniul de acces: un issue GitHub rău intenționat putea deturna un agent conectat la serverul MCP al GitHub și putea expune date din repository-urile private ale utilizatorului. Cercetătorii au spus că „nu este o defecțiune a codului serverului MCP al GitHub în sine”, ci o problemă de arhitectură, și au sugerat limitarea fiecărei sesiuni la un singur repository.
O verificare rapidă de design este Agents Rule of Two a Meta: într-o sesiune, un agent nu ar trebui să combine mai mult de două dintre următoarele: procesarea unor intrări care nu sunt de încredere, accesarea unor sisteme sensibile sau a datelor private și modificarea stării sau comunicarea în exterior. Dacă are nevoie de toate cele trei, Meta spune că „nu ar trebui să i se permită să funcționeze autonom”.
Folosește liste de permisiuni și o verificare a politicilor în afara modelului
Decide în cod, nu în prompt, ce are voie să facă agentul. Include în liste de permisiuni instrumentele pentru fiecare sarcină, destinațiile de rețea pe care le poate accesa și comenzile pe care le poate rula fără să întrebe, și refuză tot restul. ASI02 descrie un punct de aplicare a politicilor care tratează ieșirea planificatorului ca nesigură și, înainte să ruleze un instrument, verifică intenția și argumentele, impune scheme și limite de rată și emite credențiale cu durată scurtă de viață.
Rulează într-un sandbox orice cod executat de agent
Dacă un agent scrie sau rulează cod, pornește de la ideea că o parte din el poate fi ostilă (ASI05). Sfatul OWASP: nu rula niciodată ca root, rulează codul în containere izolate (sandbox) cu limite stricte, inclusiv pentru accesul la rețea, și separă generarea codului de execuția lui prin etape de validare. Articolul Anthropic despre izolarea în sandbox a agentului său de programare adaugă că un sandboxing eficient necesită izolarea atât a sistemului de fișiere, cât și a rețelei, deoarece fără izolarea rețelei un agent compromis „ar putea exfiltra fișiere sensibile, cum ar fi cheile SSH”.
Cere acordul unui om înainte de acțiunile ireversibile
Cere aprobare înainte de orice acțiune greu de anulat sau vizibilă în afara sistemului: ștergerea datelor, transferul de bani, publicarea sau trimiterea de mesaje. ASI02 sugerează afișarea unei simulări (dry run) sau a unui diff al acțiunii înainte de aprobare. Păstrează solicitările suficient de rare încât să conteze: OWASP avertizează că oboseala de aprobare slăbește judecata, iar ASI09 descrie agenți care îi conving pe evaluatori să aprobe acțiuni dăunătoare.
Tratează serverele MCP și descrierile instrumentelor ca nesigure
MCP face ușoară conectarea instrumentelor la un agent, ceea ce transformă instrumentele într-un risc pentru lanțul de aprovizionare. Specificația MCP spune că clienții „TREBUIE să considere adnotările instrumentelor ca nesigure, cu excepția cazului în care provin de la servere de încredere” și că „AR TREBUI să existe întotdeauna un om în buclă, care să poată refuza invocările de instrumente”.
Invariant Labs descrie otrăvirea instrumentelor (tool poisoning) ca pe niște instrucțiuni din descrierile instrumentelor care „sunt invizibile pentru utilizatori, dar vizibile pentru modelele AI” și avertizează că un server poate modifica o descriere după ce ai aprobat-o. ASI04 al OWASP citează un server MCP rău intenționat de pe npm care se dădea drept o integrare de e-mail legitimă și copia în secret e-mailurile către atacator.
Pași practici:
- Instalează serverele MCP din surse în care ai încredere, fixează versiunile și verifică hash-urile.
- Verifică descrierile instrumentelor pentru instrucțiuni ascunse și reia verificarea atunci când se schimbă.
- Pentru serverele locale, afișează comanda exactă înainte de rulare și pornește-o cu privilegii minime într-un sandbox, așa cum recomandă bunele practici de securitate MCP.
- Nu transmite niciodată tokenurile mai departe: serverele MCP „NU TREBUIE să accepte niciun token care nu a fost emis în mod explicit pentru serverul MCP”.
- Începe cu domenii OAuth restrânse și adaugă altele doar atunci când o operațiune are nevoie de ele.
Modulul 4 al cursului în ritm propriu Securitatea AI: protejarea aplicațiilor LLM și a agenților AI tratează securizarea agenților AI, a instrumentelor și a serverelor MCP.
Păstrează curată memoria agentului
Memoria permite unui atac să persiste de la o sesiune la alta (ASI06). Validează ce se scrie în memorie, păstrează memoria separată pe utilizatori și pe sarcini, fă să expire intrările care nu au fost verificate și nu lăsa ieșirile agentului să ajungă automat înapoi în memoria de încredere. Punctul LLM01:2026 al OWASP adaugă: tratează scrierile în memorie ca operațiuni privilegiate și înregistrează promptul din spatele fiecăreia.
Înregistrează acțiunile agentului și păstrează o modalitate de a-l opri
Păstrează jurnale ale apelurilor de instrumente, ale aprobărilor și ale mesajelor dintre agenți în care orice modificare neautorizată poate fi detectată, ca să poți investiga și reveni la o stare anterioară (ASI08, ASI10). Asigură-te că poți opri rapid un agent: OWASP enumeră butoane de oprire de urgență (kill switch) și revocarea credențialelor pentru agenții scăpați de sub control, precum și circuit breakere cu limite de pași, de timp și de cost pentru rulările care o iau razna. Testează procedura de oprire înainte să ai nevoie de ea și fă red teaming agenților în mod regulat, doar pe sisteme care îți aparțin sau pe care ai permisiunea scrisă să le testezi, și asigură-te că termenii furnizorului modelului tău permit testarea securității.
Ce spun regulile UE (informații de context, nu consultanță juridică)
- Nu orice sistem AI este cu grad ridicat de risc conform Regulamentului UE privind inteligența artificială: în linii mari, sunt doar cele folosite într-un scop enumerat în anexa III (cu excepții) sau care sunt o componentă de siguranță a unui produs reglementat de legislația UE enumerată în anexa I (ori sunt ele însele un astfel de produs), atunci când produsul respectiv trebuie supus unei evaluări a conformității de către o terță parte.
- Pentru sistemele AI cu grad ridicat de risc, articolul 15 impune „un nivel adecvat de acuratețe, robustețe și securitate cibernetică”. Articolul 15 alineatul (5) adaugă reziliența la încercările unor terți neautorizați de a modifica utilizarea, rezultatele sau performanța unui sistem și enumeră, acolo unde este cazul, măsuri împotriva otrăvirii datelor, a otrăvirii modelelor, a exemplelor adversariale (eludarea modelului), precum și a atacurilor la adresa confidențialității sau a defectelor modelului.
- După Regulamentul (UE) 2026/1744, „Regulamentul omnibus în domeniul digital privind IA” (în vigoare din 27 iulie 2026), obligațiile pentru sistemele cu grad ridicat de risc se aplică de la 2 decembrie 2027 pentru sistemele din anexa III și de la 2 august 2028 pentru sistemele din produsele reglementate de anexa I.
- Unele reguli se aplică deja: în temeiul articolului 50, de la 2 august 2026, furnizorii de sisteme AI care interacționează direct cu oamenii trebuie să se asigure că aceștia sunt informați că interacționează cu un sistem AI, cu excepția cazului în care acest lucru este evident.
- Regulamentul privind reziliența cibernetică se aplică produselor cu elemente digitale, inclusiv software, introduse pe piața UE, așa că verifică dacă agentul tău este livrat ca un astfel de produs sau funcționează ca serviciu. A intrat în vigoare la 10 decembrie 2024. Obligațiile de raportare ale producătorilor privind vulnerabilitățile exploatate activ și incidentele grave se aplică de la 11 septembrie 2026, iar principalele obligații de la 11 decembrie 2027.
Dacă oricare dintre aceste reguli se aplică agentului tău este o întrebare pentru un consilier juridic.
Pașii următori
Dacă abia începi să construiești agenți, ghidul nostru despre cum să construiești un agent AI (în limba engleză) și cursul în ritm propriu AI Agentică: Introducere în Dezvoltarea Agenților acoperă noțiunile de bază.
O modalitate structurată de a-ți dezvolta aceste competențe este cursul Securitatea AI: protejarea aplicațiilor LLM și a agenților AI: în ritm propriu, de nivel intermediar și cu o durată de 40 de ore. Tratează securitatea lanțului de aprovizionare AI și regulile UE, iar proiectul său final îți cere să ataci, să remediezi și să retestezi un agent AI.

Învață competențe tehnice online cu Code Labs Academy
Alătură-te comunității noastre, descoperă-ți potențialul și pornește pe o cale de carieră plină de satisfacții.
Aplică acum