Com protegir agents d'IA: OWASP Top 10 agèntic, MCP i controls clau
Actualitzat a November 19, 20269 minuts de lectura
Un agent d'IA, construït al voltant d'un gran model de llenguatge (LLM), fa més coses que respondre preguntes. Planifica, crida eines, llegeix i escriu dades i, de vegades, es comunica amb altres agents. Això fa que cada feblesa del model tingui més conseqüències: una injecció de prompts que en un xatbot només produiria una mala resposta pot fer que un agent enviï correus, modifiqui registres o executi codi. Aquesta guia tracta l'OWASP Top 10 per a aplicacions agèntiques i controls pràctics, inclosa la seguretat del Model Context Protocol (MCP).
Per què els agents necessiten el seu propi model de seguretat
NIST AI 100-2e2025 descriu un agent com un software que «envia prompts a un model de manera iterativa», en processa les sortides, per exemple per cridar una funció, i en torna els resultats al prompt següent. L'OWASP Top 10 per a aplicacions d'LLM 2026 hi traça el límit: cobreix el model com a component i, quan el model actua amb eines, memòria i conseqüències en altres sistemes, l'OWASP remet a la seva llista agèntica.
Aquesta llista afegeix un principi que val la pena adoptar primer: la mínima agència. L'OWASP aconsella a les organitzacions «evitar l'autonomia innecessària», perquè desplegar un comportament agèntic on no cal «amplia la superfície d'atac sense aportar valor».
L'OWASP Top 10 per a aplicacions agèntiques
L'OWASP GenAI Security Project va publicar l'OWASP Top 10 per a aplicacions agèntiques el 9 de desembre de 2025. Aquestes són les seves deu categories:
- ASI01: Agent Goal Hijack (segrest d'objectius de l'agent). Un contingut injectat redirigeix els objectius o els plans de l'agent.
- ASI02: Tool Misuse and Exploitation (ús indegut i explotació d'eines). L'agent fa servir eines legítimes de manera insegura.
- ASI03: Identity and Privilege Abuse (abús d'identitat i de privilegis). S'abusa de credencials delegades o heretades.
- ASI04: Agentic Supply Chain Vulnerabilities (vulnerabilitats de la cadena de subministrament agèntica). Eines, servidors MCP, prompts o agents són maliciosos o han estat manipulats.
- ASI05: Unexpected Code Execution (RCE) (execució inesperada de codi). Codi generat o injectat s'executa als teus sistemes.
- ASI06: Memory & Context Poisoning (enverinament de la memòria i del context). La memòria emmagatzemada o el context recuperat es corrompen.
- ASI07: Insecure Inter-Agent Communication (comunicació insegura entre agents). Els missatges entre agents se suplanten o s'alteren.
- ASI08: Cascading Failures (fallades en cascada). Una sola fallada es propaga entre agents i fluxos de treball.
- ASI09: Human-Agent Trust Exploitation (explotació de la confiança entre humans i agents). Les persones confien massa en un agent que es mostra segur de si mateix.
- ASI10: Rogue Agents (agents descontrolats). Un agent es desvia de la funció o de l'àmbit previstos.
Dona als agents el mínim privilegi i credencials d'àmbit limitat
La categoria LLM01:2026 de l'OWASP assenyala que la majoria dels incidents d'injecció de prompts d'alt impacte registrats es van agreujar perquè el model compromès podia actuar a través d'eines amb el nivell de privilegi de l'usuari. ASI03 recomana identitats per agent i «tokens de curta durada i d'àmbit reduït per a cada tasca»; ASI02, perfils per eina amb àmbits, límits de freqüència i llistes de permesos per al trànsit de sortida. Executa les eines en el context del mateix usuari i amb l'àmbit d'OAuth mínim, no a través d'un compte compartit amb privilegis elevats.
Invariant Labs va demostrar per què importa l'àmbit: un issue maliciós de GitHub podia segrestar un agent connectat al servidor MCP de GitHub i exposar dades dels repositoris privats de l'usuari. Van assenyalar que «no és un error del codi del mateix servidor MCP de GitHub», sinó un problema d'arquitectura, i van suggerir limitar cada sessió a un sol repositori.
Una comprovació ràpida de disseny és la regla de dos per a agents (Agents Rule of Two) de Meta: en una mateixa sessió, un agent no hauria de combinar més de dues d'aquestes tres capacitats, que són processar entrades no fiables, accedir a sistemes sensibles o a dades privades, i canviar l'estat o comunicar-se amb l'exterior. Si les necessita totes tres, Meta afirma que «no se li hauria de permetre funcionar de manera autònoma».
Fes servir llistes de permesos i una comprovació de polítiques fora del model
Decideix al codi, no al prompt, què pot fer l'agent. Defineix llistes de permesos per a les eines de cada tasca, les destinacions de xarxa a què pot accedir i les ordres que pot executar sense preguntar, i denega tota la resta. ASI02 descriu un punt d'aplicació de polítiques que tracta la sortida del planificador com a no fiable i que, abans que s'executi una eina, comprova la intenció i els arguments, aplica esquemes i límits de freqüència, i emet credencials de curta durada.
Aïlla en un sandbox qualsevol codi que executi l'agent
Si un agent escriu o executa codi, compta que una part en serà hostil (ASI05). El consell de l'OWASP: no executar mai com a root, executar el codi en contenidors aïllats amb límits estrictes, també en l'accés a la xarxa, i separar la generació de codi de la seva execució amb punts de validació. L'article d'Anthropic sobre el sandboxing del seu agent de programació afegeix que un sandboxing eficaç necessita aïllar tant el sistema de fitxers com la xarxa, ja que, sense aïllament de xarxa, un agent compromès «podria exfiltrar fitxers sensibles com ara claus SSH».
Demana aprovació a una persona abans de les accions irreversibles
Exigeix aprovació abans de qualsevol acció difícil de desfer o visible fora del sistema: esborrar dades, transferir diners, publicar o enviar missatges. ASI02 suggereix mostrar una simulació (dry run) o un diff de l'acció abans d'aprovar-la. Fes que les sol·licituds siguin prou poc freqüents perquè comptin: l'OWASP adverteix que la fatiga d'aprovació debilita el criteri, i ASI09 descriu agents que convencen els revisors perquè aprovin accions perjudicials.
Tracta els servidors MCP i les descripcions d'eines com a no fiables
MCP facilita connectar eines a un agent, cosa que converteix les eines en un risc de la cadena de subministrament. L'especificació de MCP estableix que els clients «HAN DE considerar no fiables les anotacions d'eines, tret que provinguin de servidors de confiança» i que «HI HAURIA D'HAVER sempre una persona al circuit amb capacitat per denegar invocacions d'eines».
Invariant Labs descriu l'enverinament d'eines (tool poisoning) com a instruccions a les descripcions d'eines que «són invisibles per als usuaris però visibles per als models d'IA», i adverteix que un servidor pot canviar una descripció després que l'hagis aprovada. La categoria ASI04 de l'OWASP cita un servidor MCP maliciós publicat a npm que suplantava una integració de correu legítima i enviava en secret còpies dels correus a l'atacant.
Passos pràctics:
- Instal·la servidors MCP des de fonts de confiança, fixa les versions i verifica els hashes.
- Revisa les descripcions de les eines per detectar instruccions amagades, i torna-ho a fer quan canviïn.
- Per als servidors locals, mostra l'ordre exacta abans que s'executi i llança-la amb privilegis mínims en un sandbox, tal com recomanen les bones pràctiques de seguretat de MCP.
- No reenviïs mai tokens: els servidors MCP «NO HAN D'acceptar cap token que no s'hagi emès explícitament per al servidor MCP».
- Comença amb àmbits d'OAuth reduïts i afegeix-ne més només quan una operació els necessiti.
El mòdul 4 del curs al teu ritme Seguretat de la IA: protecció d'aplicacions d'LLM i agents d'IA tracta la protecció d'agents d'IA, eines i servidors MCP.
Mantén neta la memòria de l'agent
La memòria permet que un atac persisteixi entre sessions (ASI06). Valida el que s'escriu a la memòria, separa la memòria per usuari i per tasca, fes que caduquin les entrades no verificades i no deixis que les sortides del mateix agent tornin automàticament a la memòria de confiança. La categoria LLM01:2026 de l'OWASP hi afegeix: tracta les escriptures a la memòria com a operacions privilegiades i registra el prompt que ha originat cadascuna.
Registra les accions de l'agent i conserva una manera d'aturar-lo
Desa les crides a eines, les aprovacions i els missatges entre agents en registres en què qualsevol manipulació sigui detectable, per poder investigar i revertir canvis (ASI08, ASI10). Assegura't que pots aturar un agent ràpidament: l'OWASP esmenta interruptors d'emergència (kill switches) i la revocació de credencials per als agents descontrolats, i circuit breakers amb límits de passos, de temps i de cost per a les execucions desbocades. Prova el mecanisme d'aturada abans de necessitar-lo i fes red teaming als teus agents regularment, només en sistemes que siguin teus o que tinguis permís per escrit per provar, i comprova que les condicions del teu proveïdor del model permeten les proves de seguretat.
Què diuen les normes de la UE (context, no assessorament jurídic)
- No tots els sistemes d'IA són d'alt risc segons el Reglament d'intel·ligència artificial de la UE: en línies generals, només ho són els que s'utilitzen per a una finalitat enumerada a l'annex III (amb excepcions), o que són un component de seguretat d'un producte cobert per la legislació de la UE enumerada a l'annex I (o són ells mateixos un d'aquests productes) quan aquest producte s'ha de sotmetre a una avaluació de la conformitat per part de tercers.
- Per als sistemes d'IA d'alt risc, l'article 15 exigeix «un nivell adequat de precisió, robustesa i ciberseguretat». L'article 15, apartat 5, hi afegeix la resiliència davant dels intents de tercers no autoritzats d'alterar l'ús, els resultats o el rendiment d'un sistema, i enumera, quan escaigui, mesures contra l'enverinament de dades, l'enverinament de models, els exemples adversaris (evasió del model) i els atacs a la confidencialitat o els defectes del model.
- Després del Reglament (UE) 2026/1744, l'«Òmnibus digital sobre IA» (en vigor des del 27 de juliol de 2026), les obligacions d'alt risc s'apliquen a partir del 2 de desembre de 2027 per als sistemes de l'annex III i a partir del 2 d'agost de 2028 per als sistemes integrats en productes de l'annex I.
- Algunes normes ja s'apliquen: d'acord amb l'article 50, des del 2 d'agost de 2026, els proveïdors de sistemes d'IA que interactuen directament amb persones han de garantir que se les informi que estan tractant amb una IA, tret que sigui evident.
- El Reglament de ciberresiliència s'aplica als productes amb elements digitals, inclòs el software, que es comercialitzen al mercat de la UE, així que comprova si el teu agent es distribueix com un d'aquests productes o funciona com un servei. Va entrar en vigor el 10 de desembre de 2024. Les obligacions de notificació dels fabricants sobre vulnerabilitats explotades activament i incidents greus s'apliquen des de l'11 de setembre de 2026, i les obligacions principals, a partir de l'11 de desembre de 2027.
Si res d'això s'aplica al teu agent és una qüestió que ha de valorar un assessor jurídic.
Següents passos
Si comences a crear agents, la nostra guia sobre com crear un agent d'IA (en anglès) i el curs al teu ritme IA Agèntica: Introducció al Desenvolupament d'Agents en cobreixen els fonaments.
Una manera estructurada de desenvolupar aquestes habilitats és el curs Seguretat de la IA: protecció d'aplicacions d'LLM i agents d'IA: al teu ritme, de nivell intermedi i de 40 hores. Tracta la seguretat de la cadena de subministrament de la IA i la normativa de la UE, i el seu projecte final et demana atacar, corregir i tornar a provar un agent d'IA.

Apreneu habilitats tècniques en línia amb Code Labs Academy
Uniu-vos a la nostra comunitat de suport, desbloquegeu el vostre potencial i emprengueu una trajectòria professional gratificant.
Sol·liciteu ara