Saltar al contenido principal
Volver al blog

Cómo proteger agentes de IA: OWASP Top 10 agéntico, MCP y controles

Actualizado el November 19, 20269 min de lectura


Un agente de IA, construido en torno a un gran modelo de lenguaje (LLM), hace algo más que responder preguntas. Planifica, llama a herramientas, lee y escribe datos y, a veces, se comunica con otros agentes. Eso aumenta lo que está en juego con cada debilidad del modelo: una inyección de prompts que en un chatbot solo produciría una mala respuesta puede hacer que un agente envíe correos, modifique registros o ejecute código. Esta guía cubre el OWASP Top 10 para aplicaciones agénticas y controles prácticos, incluida la seguridad del Model Context Protocol (MCP).

Por qué los agentes necesitan su propio modelo de seguridad

NIST AI 100-2e2025 describe un agente como un software que «envía prompts a un modelo de forma iterativa», procesa sus salidas, por ejemplo para llamar a una función, y devuelve los resultados en el siguiente prompt. El OWASP Top 10 para aplicaciones de LLM 2026 traza ahí el límite: cubre el modelo como componente y, en cuanto el modelo actúa con herramientas, memoria y consecuencias en otros sistemas, OWASP remite a su lista agéntica.

Esa lista añade un principio que conviene adoptar primero: la mínima agencia. OWASP aconseja a las organizaciones «evitar la autonomía innecesaria», porque desplegar comportamiento agéntico donde no hace falta «amplía la superficie de ataque sin aportar valor».

El OWASP Top 10 para aplicaciones agénticas

El OWASP GenAI Security Project publicó el OWASP Top 10 para aplicaciones agénticas el 9 de diciembre de 2025. Estas son sus diez categorías:

  • ASI01: Agent Goal Hijack (secuestro de objetivos del agente). Un contenido inyectado redirige los objetivos o los planes del agente.
  • ASI02: Tool Misuse and Exploitation (uso indebido y explotación de herramientas). El agente usa herramientas legítimas de forma insegura.
  • ASI03: Identity and Privilege Abuse (abuso de identidad y privilegios). Se abusa de credenciales delegadas o heredadas.
  • ASI04: Agentic Supply Chain Vulnerabilities (vulnerabilidades de la cadena de suministro agéntica). Herramientas, servidores MCP, prompts o agentes son maliciosos o han sido manipulados.
  • ASI05: Unexpected Code Execution (RCE) (ejecución inesperada de código). Código generado o inyectado se ejecuta en tus sistemas.
  • ASI06: Memory & Context Poisoning (envenenamiento de memoria y contexto). La memoria almacenada o el contexto recuperado se corrompen.
  • ASI07: Insecure Inter-Agent Communication (comunicación insegura entre agentes). Los mensajes entre agentes se suplantan o se alteran.
  • ASI08: Cascading Failures (fallos en cascada). Un único fallo se propaga entre agentes y flujos de trabajo.
  • ASI09: Human-Agent Trust Exploitation (explotación de la confianza entre humanos y agentes). Las personas confían en exceso en un agente que se muestra seguro de sí mismo.
  • ASI10: Rogue Agents (agentes descontrolados). Un agente se desvía de la función o del ámbito previstos.

Da a los agentes el mínimo privilegio y credenciales de ámbito limitado

La categoría LLM01:2026 de OWASP señala que la mayoría de los incidentes de inyección de prompts de alto impacto registrados se agravaron porque el modelo comprometido podía actuar a través de herramientas con el nivel de privilegio del usuario. ASI03 recomienda identidades por agente y «tokens de corta duración y ámbito reducido para cada tarea»; ASI02, perfiles por herramienta con ámbitos, límites de frecuencia y listas de permitidos para el tráfico de salida. Ejecuta las herramientas en el contexto del propio usuario y con el ámbito de OAuth mínimo, no mediante una cuenta compartida con privilegios elevados.

Invariant Labs demostró por qué importa el ámbito: un issue malicioso de GitHub podía secuestrar un agente conectado al servidor MCP de GitHub y exponer datos de los repositorios privados del usuario. Señalaron que «no es un fallo del código del propio servidor MCP de GitHub», sino un problema de arquitectura, y sugirieron limitar cada sesión a un solo repositorio.

Una comprobación rápida de diseño es la regla de dos para agentes (Agents Rule of Two) de Meta: en una misma sesión, un agente no debería combinar más de dos de estas tres capacidades, que son procesar entradas no confiables, acceder a sistemas sensibles o a datos privados, y cambiar el estado o comunicarse con el exterior. Si necesita las tres, Meta afirma que «no debería permitírsele operar de forma autónoma».

Usa listas de permitidos y una comprobación de políticas fuera del modelo

Decide en el código, no en el prompt, qué puede hacer el agente. Define listas de permitidos para las herramientas de cada tarea, los destinos de red a los que puede acceder y los comandos que puede ejecutar sin preguntar, y deniega todo lo demás. ASI02 describe un punto de aplicación de políticas que trata la salida del planificador como no confiable y que, antes de que se ejecute una herramienta, comprueba la intención y los argumentos, aplica esquemas y límites de frecuencia, y emite credenciales de corta duración.

Aísla en un sandbox cualquier código que ejecute el agente

Si un agente escribe o ejecuta código, cuenta con que parte de él será hostil (ASI05). El consejo de OWASP: no ejecutar nunca como root, ejecutar el código en contenedores aislados con límites estrictos, también en el acceso a la red, y separar la generación de código de su ejecución con puntos de validación. El artículo de Anthropic sobre el sandboxing de su agente de programación añade que un sandboxing eficaz necesita aislar tanto el sistema de archivos como la red, ya que, sin aislamiento de red, un agente comprometido «podría exfiltrar archivos sensibles como claves SSH».

Pide aprobación a una persona antes de acciones irreversibles

Exige aprobación antes de cualquier acción difícil de deshacer o visible fuera del sistema: borrar datos, transferir dinero, publicar o enviar mensajes. ASI02 sugiere mostrar una simulación (dry run) o un diff de la acción antes de aprobarla. Haz que las solicitudes sean lo bastante poco frecuentes como para que importen: OWASP advierte de que la fatiga de aprobación debilita el criterio, y ASI09 describe agentes que convencen a los revisores para que aprueben acciones dañinas.

Trata los servidores MCP y las descripciones de herramientas como no confiables

MCP facilita conectar herramientas a un agente, lo que convierte las herramientas en un riesgo de la cadena de suministro. La especificación de MCP establece que los clientes «DEBEN considerar no confiables las anotaciones de herramientas, salvo que procedan de servidores de confianza» y que «DEBERÍA haber siempre una persona en el circuito con capacidad para denegar invocaciones de herramientas».

Invariant Labs describe el envenenamiento de herramientas (tool poisoning) como instrucciones en las descripciones de herramientas que «son invisibles para los usuarios pero visibles para los modelos de IA», y advierte de que un servidor puede cambiar una descripción después de que la hayas aprobado. La categoría ASI04 de OWASP cita un servidor MCP malicioso publicado en npm que suplantaba una integración de correo legítima y enviaba en secreto copias de los correos al atacante.

Pasos prácticos:

  • Instala servidores MCP desde fuentes de confianza, fija las versiones y verifica los hashes.
  • Revisa las descripciones de las herramientas en busca de instrucciones ocultas, y vuelve a hacerlo cuando cambien.
  • En los servidores locales, muestra el comando exacto antes de que se ejecute y lánzalo con privilegios mínimos en un sandbox, como recomiendan las buenas prácticas de seguridad de MCP.
  • No reenvíes nunca tokens: los servidores MCP «NO DEBEN aceptar ningún token que no se haya emitido explícitamente para el servidor MCP».
  • Empieza con ámbitos de OAuth reducidos y añade más solo cuando una operación los necesite.

El módulo 4 del curso a tu ritmo Seguridad de la IA: protección de aplicaciones de LLM y agentes de IA trata la protección de agentes de IA, herramientas y servidores MCP.

Mantén limpia la memoria del agente

La memoria permite que un ataque persista entre sesiones (ASI06). Valida lo que se escribe en la memoria, separa la memoria por usuario y por tarea, haz que caduquen las entradas no verificadas y no dejes que las propias salidas del agente vuelvan automáticamente a la memoria de confianza. La categoría LLM01:2026 de OWASP añade: trata las escrituras en memoria como operaciones privilegiadas y registra el prompt que originó cada una.

Registra las acciones del agente y conserva una forma de detenerlo

Guarda las llamadas a herramientas, las aprobaciones y los mensajes entre agentes en registros en los que cualquier manipulación sea detectable, para poder investigar y revertir cambios (ASI08, ASI10). Asegúrate de que puedes detener un agente rápidamente: OWASP menciona interruptores de emergencia (kill switches) y la revocación de credenciales para los agentes descontrolados, y circuit breakers con límites de pasos, de tiempo y de coste para las ejecuciones desbocadas. Prueba el mecanismo de parada antes de necesitarlo y haz red teaming a tus agentes con regularidad, solo en sistemas que sean tuyos o que tengas permiso por escrito para probar, y comprueba que las condiciones de tu proveedor del modelo permiten las pruebas de seguridad.

Qué dicen las normas de la UE (contexto, no asesoramiento jurídico)

  • No todos los sistemas de IA son de alto riesgo según el Reglamento de Inteligencia Artificial de la UE: en líneas generales, solo lo son los que se usan para una finalidad enumerada en el anexo III (con excepciones), o que son un componente de seguridad de un producto cubierto por la legislación de la UE enumerada en el anexo I (o son ellos mismos uno de esos productos) cuando ese producto debe someterse a una evaluación de la conformidad de terceros.
  • Para los sistemas de IA de alto riesgo, el artículo 15 exige «un nivel adecuado de precisión, solidez y ciberseguridad». El artículo 15, apartado 5, añade la resistencia a los intentos de terceros no autorizados de alterar el uso, los resultados de salida o el funcionamiento de un sistema, y enumera, cuando proceda, medidas contra el envenenamiento de datos, el envenenamiento de modelos, los ejemplos adversarios (evasión de modelos) y los ataques a la confidencialidad o los defectos del modelo.
  • Tras el Reglamento (UE) 2026/1744, el «Ómnibus digital sobre IA» (en vigor desde el 27 de julio de 2026), las obligaciones de alto riesgo se aplican a partir del 2 de diciembre de 2027 para los sistemas del anexo III y a partir del 2 de agosto de 2028 para los sistemas integrados en productos del anexo I.
  • Algunas normas ya se aplican: en virtud del artículo 50, desde el 2 de agosto de 2026, los proveedores de sistemas de IA que interactúan directamente con personas deben garantizar que se informe a esas personas de que están tratando con una IA, salvo que resulte evidente.
  • El Reglamento de Ciberresiliencia se aplica a los productos con elementos digitales, incluido el software, que se introducen en el mercado de la UE, así que comprueba si tu agente se distribuye como uno de esos productos o funciona como un servicio. Entró en vigor el 10 de diciembre de 2024. Las obligaciones de notificación de los fabricantes sobre vulnerabilidades explotadas activamente e incidentes graves se aplican desde el 11 de septiembre de 2026, y las obligaciones principales, a partir del 11 de diciembre de 2027.

Si algo de esto se aplica a tu agente es una cuestión que debe valorar un asesor jurídico.

Siguientes pasos

Si estás empezando a crear agentes, nuestra guía sobre cómo crear un agente de IA (en inglés) y el curso a tu ritmo IA Agéntica: Introducción al Desarrollo de Agentes cubren los fundamentos.

Una forma estructurada de desarrollar estas habilidades es el curso Seguridad de la IA: protección de aplicaciones de LLM y agentes de IA: a tu ritmo, de nivel intermedio y de 40 horas. Cubre la seguridad de la cadena de suministro de la IA y la normativa de la UE, y su proyecto final te pide atacar, corregir y volver a probar un agente de IA.

Aprende habilidades tecnológicas online con Code Labs Academy

Aprende habilidades tecnológicas online con Code Labs Academy

Únete a una comunidad que te apoya, desbloquea tu potencial y da impulso a tu carrera.

Solicita plaza

Preguntas frecuentes

¿Qué es el OWASP Top 10 para aplicaciones agénticas?

Es una lista de los diez riesgos de seguridad de mayor impacto para los agentes de IA, publicada por el OWASP GenAI Security Project en diciembre de 2025. Sus categorías van de ASI01 Agent Goal Hijack a ASI10 Rogue Agents, cada una con ejemplos y mitigaciones.

¿Qué significa la mínima agencia en los agentes de IA?

La mínima agencia (least agency) es la extensión que hace OWASP del principio de mínimo privilegio: dar a un agente solo la autonomía que necesita su tarea. Un comportamiento agéntico innecesario amplía la superficie de ataque sin aportar valor.

¿Es seguro usar servidores MCP?

Trátalos como cualquier código de terceros, porque las herramientas de un servidor y sus descripciones pueden contener instrucciones ocultas. Instálalos desde fuentes de confianza, fija y verifica las versiones, revisa las descripciones de las herramientas, ejecuta los servidores locales en un sandbox y asegúrate de que una persona pueda denegar las llamadas a herramientas.

¿Debe un agente de IA pedir aprobación antes de cada acción?

No. Pide la aprobación de una persona antes de acciones de alto impacto o irreversibles, como borrar datos, transferir dinero o enviar mensajes, y deja que se ejecuten las acciones reversibles y de bajo riesgo. Demasiadas solicitudes provocan fatiga de aprobación, que debilita la revisión.

¿Todos los agentes de IA son de alto riesgo según el Reglamento de Inteligencia Artificial de la UE?

No. En líneas generales, solo son de alto riesgo los sistemas de IA que se usan para una finalidad enumerada en el anexo III del Reglamento (con excepciones), o que son un componente de seguridad de un producto cubierto por la legislación de la UE del anexo I (o son ellos mismos uno de esos productos) cuando ese producto debe someterse a una evaluación de la conformidad de terceros. Si un agente concreto encaja en alguno de esos casos es una cuestión que debe valorar un asesor jurídico.

Servicios de carrera

Acompañamiento profesional personalizado para impulsar tu carrera en tecnología. Incluye revisión de CV, entrevistas simuladas y perspectivas del sector para que puedas mostrar tus nuevas habilidades con confianza.

Explorar