Saltar ao contido principal
Volver ao blog

Como protexer axentes de IA: OWASP Top 10 axéntico, MCP e controis

Actualizado en November 19, 20269 Minutos lidos


Un axente de IA, construído arredor dun gran modelo de linguaxe (LLM), fai algo máis que responder preguntas. Planifica, chama ferramentas, le e escribe datos e, ás veces, comunícase con outros axentes. Iso aumenta o que está en xogo con cada debilidade do modelo: unha inxección de prompts que nun chatbot só produciría unha mala resposta pode facer que un axente envíe correos, modifique rexistros ou execute código. Esta guía trata o OWASP Top 10 para aplicacións axénticas e controis prácticos, incluída a seguridade do Model Context Protocol (MCP).

Por que os axentes necesitan o seu propio modelo de seguridade

NIST AI 100-2e2025 describe un axente como un software que «envía prompts a un modelo de forma iterativa», procesa as súas saídas, por exemplo para chamar unha función, e devolve os resultados no seguinte prompt. O OWASP Top 10 para aplicacións de LLM 2026 traza aí o límite: cobre o modelo como compoñente e, en canto o modelo actúa con ferramentas, memoria e consecuencias noutros sistemas, OWASP remite á súa lista axéntica.

Esa lista engade un principio que convén adoptar primeiro: a mínima axencia. OWASP aconsella ás organizacións «evitar a autonomía innecesaria», porque despregar comportamento axéntico onde non fai falta «amplía a superficie de ataque sen achegar valor».

O OWASP Top 10 para aplicacións axénticas

O OWASP GenAI Security Project publicou o OWASP Top 10 para aplicacións axénticas o 9 de decembro de 2025. Estas son as súas dez categorías:

  • ASI01: Agent Goal Hijack (secuestro de obxectivos do axente). Un contido inxectado redirixe os obxectivos ou os plans do axente.
  • ASI02: Tool Misuse and Exploitation (uso indebido e explotación de ferramentas). O axente usa ferramentas lexítimas de forma insegura.
  • ASI03: Identity and Privilege Abuse (abuso de identidade e privilexios). Abúsase de credenciais delegadas ou herdadas.
  • ASI04: Agentic Supply Chain Vulnerabilities (vulnerabilidades da cadea de subministración axéntica). Ferramentas, servidores MCP, prompts ou axentes son maliciosos ou foron manipulados.
  • ASI05: Unexpected Code Execution (RCE) (execución inesperada de código). Código xerado ou inxectado execútase nos teus sistemas.
  • ASI06: Memory & Context Poisoning (envelenamento da memoria e do contexto). A memoria almacenada ou o contexto recuperado corrómpense.
  • ASI07: Insecure Inter-Agent Communication (comunicación insegura entre axentes). As mensaxes entre axentes suplántanse ou altéranse.
  • ASI08: Cascading Failures (fallos en cascada). Un único fallo propágase entre axentes e fluxos de traballo.
  • ASI09: Human-Agent Trust Exploitation (explotación da confianza entre humanos e axentes). As persoas confían en exceso nun axente que se mostra seguro de si mesmo.
  • ASI10: Rogue Agents (axentes descontrolados). Un axente desvíase da función ou do ámbito previstos.

Dálles aos axentes o mínimo privilexio e credenciais de ámbito limitado

A categoría LLM01:2026 de OWASP sinala que a maioría dos incidentes de inxección de prompts de alto impacto rexistrados se agravaron porque o modelo comprometido podía actuar a través de ferramentas co nivel de privilexio do usuario. ASI03 recomenda identidades por axente e «tokens de curta duración e ámbito reducido para cada tarefa»; ASI02, perfís por ferramenta con ámbitos, límites de frecuencia e listas de permitidos para o tráfico de saída. Executa as ferramentas no contexto do propio usuario e co ámbito de OAuth mínimo, non mediante unha conta compartida con privilexios elevados.

Invariant Labs demostrou por que importa o ámbito: unha issue maliciosa de GitHub podía secuestrar un axente conectado ao servidor MCP de GitHub e expoñer datos dos repositorios privados do usuario. Sinalaron que «non é un fallo do código do propio servidor MCP de GitHub», senón un problema de arquitectura, e suxeriron limitar cada sesión a un só repositorio.

Unha comprobación rápida de deseño é a regra de dous para axentes (Agents Rule of Two) de Meta: nunha mesma sesión, un axente non debería combinar máis de dúas destas tres capacidades, que son procesar entradas non fiables, acceder a sistemas sensibles ou a datos privados, e cambiar o estado ou comunicarse co exterior. Se necesita as tres, Meta afirma que «non se lle debería permitir operar de forma autónoma».

Usa listas de permitidos e unha comprobación de políticas fóra do modelo

Decide no código, non no prompt, que pode facer o axente. Define listas de permitidos para as ferramentas de cada tarefa, os destinos de rede aos que pode acceder e os comandos que pode executar sen preguntar, e denega todo o demais. ASI02 describe un punto de aplicación de políticas que trata a saída do planificador como non fiable e que, antes de que se execute unha ferramenta, comproba a intención e os argumentos, aplica esquemas e límites de frecuencia, e emite credenciais de curta duración.

Illa nun sandbox calquera código que execute o axente

Se un axente escribe ou executa código, conta con que parte del será hostil (ASI05). O consello de OWASP: non executar nunca como root, executar o código en contedores illados con límites estritos, tamén no acceso á rede, e separar a xeración de código da súa execución con puntos de validación. O artigo de Anthropic sobre o sandboxing do seu axente de programación engade que un sandboxing eficaz necesita illar tanto o sistema de ficheiros como a rede, xa que, sen illamento de rede, un axente comprometido «podería exfiltrar ficheiros sensibles como claves SSH».

Pídelle aprobación a unha persoa antes das accións irreversibles

Esixe aprobación antes de calquera acción difícil de desfacer ou visible fóra do sistema: borrar datos, transferir diñeiro, publicar ou enviar mensaxes. ASI02 suxire mostrar unha simulación (dry run) ou un diff da acción antes de aprobala. Fai que as solicitudes sexan o bastante pouco frecuentes como para que importen: OWASP advirte de que a fatiga de aprobación debilita o criterio, e ASI09 describe axentes que convencen os revisores para que aproben accións daniñas.

Trata os servidores MCP e as descricións de ferramentas como non fiables

MCP facilita conectar ferramentas a un axente, o que converte as ferramentas nun risco da cadea de subministración. A especificación de MCP establece que os clientes «DEBEN considerar non fiables as anotacións de ferramentas, salvo que procedan de servidores de confianza» e que «DEBERÍA haber sempre unha persoa no circuíto con capacidade para denegar invocacións de ferramentas».

Invariant Labs describe o envelenamento de ferramentas (tool poisoning) como instrucións nas descricións de ferramentas que «son invisibles para os usuarios pero visibles para os modelos de IA», e advirte de que un servidor pode cambiar unha descrición despois de que a aprobases. A categoría ASI04 de OWASP cita un servidor MCP malicioso publicado en npm que suplantaba unha integración de correo lexítima e enviaba en segredo copias dos correos ao atacante.

Pasos prácticos:

  • Instala servidores MCP desde fontes de confianza, fixa as versións e verifica os hashes.
  • Revisa as descricións das ferramentas en busca de instrucións ocultas, e volve facelo cando cambien.
  • Nos servidores locais, mostra o comando exacto antes de que se execute e lánzao con privilexios mínimos nun sandbox, como recomendan as boas prácticas de seguridade de MCP.
  • Non reenvíes nunca tokens: os servidores MCP «NON DEBEN aceptar ningún token que non se emitise explicitamente para o servidor MCP».
  • Comeza con ámbitos de OAuth reducidos e engade máis só cando unha operación os necesite.

O módulo 4 do curso ao teu ritmo Seguridade da IA: protección de aplicacións de LLM e axentes de IA trata a protección de axentes de IA, ferramentas e servidores MCP.

Mantén limpa a memoria do axente

A memoria permite que un ataque persista entre sesións (ASI06). Valida o que se escribe na memoria, separa a memoria por usuario e por tarefa, fai que caduquen as entradas non verificadas e non deixes que as propias saídas do axente volvan automaticamente á memoria de confianza. A categoría LLM01:2026 de OWASP engade: trata as escrituras na memoria como operacións privilexiadas e rexistra o prompt que orixinou cada unha.

Rexistra as accións do axente e conserva un xeito de detelo

Garda as chamadas a ferramentas, as aprobacións e as mensaxes entre axentes en rexistros nos que calquera manipulación sexa detectable, para poder investigar e reverter cambios (ASI08, ASI10). Asegúrate de que podes deter un axente rapidamente: OWASP menciona interruptores de emerxencia (kill switches) e a revogación de credenciais para os axentes descontrolados, e circuit breakers con límites de pasos, de tempo e de custo para as execucións desbocadas. Proba o mecanismo de parada antes de necesitalo e fai red teaming aos teus axentes con regularidade, só en sistemas que sexan teus ou que teñas permiso por escrito para probar, e comproba que as condicións do teu provedor do modelo permiten as probas de seguridade.

Que din as normas da UE (contexto, non asesoramento xurídico)

  • Non todos os sistemas de IA son de alto risco segundo o Regulamento de intelixencia artificial da UE: en liñas xerais, só o son os que se usan para unha finalidade enumerada no anexo III (con excepcións), ou que son un compoñente de seguridade dun produto cuberto pola lexislación da UE enumerada no anexo I (ou son eles mesmos un deses produtos) cando ese produto debe someterse a unha avaliación da conformidade por terceiros.
  • Para os sistemas de IA de alto risco, o artigo 15 esixe «un nivel axeitado de precisión, robustez e ciberseguridade». O artigo 15, apartado 5, engade a resistencia aos intentos de terceiros non autorizados de alterar o uso, os resultados ou o funcionamento dun sistema, e enumera, cando proceda, medidas contra o envelenamento de datos, o envelenamento de modelos, os exemplos adversarios (evasión do modelo) e os ataques á confidencialidade ou os defectos do modelo.
  • Tras o Regulamento (UE) 2026/1744, o «Ómnibus dixital sobre IA» (en vigor desde o 27 de xullo de 2026), as obrigas de alto risco aplícanse a partir do 2 de decembro de 2027 para os sistemas do anexo III e a partir do 2 de agosto de 2028 para os sistemas integrados en produtos do anexo I.
  • Algunhas normas xa se aplican: en virtude do artigo 50, desde o 2 de agosto de 2026, os provedores de sistemas de IA que interactúan directamente con persoas deben garantir que esas persoas sexan informadas de que están a tratar cunha IA, salvo que resulte evidente.
  • O Regulamento de ciberresiliencia aplícase aos produtos con elementos dixitais, software incluído, que se introducen no mercado da UE, así que comproba se o teu axente se distribúe como un deses produtos ou funciona como un servizo. Entrou en vigor o 10 de decembro de 2024. As obrigas de notificación dos fabricantes sobre vulnerabilidades explotadas activamente e incidentes graves aplícanse desde o 11 de setembro de 2026, e as obrigas principais, a partir do 11 de decembro de 2027.

Se algo disto se aplica ao teu axente é unha cuestión que debe valorar unha asesoría xurídica.

Seguintes pasos

Se estás a empezar a crear axentes, a nosa guía sobre como crear un axente de IA (en inglés) e o curso ao teu ritmo IA Axéntica: introdución ao desenvolvemento de axentes cobren os fundamentos.

Un xeito estruturado de desenvolver estas habilidades é o curso Seguridade da IA: protección de aplicacións de LLM e axentes de IA: ao teu ritmo, de nivel intermedio e de 40 horas. Trata a seguridade da cadea de subministración da IA e a normativa da UE, e o seu proxecto final pídeche atacar, corrixir e volver probar un axente de IA.

Aprende habilidades técnicas en liña con Code Labs Academy

Aprende habilidades técnicas en liña con Code Labs Academy

Únete á nosa comunidade de apoio, desbloquea o teu potencial e emprende un camiño profesional gratificante.

Aplicar agora

Preguntas frecuentes

Que é o OWASP Top 10 para aplicacións axénticas?

É unha lista dos dez riscos de seguridade de maior impacto para os axentes de IA, publicada polo OWASP GenAI Security Project en decembro de 2025. As súas categorías van de ASI01 Agent Goal Hijack a ASI10 Rogue Agents, cada unha con exemplos e mitigacións.

Que significa a mínima axencia nos axentes de IA?

A mínima axencia (least agency) é a extensión que fai OWASP do principio de mínimo privilexio: darlle a un axente só a autonomía que necesita a súa tarefa. Un comportamento axéntico innecesario amplía a superficie de ataque sen achegar valor.

É seguro usar servidores MCP?

Trátaos como calquera código de terceiros, porque as ferramentas dun servidor e as súas descricións poden conter instrucións ocultas. Instálaos desde fontes de confianza, fixa e verifica as versións, revisa as descricións das ferramentas, executa os servidores locais nun sandbox e asegúrate de que unha persoa poida denegar as chamadas a ferramentas.

Debe un axente de IA pedir aprobación antes de cada acción?

Non. Pide a aprobación dunha persoa antes de accións de alto impacto ou irreversibles, como borrar datos, transferir diñeiro ou enviar mensaxes, e deixa que se executen as accións reversibles e de baixo risco. Demasiadas solicitudes provocan fatiga de aprobación, que debilita a revisión.

Todos os axentes de IA son de alto risco segundo o Regulamento de intelixencia artificial da UE?

Non. En liñas xerais, só son de alto risco os sistemas de IA que se usan para unha finalidade enumerada no anexo III do Regulamento (con excepcións), ou que son un compoñente de seguridade dun produto cuberto pola lexislación da UE do anexo I (ou son eles mesmos un deses produtos) cando ese produto debe someterse a unha avaliación da conformidade por terceiros. Se un axente concreto encaixa nalgún deses casos é unha cuestión que debe valorar unha asesoría xurídica.

Servizos de carreira

Acompañamento profesional personalizado para impulsar a túa carreira na tecnoloxía. Inclúe revisión do CV, entrevistas simuladas e perspectivas do sector para amosar as túas novas habilidades con confianza.

Explorar