跳到主要内容
返回博客

如何保护 AI 智能体:OWASP Agentic Top 10、MCP 与关键控制措施

更新于 November 19, 2026预计阅读时长:2 分钟


围绕大语言模型(LLM)构建的 AI 智能体,不只是回答问题。它会制定计划、调用工具、读写数据,有时还会与其他智能体对话。这让模型的每一个弱点都变得更加危险:在聊天机器人中只会导致错误回答的提示词注入,可能让智能体发送电子邮件、修改记录或运行代码。本文介绍面向智能体应用的 OWASP Top 10,以及包括 Model Context Protocol(MCP)安全在内的实用控制措施。

为什么智能体需要自己的安全模型

NIST AI 100-2e2025 将智能体描述为这样一种软件:它“迭代地向模型发出提示”,处理模型的输出(例如用来调用某个函数),再把结果反馈到下一个提示中。面向 LLM 应用的 OWASP Top 10(2026 版)正是在这里划定界限:它把模型视为一个组件;一旦模型借助工具和记忆采取行动并对下游产生影响,OWASP 就会指向它的智能体清单。

这份智能体清单增加了一项值得优先采纳的原则:最小代理(least agency)。OWASP 建议组织“避免不必要的自主性”,因为在不需要的地方部署智能体行为,“只会扩大攻击面,却不会增加价值”。

面向智能体应用的 OWASP Top 10

OWASP GenAI Security Project 于 2025 年 12 月 9 日发布了面向智能体应用的 OWASP Top 10。它的十个条目是:

  • ASI01: Agent Goal Hijack(智能体目标劫持):注入的内容改变了智能体的目标或计划。
  • ASI02: Tool Misuse and Exploitation(工具滥用与利用):智能体以不安全的方式使用合法工具。
  • ASI03: Identity and Privilege Abuse(身份与权限滥用):委派或继承的凭据遭到滥用。
  • ASI04: Agentic Supply Chain Vulnerabilities(智能体供应链漏洞):工具、MCP 服务器、提示词或智能体是恶意的,或已被篡改。
  • ASI05: Unexpected Code Execution (RCE)(意外的代码执行):生成或注入的代码在你的系统上运行。
  • ASI06: Memory & Context Poisoning(记忆与上下文投毒):存储的记忆或检索到的上下文遭到污染。
  • ASI07: Insecure Inter-Agent Communication(不安全的智能体间通信):智能体之间的消息被伪造或篡改。
  • ASI08: Cascading Failures(级联故障):一个故障在多个智能体和工作流之间蔓延。
  • ASI09: Human-Agent Trust Exploitation(利用人对智能体的信任):人们过度信任表现得很自信的智能体。
  • ASI10: Rogue Agents(失控智能体):智能体偏离其预期的功能或范围。

为智能体授予最小权限和限定范围的凭据

OWASP 的 LLM01:2026 条目指出,有记录的高影响提示词注入事件之所以大多变得严重,是因为被攻破的模型能够以用户的权限级别通过工具采取行动。ASI03 建议为每个智能体设立独立身份,并“按任务发放短期有效、范围狭窄的令牌”;ASI02 则建议为每个工具设置配置文件,包含权限范围、速率限制和出站允许列表。让工具在用户自己的上下文中以最小的 OAuth 范围运行,而不是通过共享的高权限账户运行。

Invariant Labs 展示了权限范围为何重要:一个恶意的 GitHub issue 就能劫持连接到 GitHub MCP 服务器的智能体,并泄露用户私有仓库中的数据。他们称这“并不是 GitHub MCP 服务器代码本身的缺陷”,而是一个架构问题,并建议将每个会话限制在一个仓库内。

Meta 的 Agents Rule of Two 是一个快速的设计检查:在一个会话中,智能体最多只能同时具备以下三项中的两项:处理不可信的输入、访问敏感系统或私密数据、改变状态或对外通信。如果三项都需要,Meta 表示它“不应被允许自主运行”。

在模型之外使用允许列表和策略检查

在代码中而不是在提示词中决定智能体可以做什么。为每项任务把可用的工具、可访问的网络目标以及无需询问即可运行的命令加入允许列表,其他一律拒绝。ASI02 描述了一种策略执行点:它把规划器的输出视为不可信,在工具运行之前检查意图和参数、强制执行 schema 和速率限制,并签发短期有效的凭据。

在沙箱中运行智能体执行的所有代码

如果智能体会编写或运行代码,就要预设其中一部分是恶意的(ASI05)。OWASP 的建议是:绝不以 root 身份运行;在沙箱化的容器中运行代码,并施加包括网络访问在内的严格限制;通过验证关卡把代码生成与执行分开。Anthropic 关于为其编程智能体设置沙箱的文章补充说,有效的沙箱需要同时实现文件系统隔离和网络隔离,因为如果没有网络隔离,被攻破的智能体“可能会外泄 SSH 密钥等敏感文件”。

执行不可逆操作前先征求人的同意

对于任何难以撤销或在系统外部可见的操作,例如删除数据、转账、发布内容或发送消息,都要先获得审批。ASI02 建议在审批之前展示该操作的试运行(dry-run)结果或差异(diff)。审批请求要少而精,才能让每一次都真正起作用:OWASP 警告说,审批疲劳会削弱判断力;ASI09 则描述了智能体说服审核者批准有害操作的情况。

将 MCP 服务器和工具描述视为不可信

MCP 让为智能体接入工具变得很容易,这也让工具成为一种供应链风险。MCP 规范规定,客户端“必须(MUST)将工具注解视为不可信,除非它们来自受信任的服务器”,并且“应当(SHOULD)始终有人参与其中,并能够拒绝工具调用”。

Invariant Labs 把工具投毒描述为藏在工具描述中的指令,这些指令“对用户不可见,但对 AI 模型可见”,并警告说服务器可以在你批准之后更改描述。OWASP 的 ASI04 列举了 npm 上的一个恶意 MCP 服务器:它冒充合法的电子邮件集成,暗中把邮件复制给攻击者。

实用步骤:

  • 从你信任的来源安装 MCP 服务器,固定版本并验证哈希值。
  • 审查工具描述中是否藏有隐藏指令,描述发生变化时要再次审查。
  • 对于本地服务器,按照 MCP 安全最佳实践的建议,在运行前显示确切的命令,并在沙箱中以最低权限启动它。
  • 绝不透传令牌:MCP 服务器“不得(MUST NOT)接受任何并非明确为该 MCP 服务器签发的令牌”。
  • 从范围狭窄的 OAuth 权限开始,只有在操作确实需要时才增加。

自定进度的“AI 安全:保护 LLM 应用与 AI 智能体”课程的模块 4 讲解如何保护 AI 智能体、工具和 MCP 服务器。

保持智能体记忆的干净

记忆会让攻击跨会话持续存在(ASI06)。验证写入记忆的内容,按用户和任务分别隔离记忆,让未经验证的条目过期,并且不要让智能体自己的输出自动流回受信任的记忆。OWASP 的 LLM01:2026 条目还补充道:把写入记忆视为特权操作,并记录每次写入背后的提示词。

记录智能体的操作,并保留叫停智能体的手段

为工具调用、审批以及智能体之间的消息保留可检测篡改的日志,以便调查和回滚(ASI08、ASI10)。确保你能迅速叫停智能体:OWASP 针对失控智能体列出了紧急停止开关(kill switch)和凭据吊销,针对无节制的运行列出了带有步数、时间和成本限制的熔断机制。在真正需要之前先测试停止流程,并定期对智能体进行红队测试:只在你拥有的系统或你已获得书面测试许可的系统上进行,并确认你的模型提供商的条款允许进行安全测试。

欧盟法规怎么说(背景知识,并非法律建议)

  • 并非所有 AI 系统都会被欧盟《人工智能法》认定为高风险:大体而言,只有用于附件 III 所列用途的系统(存在例外),或者作为附件 I 所列欧盟法律所涵盖产品的安全组件(或本身就是此类产品)、且该产品需要接受第三方合格评定的系统,才属于高风险。
  • 对于高风险 AI 系统,第 15 条要求达到“适当水平的准确性、稳健性和网络安全”。第 15 条第 5 款还要求系统能够抵御未经授权的第三方试图改变其使用方式、输出或性能的行为,并列出了在适当情况下应采取的措施,以应对数据投毒、模型投毒、对抗样本(模型规避),以及机密性攻击或模型缺陷。
  • 根据欧盟第 2026/1744 号条例,即“人工智能数字综合法案”(Digital Omnibus on AI,2026 年 7 月 27 日生效),高风险义务对附件 III 所列系统自 2027 年 12 月 2 日起适用,对附件 I 所涵盖产品中的系统自 2028 年 8 月 2 日起适用。
  • 部分规则已经适用:根据第 50 条,自 2026 年 8 月 2 日起,直接与人互动的 AI 系统的提供者必须确保这些人被告知他们正在与 AI 打交道,除非这一点显而易见。
  • 《网络弹性法案》适用于投放到欧盟市场的带有数字元素的产品(包括软件),因此请确认你的智能体是作为此类产品交付,还是作为服务运行。该法案于 2024 年 12 月 10 日生效。制造商就被积极利用的漏洞和严重事件承担的报告义务自 2026 年 9 月 11 日起适用,主要义务自 2027 年 12 月 11 日起适用。

这些规定是否适用于你的智能体,需要咨询法律顾问。

下一步

如果你刚开始构建智能体,我们的如何构建 AI 智能体(英文)指南和自定进度的“智能体 AI:智能体开发入门”课程涵盖了基础知识。

系统掌握这些技能的一种方式是学习“AI 安全:保护 LLM 应用与 AI 智能体”课程:自定进度,中级水平,时长 40 小时。课程涵盖 AI 供应链安全和欧盟法规,其结业项目要求你攻击、修复并重新测试一个 AI 智能体。

通过 Code Labs Academy 在线学习技术技能

通过 Code Labs Academy 在线学习技术技能

加入我们的支持型学习社区,释放你的潜力,踏上有意义的技术职业之路。

立即申请

常见问题

什么是面向智能体应用的 OWASP Top 10?

它是 OWASP GenAI Security Project 于 2025 年 12 月发布的清单,列出了 AI 智能体影响最大的十项安全风险。条目从 ASI01 Agent Goal Hijack 到 ASI10 Rogue Agents,每一项都附有示例和缓解措施。

对 AI 智能体来说,“最小代理”(least agency)是什么意思?

最小代理是 OWASP 对最小权限原则的延伸:只给智能体完成任务所需的自主性。不必要的智能体行为只会扩大攻击面,却不会带来任何价值。

MCP 服务器可以安全使用吗?

要像对待任何第三方代码一样对待它们,因为服务器的工具和工具描述可能携带隐藏指令。从你信任的来源安装,固定并验证版本,审查工具描述,在沙箱中运行本地服务器,并始终让人保留拒绝工具调用的能力。

AI 智能体是否应该在每个操作前都请求审批?

不应该。在删除数据、转账或发送消息等高影响或不可逆的操作之前征求人的同意,而低风险、可撤销的操作则直接执行。审批请求过多会导致审批疲劳,从而削弱审核效果。

根据欧盟《人工智能法》,所有 AI 智能体都属于高风险吗?

不是。大体而言,只有用于该法附件 III 所列用途的 AI 系统(存在例外),或者作为附件 I 所列欧盟法律所涵盖产品的安全组件(或本身就是此类产品)、且该产品需要接受第三方合格评定的 AI 系统,才属于高风险。某个具体的智能体是否属于其中之一,需要咨询法律顾问。

职业服务

为你的科技职业起步提供个性化支持。包含简历评审、模拟面试和行业洞察,帮助你自信展示新技能。

探索