面向 LLM 应用的 OWASP Top 10(2026 版):10 大风险全解析
更新于 November 19, 2026预计阅读时长:2 分钟
面向 LLM 应用的 OWASP Top 10 是 OWASP GenAI Security Project 发布的清单,列出了基于大语言模型(LLM)构建的应用所面临的最关键安全风险。2026 版于 2026 年 8 月发布(其资源页面的日期为 8 月 3 日),并于 2026 年 9 月 1 日正式公布。本文列出全部十个条目及其官方编号,逐一简要说明,为每个条目给出一项实用的控制措施,并总结与 2025 版相比的变化。
项目负责人的开篇信定下了基调:“别再试图打造一个不会被欺骗的模型了。围绕它构建系统,这样当模型被欺骗时(它一定会被欺骗),任何重要的东西都不会出问题。”
2026 版清单是如何制定的
以往各版依赖从业者的判断。到了 2026 版,OWASP 还把社区投票结果与一个语料库进行了对照:该语料库收录了来自公开漏洞数据库和一个 AI 危害数据库的 7,714 起真实事件,其中 6,639 起包含足以分类的细节。投票占四分之三的权重,事件数据占四分之一。两者并不总是一致:如果按原始事件数量排名,提示词注入会跌出前 10 名。OWASP 将此归因于“防御效应”,因为各团队都在全力应对这一风险,能进入公开数据库的明确漏洞利用案例也就更少。错误信息(Misinformation)的情况正好相反:投票者把它排在接近末尾的位置,事件记录却把它排在接近榜首的位置,最终证据把它拉升到了第七位。
2026 版清单一览
| 2026 版条目 | 2025 版排名 |
|---|---|
| LLM01:2026 Prompt Injection(提示词注入) | 1 |
| LLM02:2026 Sensitive Information Disclosure(敏感信息泄露) | 2 |
| LLM03:2026 Excessive Agency(过度代理) | 6 |
| LLM04:2026 Supply Chain(供应链) | 3 |
| LLM05:2026 Data and Model Poisoning(数据与模型投毒) | 4 |
| LLM06:2026 Unbounded Consumption(无限制消耗) | 10 |
| LLM07:2026 Misinformation(错误信息) | 9 |
| LLM08:2026 Hidden Context Exposure(隐藏上下文暴露) | 7(当时名为 System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses(向量与嵌入的弱点) | 8 |
| LLM10:2026 Improper Output Handling(不当输出处理) | 5 |
2025 版的排名来自 OWASP 的 2025 版清单。
LLM01:2026 Prompt Injection(提示词注入)
无论来自用户、文档、工具结果、图片还是记忆,凡是以开发者未曾预期的方式改变模型行为的输入都属于此类。该条目现在还涵盖把指令藏在图片或音频中的跨模态攻击。控制措施: 把凭据和会改变状态的操作保留在应用代码中,并让模型在每项操作中只拥有最小权限。我们的提示词注入指南深入讲解了这一条目。
LLM02:2026 Sensitive Information Disclosure(敏感信息泄露)
机密数据或受监管数据通过任何渠道泄露:回答、工具调用参数、推理轨迹、检索到的文本块、日志或嵌入向量。OWASP 指出,大多数事件背后有两类失误,其中之一就是上游的过度共享,例如未限定访问范围的云盘被用来为检索增强生成(RAG)索引提供数据。控制措施: 先授权再检索,在索引查询内部实施文档级和文本块级的访问控制。
LLM03:2026 Excessive Agency(过度代理)
模型输出出乎意料、含糊不清或遭到操纵,系统据此采取了造成损害的操作。根本原因在于功能、权限或自主性过度。OWASP 指出,在智能体系统中,它可能表现为工具滥用、身份与权限滥用或级联故障。控制措施: 尽量减少工具及其权限(用于总结邮件的工具只需要读取邮件),并对高影响操作要求人工审批。
LLM04:2026 Supply Chain(供应链)
第三方模型、数据集、LoRA 等适配器、转换流水线和软件包中的风险,其中包括“slopsquatting”:攻击者抢先注册编程助手凭幻觉编造出来的软件包名称。控制措施: 通过不可变的摘要(digest)而不是可变的标签来固定模型制品,验证签名,并在安装 AI 建议的依赖项之前确认它们确实存在。
LLM05:2026 Data and Model Poisoning(数据与模型投毒)
在预训练、微调、嵌入或分发过程中,被操纵的数据或模型制品植入了后门或偏差。投毒的成本可能很低:Souly 等人(2025)发现,无论数据集规模大小,250 份被投毒的文档就足以攻破参数量从 600M 到 13B 的模型。控制措施: 追踪数据和模型的血缘,对数据集进行版本管理,并把聊天模板、分词器配置和适配器当作必须签名和验证的代码来对待。
LLM06:2026 Unbounded Consumption(无限制消耗)
不受控制的推理导致服务中断、成本失控(“denial of wallet”,即钱包耗尽攻击),或通过模型提取窃取模型。推理模型、多模态输入和智能体的工具循环会让情况更糟。控制措施: 设置一旦触及就会中止推理的硬性支出上限,并为智能体配置熔断机制,对步数、递归、时间和单次运行成本加以限制。
LLM07:2026 Misinformation(错误信息)
错误或缺乏依据的输出看起来足够可信,以至于有人据此采取行动。在智能体系统中,错误的回答会变成错误的操作,例如智能体报告某次备份已经运行,而实际上它从未运行。控制措施: 采用“声明—核查—执行”(claim-check-act)模式,把生成与执行分开,在采取行动之前核实声明和前提条件。
LLM08:2026 Hidden Context Exposure(隐藏上下文暴露)
隐藏上下文被提取或重建,包括系统提示词、开发者指令、检索到的政策文本和工具 schema。OWASP 建议假定隐藏上下文是可以被发现的。控制措施: 不要在其中放入凭据和机密信息,并在模型之外用确定性的代码执行授权。
LLM09:2026 Vector and Embedding Weaknesses(向量与嵌入的弱点)
针对 RAG、智能体记忆和语义缓存背后嵌入层的攻击。用 OWASP 的话说:“投毒让系统出错,反演让系统泄密,干扰让系统沉默,访问控制失效则让系统不加区分。”控制措施: 在索引查询内部实施租户范围限制,而不是把它作为检索后的过滤器,并把不同信任级别的内容放在不同的索引中。
LLM10:2026 Improper Output Handling(不当输出处理)
未经验证就把模型输出传给下游,可能导致 XSS、SQL 注入、SSRF 或远程代码执行。该条目现在还涵盖 AI 助手大规模生成的不安全代码。控制措施: 像对待用户输入一样对待模型输出:根据使用场景进行编码,使用参数化查询,并禁用 Markdown 图片和链接预览的自动渲染。
与 2025 版相比有哪些变化
OWASP 表示,这次排名“比往年变动更大”。主要变化如下:
- Excessive Agency 从第六位升至第三位,OWASP 称之为“榜单上影响最深远的一次变动”。
- Unbounded Consumption 上升了四位,Improper Output Handling 跌幅最大,从第五位降至第十位。
- Prompt Injection 和 Sensitive Information Disclosure 保住了前两名的位置。
- System Prompt Leakage 变成了范围更广的 Hidden Context Exposure。
- 没有新增类别,而是由现有条目吸收了新的风险:跨模态注入、名不副实的模型制品、利用微调实施的破坏,以及生成的不安全代码。
- 框架映射(NIST、MITRE ATLAS、CWE 等)被移到了同一个附录中。
OWASP 还划出了更清晰的边界。这份清单把模型视为你的应用中的一个组件。一旦模型成为拥有工具、记忆并会对下游产生影响的行为主体,OWASP 建议将其与面向智能体应用的 OWASP Top 10 搭配使用,我们的如何保护 AI 智能体指南对此有详细介绍。
如何在团队中使用这份清单
OWASP 的建议是“十项都要处理,从最上面开始”。具体做法如下:
- 在设计或审查 LLM 功能时逐一过一遍这十个条目,记下该功能存在风险暴露的地方。
- 把每项控制措施变成一个有明确负责人的工单,并在修复后重新测试。
- 用条目编号标记发现项,让开发者、安全工程师和产品负责人使用同一套术语。
- 只测试你拥有的系统或你已获得书面测试许可的系统,并确认你的模型提供商的条款允许进行安全测试。
自定进度的“AI 安全:保护 LLM 应用与 AI 智能体”课程的结业项目“攻击、修复并重新测试一个 AI 智能体”,最终以一份安全报告收尾,报告会把每一项发现对应到 OWASP 清单。
下一步
先从排名第一的条目开始:我们的什么是提示词注入指南讲解了直接攻击和间接攻击以及多层防御。如果你的应用会检索文档,请仔细研究 LLM02 和 LLM09,它们涉及检索权限和嵌入层;“AI 工程师:RAG 与检索入门”是一门相关的自定进度课程。
系统掌握这些技能的一种方式是学习“AI 安全:保护 LLM 应用与 AI 智能体”课程:自定进度,中级水平,时长 40 小时,面向开发或测试 AI 功能的开发者、AI 工程师和安全专业人员。
