OWASP Top 10 для LLM-приложений 2026: все 10 рисков с пояснениями
Обновлено на November 19, 20267 Прочнет минуты
OWASP Top 10 для LLM-приложений — это список OWASP GenAI Security Project с самыми критичными рисками безопасности для приложений на основе больших языковых моделей (LLM). Редакция 2026 года вышла в августе 2026 года (её страница ресурса датирована 3 августа), а анонсирована 1 сентября 2026 года. В этом руководстве перечислены все десять пунктов с официальными ID: для каждого — краткое пояснение и одна практическая мера защиты, а в конце — что изменилось по сравнению с 2025 годом.
Тон задаёт вступительное письмо руководителей проекта: «Хватит пытаться создать модель, которую невозможно обмануть. Стройте систему вокруг неё так, чтобы, когда модель обманут — а это обязательно случится, — ничего важного не сломалось».
Как составляли список 2026 года
Прежние редакции опирались на экспертное мнение практиков. В 2026 году OWASP также сверил результаты голосования сообщества с корпусом из 7714 реальных инцидентов из публичных баз уязвимостей и базы данных о вреде от ИИ; в 6639 из них хватало подробностей для классификации. Голосование даёт три четверти веса, данные об инцидентах — одну четверть. Два источника не всегда совпадали: если ранжировать по необработанному числу инцидентов, prompt injection выпадает из топ-10. OWASP объясняет это «эффектом защиты»: команды активно с ней борются, и до публичных баз доходит меньше чистых эксплойтов. С Misinformation вышло наоборот: голосующие поставили этот пункт почти в самый конец, данные об инцидентах — почти в начало, и в итоге факты подняли его на седьмое место.
Список 2026 года: краткий обзор
| Пункт 2026 года | Место в 2025 году |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (как System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Места 2025 года взяты из списка OWASP 2025 года.
LLM01:2026 Prompt Injection
Ввод, который меняет поведение модели так, как не задумывал разработчик, — неважно, приходит ли он от пользователя, из документа, из результата инструмента, из изображения или из памяти. Теперь пункт охватывает и кросс-модальные атаки, которые прячут инструкции в изображениях или аудио. Мера защиты: держите учётные данные и действия, меняющие состояние, в коде приложения и давайте модели минимальные привилегии для каждой операции. Подробно этот пункт разобран в нашем руководстве по prompt injection.
LLM02:2026 Sensitive Information Disclosure (раскрытие конфиденциальной информации)
Утечка конфиденциальных или регулируемых данных по любому каналу: через ответ, аргументы вызовов инструментов, цепочки рассуждений, извлечённые фрагменты, логи или эмбеддинги. Одной из двух ошибок, которые стоят за большинством инцидентов, OWASP называет слишком широкий доступ к данным ещё до модели — например, когда в индекс для генерации с дополненной выборкой (RAG) попадают диски без ограничения доступа. Мера защиты: проверяйте права до извлечения, применяя контроль доступа на уровне документов и фрагментов прямо в запросе к индексу.
LLM03:2026 Excessive Agency (избыточная агентность)
Действия, наносящие ущерб, в ответ на неожиданный, неоднозначный или искажённый атакующим вывод модели. Первопричины — избыточная функциональность, избыточные права или избыточная автономия. В агентных системах, по словам OWASP, это может проявляться как злоупотребление инструментами, злоупотребление идентичностями и привилегиями или каскадные сбои. Мера защиты: сведите к минимуму инструменты и их права (инструменту для пересказа писем нужно только читать почту) и требуйте подтверждения человеком для действий с серьёзными последствиями.
LLM04:2026 Supply Chain (цепочка поставок)
Риски в сторонних моделях, датасетах, адаптерах вроде LoRA, пайплайнах конвертации и пакетах, включая «slopsquatting»: атакующие регистрируют имена пакетов, которые галлюцинируют ИИ-ассистенты для программирования. Мера защиты: фиксируйте артефакты моделей по неизменяемому дайджесту, а не по изменяемому тегу, проверяйте подписи и убеждайтесь, что предложенные ИИ зависимости действительно существуют, прежде чем их устанавливать.
LLM05:2026 Data and Model Poisoning (отравление данных и моделей)
Подделанные данные или артефакты моделей, через которые на этапе предобучения, дообучения, построения эмбеддингов или распространения встраиваются бэкдоры или смещения. Отравление может обходиться дёшево: Souly и соавторы (2025) выяснили, что 250 отравленных документов компрометировали модели размером от 600 млн до 13 млрд параметров независимо от размера датасета. Мера защиты: отслеживайте происхождение данных и моделей, версионируйте датасеты и относитесь к шаблонам чата, конфигурациям токенизатора и адаптерам как к коду, который нужно подписывать и проверять.
LLM06:2026 Unbounded Consumption (неограниченное потребление ресурсов)
Неконтролируемый инференс, который приводит к сбоям, неконтролируемому росту расходов («denial of wallet») или краже модели через её извлечение. Рассуждающие модели, мультимодальный ввод и циклы вызова инструментов у агентов усугубляют проблему. Мера защиты: жёсткие лимиты расходов, при достижении которых инференс останавливается, а также предохранители (circuit breakers) для агентов с лимитами на число шагов, глубину рекурсии, время и стоимость одного запуска.
LLM07:2026 Misinformation (недостоверная информация)
Неверный или ничем не подкреплённый вывод, который выглядит достаточно убедительно, чтобы на его основе действовать. В агентных системах неверный ответ превращается в неверное действие — например, агент сообщает, что резервное копирование выполнено, хотя его не было. Мера защиты: паттерн claim-check-act («утверждение — проверка — действие»), который отделяет генерацию от выполнения и проверяет утверждения и предусловия перед действием.
LLM08:2026 Hidden Context Exposure (утечка скрытого контекста)
Извлечение или восстановление скрытого контекста: системных промптов, инструкций разработчика, извлечённых текстов политик и схем инструментов. OWASP советует исходить из того, что скрытый контекст можно раскрыть. Мера защиты: не храните в нём учётные данные и секреты, а авторизацию проверяйте в детерминированном коде вне модели.
LLM09:2026 Vector and Embedding Weaknesses (уязвимости векторов и эмбеддингов)
Атаки на слой эмбеддингов, на котором построены RAG, память агентов и семантические кэши. По словам OWASP, «отравление заставляет систему ошибаться, инверсия — допускать утечки, глушение — молчать, а сбой контроля доступа делает её неразборчивой». Мера защиты: применяйте разграничение по тенантам прямо в запросе к индексу, а не фильтром после извлечения, и храните контент с разным уровнем доверия в отдельных индексах.
LLM10:2026 Improper Output Handling (некорректная обработка вывода)
Передача вывода модели дальше по цепочке без проверки, что может привести к XSS, SQL-инъекциям, SSRF или удалённому выполнению кода. Теперь пункт охватывает и небезопасный код, который ассистенты генерируют в больших объёмах. Мера защиты: обращайтесь с выводом модели как с пользовательским вводом: экранируйте его с учётом контекста, используйте параметризованные запросы и отключите автоматический рендеринг изображений Markdown и превью ссылок.
Что изменилось по сравнению с редакцией 2025 года
По словам OWASP, порядок «изменился сильнее, чем в прошлые годы». Главные изменения:
- Excessive Agency поднялся с шестого места на третье — OWASP называет это «самым значимым перемещением в списке».
- Unbounded Consumption поднялся на четыре позиции, а Improper Output Handling опустился сильнее всех — с пятого места на десятое.
- Prompt Injection и Sensitive Information Disclosure сохранили два первых места.
- System Prompt Leakage превратился в более широкий пункт Hidden Context Exposure.
- Новые риски вошли в существующие пункты, а не в новые категории: кросс-модальная инъекция, артефакты моделей, которые не являются тем, за что себя выдают, подрыв дообучения и небезопасный сгенерированный код.
- Сопоставления с фреймворками (NIST, MITRE ATLAS, CWE и другими) перенесены в одно приложение.
Кроме того, OWASP проводит более чёткую границу. Этот список рассматривает модель как компонент вашего приложения. Когда модель становится действующим лицом с инструментами, памятью и последствиями для других систем, OWASP советует дополнять его списком OWASP Top 10 для агентных приложений, который мы разбираем в руководстве о том, как защитить ИИ-агентов.
Как использовать список в команде
OWASP советует «прорабатывать все десять пунктов, начиная с верхнего». На практике:
- Проходите по всем десяти пунктам, когда проектируете или проверяете LLM-функцию, и отмечайте, где она уязвима.
- Превращайте каждую меру защиты в задачу с ответственным и тестируйте повторно после исправлений.
- Помечайте находки ID пунктов, чтобы разработчики, инженеры по безопасности и владельцы продукта говорили на одном языке.
- Тестируйте только системы, которые принадлежат вам или на тестирование которых у вас есть письменное разрешение, и проверьте, что условия вашего провайдера модели разрешают тестирование безопасности.
Итоговый проект курса «Безопасность ИИ: защита LLM-приложений и ИИ-агентов», который проходят в своём темпе, — «Атака, исправление и повторное тестирование ИИ-агента» — завершается отчётом по безопасности, в котором каждая находка сопоставлена со списками OWASP.
Что дальше
Начните с верхнего пункта: наше руководство о том, что такое prompt injection, объясняет прямые и непрямые атаки и многоуровневую защиту. Если ваше приложение извлекает документы, внимательно изучите LLM02 и LLM09: они касаются прав доступа при извлечении и слоя эмбеддингов. Смежный курс в своём темпе — «AI-инженер: введение в RAG и поиск».
Системно освоить эти навыки можно на курсе «Безопасность ИИ: защита LLM-приложений и ИИ-агентов»: в своём темпе, средний уровень, 40 часов, для разработчиков, AI-инженеров и специалистов по безопасности, которые создают или тестируют ИИ-функции.

Изучить технические навыки онлайн с Code Labs Academy
Присоединяйтесь к нашему поддерживающему сообществу, разблокируйте свой потенциал и отправляйтесь на полезную карьеру.
Применить сейчас