Перейти к основному содержимому
Назад в блог

OWASP Top 10 для LLM-приложений 2026: все 10 рисков с пояснениями

Обновлено на November 19, 20267 Прочнет минуты


OWASP Top 10 для LLM-приложений — это список OWASP GenAI Security Project с самыми критичными рисками безопасности для приложений на основе больших языковых моделей (LLM). Редакция 2026 года вышла в августе 2026 года (её страница ресурса датирована 3 августа), а анонсирована 1 сентября 2026 года. В этом руководстве перечислены все десять пунктов с официальными ID: для каждого — краткое пояснение и одна практическая мера защиты, а в конце — что изменилось по сравнению с 2025 годом.

Тон задаёт вступительное письмо руководителей проекта: «Хватит пытаться создать модель, которую невозможно обмануть. Стройте систему вокруг неё так, чтобы, когда модель обманут — а это обязательно случится, — ничего важного не сломалось».

Как составляли список 2026 года

Прежние редакции опирались на экспертное мнение практиков. В 2026 году OWASP также сверил результаты голосования сообщества с корпусом из 7714 реальных инцидентов из публичных баз уязвимостей и базы данных о вреде от ИИ; в 6639 из них хватало подробностей для классификации. Голосование даёт три четверти веса, данные об инцидентах — одну четверть. Два источника не всегда совпадали: если ранжировать по необработанному числу инцидентов, prompt injection выпадает из топ-10. OWASP объясняет это «эффектом защиты»: команды активно с ней борются, и до публичных баз доходит меньше чистых эксплойтов. С Misinformation вышло наоборот: голосующие поставили этот пункт почти в самый конец, данные об инцидентах — почти в начало, и в итоге факты подняли его на седьмое место.

Список 2026 года: краткий обзор

Пункт 2026 годаМесто в 2025 году
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (как System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Места 2025 года взяты из списка OWASP 2025 года.

LLM01:2026 Prompt Injection

Ввод, который меняет поведение модели так, как не задумывал разработчик, — неважно, приходит ли он от пользователя, из документа, из результата инструмента, из изображения или из памяти. Теперь пункт охватывает и кросс-модальные атаки, которые прячут инструкции в изображениях или аудио. Мера защиты: держите учётные данные и действия, меняющие состояние, в коде приложения и давайте модели минимальные привилегии для каждой операции. Подробно этот пункт разобран в нашем руководстве по prompt injection.

LLM02:2026 Sensitive Information Disclosure (раскрытие конфиденциальной информации)

Утечка конфиденциальных или регулируемых данных по любому каналу: через ответ, аргументы вызовов инструментов, цепочки рассуждений, извлечённые фрагменты, логи или эмбеддинги. Одной из двух ошибок, которые стоят за большинством инцидентов, OWASP называет слишком широкий доступ к данным ещё до модели — например, когда в индекс для генерации с дополненной выборкой (RAG) попадают диски без ограничения доступа. Мера защиты: проверяйте права до извлечения, применяя контроль доступа на уровне документов и фрагментов прямо в запросе к индексу.

LLM03:2026 Excessive Agency (избыточная агентность)

Действия, наносящие ущерб, в ответ на неожиданный, неоднозначный или искажённый атакующим вывод модели. Первопричины — избыточная функциональность, избыточные права или избыточная автономия. В агентных системах, по словам OWASP, это может проявляться как злоупотребление инструментами, злоупотребление идентичностями и привилегиями или каскадные сбои. Мера защиты: сведите к минимуму инструменты и их права (инструменту для пересказа писем нужно только читать почту) и требуйте подтверждения человеком для действий с серьёзными последствиями.

LLM04:2026 Supply Chain (цепочка поставок)

Риски в сторонних моделях, датасетах, адаптерах вроде LoRA, пайплайнах конвертации и пакетах, включая «slopsquatting»: атакующие регистрируют имена пакетов, которые галлюцинируют ИИ-ассистенты для программирования. Мера защиты: фиксируйте артефакты моделей по неизменяемому дайджесту, а не по изменяемому тегу, проверяйте подписи и убеждайтесь, что предложенные ИИ зависимости действительно существуют, прежде чем их устанавливать.

LLM05:2026 Data and Model Poisoning (отравление данных и моделей)

Подделанные данные или артефакты моделей, через которые на этапе предобучения, дообучения, построения эмбеддингов или распространения встраиваются бэкдоры или смещения. Отравление может обходиться дёшево: Souly и соавторы (2025) выяснили, что 250 отравленных документов компрометировали модели размером от 600 млн до 13 млрд параметров независимо от размера датасета. Мера защиты: отслеживайте происхождение данных и моделей, версионируйте датасеты и относитесь к шаблонам чата, конфигурациям токенизатора и адаптерам как к коду, который нужно подписывать и проверять.

LLM06:2026 Unbounded Consumption (неограниченное потребление ресурсов)

Неконтролируемый инференс, который приводит к сбоям, неконтролируемому росту расходов («denial of wallet») или краже модели через её извлечение. Рассуждающие модели, мультимодальный ввод и циклы вызова инструментов у агентов усугубляют проблему. Мера защиты: жёсткие лимиты расходов, при достижении которых инференс останавливается, а также предохранители (circuit breakers) для агентов с лимитами на число шагов, глубину рекурсии, время и стоимость одного запуска.

LLM07:2026 Misinformation (недостоверная информация)

Неверный или ничем не подкреплённый вывод, который выглядит достаточно убедительно, чтобы на его основе действовать. В агентных системах неверный ответ превращается в неверное действие — например, агент сообщает, что резервное копирование выполнено, хотя его не было. Мера защиты: паттерн claim-check-act («утверждение — проверка — действие»), который отделяет генерацию от выполнения и проверяет утверждения и предусловия перед действием.

LLM08:2026 Hidden Context Exposure (утечка скрытого контекста)

Извлечение или восстановление скрытого контекста: системных промптов, инструкций разработчика, извлечённых текстов политик и схем инструментов. OWASP советует исходить из того, что скрытый контекст можно раскрыть. Мера защиты: не храните в нём учётные данные и секреты, а авторизацию проверяйте в детерминированном коде вне модели.

LLM09:2026 Vector and Embedding Weaknesses (уязвимости векторов и эмбеддингов)

Атаки на слой эмбеддингов, на котором построены RAG, память агентов и семантические кэши. По словам OWASP, «отравление заставляет систему ошибаться, инверсия — допускать утечки, глушение — молчать, а сбой контроля доступа делает её неразборчивой». Мера защиты: применяйте разграничение по тенантам прямо в запросе к индексу, а не фильтром после извлечения, и храните контент с разным уровнем доверия в отдельных индексах.

LLM10:2026 Improper Output Handling (некорректная обработка вывода)

Передача вывода модели дальше по цепочке без проверки, что может привести к XSS, SQL-инъекциям, SSRF или удалённому выполнению кода. Теперь пункт охватывает и небезопасный код, который ассистенты генерируют в больших объёмах. Мера защиты: обращайтесь с выводом модели как с пользовательским вводом: экранируйте его с учётом контекста, используйте параметризованные запросы и отключите автоматический рендеринг изображений Markdown и превью ссылок.

Что изменилось по сравнению с редакцией 2025 года

По словам OWASP, порядок «изменился сильнее, чем в прошлые годы». Главные изменения:

  • Excessive Agency поднялся с шестого места на третье — OWASP называет это «самым значимым перемещением в списке».
  • Unbounded Consumption поднялся на четыре позиции, а Improper Output Handling опустился сильнее всех — с пятого места на десятое.
  • Prompt Injection и Sensitive Information Disclosure сохранили два первых места.
  • System Prompt Leakage превратился в более широкий пункт Hidden Context Exposure.
  • Новые риски вошли в существующие пункты, а не в новые категории: кросс-модальная инъекция, артефакты моделей, которые не являются тем, за что себя выдают, подрыв дообучения и небезопасный сгенерированный код.
  • Сопоставления с фреймворками (NIST, MITRE ATLAS, CWE и другими) перенесены в одно приложение.

Кроме того, OWASP проводит более чёткую границу. Этот список рассматривает модель как компонент вашего приложения. Когда модель становится действующим лицом с инструментами, памятью и последствиями для других систем, OWASP советует дополнять его списком OWASP Top 10 для агентных приложений, который мы разбираем в руководстве о том, как защитить ИИ-агентов.

Как использовать список в команде

OWASP советует «прорабатывать все десять пунктов, начиная с верхнего». На практике:

  • Проходите по всем десяти пунктам, когда проектируете или проверяете LLM-функцию, и отмечайте, где она уязвима.
  • Превращайте каждую меру защиты в задачу с ответственным и тестируйте повторно после исправлений.
  • Помечайте находки ID пунктов, чтобы разработчики, инженеры по безопасности и владельцы продукта говорили на одном языке.
  • Тестируйте только системы, которые принадлежат вам или на тестирование которых у вас есть письменное разрешение, и проверьте, что условия вашего провайдера модели разрешают тестирование безопасности.

Итоговый проект курса «Безопасность ИИ: защита LLM-приложений и ИИ-агентов», который проходят в своём темпе, — «Атака, исправление и повторное тестирование ИИ-агента» — завершается отчётом по безопасности, в котором каждая находка сопоставлена со списками OWASP.

Что дальше

Начните с верхнего пункта: наше руководство о том, что такое prompt injection, объясняет прямые и непрямые атаки и многоуровневую защиту. Если ваше приложение извлекает документы, внимательно изучите LLM02 и LLM09: они касаются прав доступа при извлечении и слоя эмбеддингов. Смежный курс в своём темпе — «AI-инженер: введение в RAG и поиск».

Системно освоить эти навыки можно на курсе «Безопасность ИИ: защита LLM-приложений и ИИ-агентов»: в своём темпе, средний уровень, 40 часов, для разработчиков, AI-инженеров и специалистов по безопасности, которые создают или тестируют ИИ-функции.

Изучить технические навыки онлайн с Code Labs Academy

Изучить технические навыки онлайн с Code Labs Academy

Присоединяйтесь к нашему поддерживающему сообществу, разблокируйте свой потенциал и отправляйтесь на полезную карьеру.

Применить сейчас

Часто задаваемые вопросы

Что такое OWASP Top 10 для LLM-приложений 2026?

Это список OWASP GenAI Security Project из десяти самых критичных рисков безопасности для приложений на основе больших языковых моделей, опубликованный в августе 2026 года. Для каждого пункта описан риск, приведены сценарии атак и перечислены меры защиты.

Что занимает первое место в OWASP LLM Top 10 2026?

Первое место занимает LLM01:2026 Prompt Injection, как и в 2025 году. Sensitive Information Disclosure остаётся вторым, а Excessive Agency поднимается на третье место.

Что изменилось по сравнению с OWASP LLM Top 10 2025?

Порядок изменился сильнее, чем в прошлых редакциях: Excessive Agency поднялся с шестого места на третье, Unbounded Consumption — на четыре позиции, а Improper Output Handling опустился с пятого места на десятое. System Prompt Leakage превратился в Hidden Context Exposure, и впервые при составлении рейтинга учитывались также данные о реальных инцидентах.

Что случилось с System Prompt Leakage в 2026 году?

Этот пункт переименовали и расширили: теперь это LLM08:2026 Hidden Context Exposure. Он охватывает любой скрытый контекст, который видит модель, включая инструкции разработчика, извлечённые тексты политик и схемы инструментов, а не только системный промпт.

Чем LLM Top 10 отличается от OWASP Top 10 для агентных приложений?

LLM Top 10 рассматривает модель как компонент внутри вашего приложения. Когда модель действует самостоятельно, с инструментами, памятью и последствиями для других систем, OWASP советует использовать вместе с ним Top 10 для агентных приложений.

Карьерные услуги

Персональная карьерная поддержка для старта в IT. Ревью резюме, пробные интервью и инсайты отрасли помогут уверенно представить новые навыки.

Подробнее