Перейти до основного вмісту
Назад до блогу

OWASP Top 10 для LLM-застосунків 2026: усі 10 ризиків із поясненнями

Оновлено на November 19, 20267 хвилини читають


OWASP Top 10 для LLM-застосунків — це список OWASP GenAI Security Project із найкритичнішими ризиками безпеки для застосунків на основі великих мовних моделей (LLM). Редакцію 2026 року опубліковано в серпні 2026 року (її сторінка ресурсу датована 3 серпня), а анонсовано 1 вересня 2026 року. У цьому посібнику наведено всі десять пунктів з їхніми офіційними ID: для кожного — коротке пояснення й один практичний захід захисту, а наприкінці — що змінилося порівняно з 2025 роком.

Тон задає вступний лист керівників проєкту: «Припиніть намагатися створити модель, яку неможливо обдурити. Будуйте систему навколо неї так, щоб, коли модель обдурять, — а це неодмінно станеться, — нічого важливого не зламалося».

Як складали список 2026 року

Попередні редакції спиралися на експертну думку практиків. У 2026 році OWASP також звірив результати голосування спільноти з корпусом із 7714 реальних інцидентів із публічних баз даних уразливостей і бази даних про шкоду від ШІ; 6639 із них містили достатньо подробиць для класифікації. Голосування має три чверті ваги, а дані про інциденти — одну чверть. Два джерела не завжди збігалися: якщо ранжувати за сирою кількістю інцидентів, prompt injection випадає з топ-10. OWASP пояснює це «ефектом захисту»: команди активно з нею борються, тож до публічних баз потрапляє менше чистих експлойтів. З Misinformation вийшло навпаки: учасники голосування поставили цей пункт майже в самий кінець, дані про інциденти — майже на початок, і зрештою факти підняли його на сьоме місце.

Список 2026 року: короткий огляд

Пункт 2026 рокуМісце у 2025 році
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (як System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Місця 2025 року взято зі списку OWASP 2025 року.

LLM01:2026 Prompt Injection

Вхідні дані, що змінюють поведінку моделі так, як не задумував розробник, — незалежно від того, надходять вони від користувача, з документа, з результату інструмента, із зображення чи з пам’яті. Тепер пункт охоплює й кросмодальні атаки, які приховують інструкції в зображеннях або аудіо. Захід захисту: тримайте облікові дані та дії, що змінюють стан, у коді застосунку й надавайте моделі мінімальні привілеї для кожної операції. Докладно цей пункт розібрано в нашому посібнику про prompt injection.

LLM02:2026 Sensitive Information Disclosure (розкриття конфіденційної інформації)

Витік конфіденційних або регульованих даних будь-яким каналом: через відповідь, аргументи викликів інструментів, ланцюжки міркувань, знайдені фрагменти, логи чи ембединги. Однією з двох помилок, що стоять за більшістю інцидентів, OWASP називає надто широкий доступ до даних ще до моделі, наприклад коли диски без обмеження доступу наповнюють індекс для генерації, доповненої пошуком (RAG). Захід захисту: перевіряйте права доступу ще до пошуку, застосовуючи контроль доступу на рівні документів і фрагментів безпосередньо в запиті до індексу.

LLM03:2026 Excessive Agency (надмірна агентність)

Дії, що завдають шкоди, у відповідь на неочікуваний, неоднозначний або маніпульований вивід моделі. Першопричини — надмірна функціональність, надмірні дозволи або надмірна автономія. В агентних системах, за словами OWASP, це може проявлятися як зловживання інструментами, зловживання ідентичностями й привілеями або каскадні збої. Захід захисту: зведіть до мінімуму інструменти та їхні дозволи (інструменту для підсумовування листів потрібно лише читати пошту) і вимагайте підтвердження людиною для дій із серйозними наслідками.

LLM04:2026 Supply Chain (ланцюг постачання)

Ризики в сторонніх моделях, датасетах, адаптерах на кшталт LoRA, пайплайнах конвертації та пакетах, зокрема «slopsquatting», коли зловмисники реєструють назви пакетів, які вигадують ШІ-асистенти для програмування. Захід захисту: фіксуйте артефакти моделей за незмінним дайджестом, а не за змінним тегом, перевіряйте підписи й переконуйтеся, що запропоновані ШІ залежності справді існують, перш ніж їх установлювати.

LLM05:2026 Data and Model Poisoning (отруєння даних і моделей)

Маніпульовані дані або артефакти моделей, через які на етапі попереднього навчання, донавчання, побудови ембедингів чи розповсюдження вбудовуються бекдори або упередження. Отруєння може коштувати дешево: Souly та співавтори (2025) з’ясували, що 250 отруєних документів скомпрометували моделі розміром від 600 млн до 13 млрд параметрів незалежно від розміру датасету. Захід захисту: відстежуйте походження даних і моделей, версіонуйте датасети й ставтеся до шаблонів чату, конфігурацій токенізатора та адаптерів як до коду, який потрібно підписувати й перевіряти.

LLM06:2026 Unbounded Consumption (необмежене споживання ресурсів)

Некерований інференс, що спричиняє збої, стрімке зростання витрат («denial of wallet») або крадіжку моделі шляхом її вилучення. Моделі з міркуваннями, мультимодальні вхідні дані й цикли викликів інструментів в агентах посилюють проблему. Захід захисту: жорсткі ліміти витрат, які зупиняють інференс, а також запобіжники (circuit breakers) для агентів з обмеженнями на кількість кроків, глибину рекурсії, час і вартість одного запуску.

LLM07:2026 Misinformation (хибна інформація)

Хибний або нічим не підкріплений вивід, який виглядає достатньо переконливо, щоб на його основі діяли. В агентних системах хибна відповідь перетворюється на хибну дію: наприклад, агент повідомляє, що резервне копіювання виконано, хоча його не було. Захід захисту: патерн claim-check-act («твердження — перевірка — дія»), який відокремлює генерацію від виконання й перевіряє твердження та передумови перед дією.

LLM08:2026 Hidden Context Exposure (розкриття прихованого контексту)

Вилучення або відтворення прихованого контексту: системних промптів, інструкцій розробника, знайдених текстів політик і схем інструментів. OWASP радить виходити з того, що прихований контекст можна виявити. Захід захисту: не тримайте в ньому облікових даних і секретів, а авторизацію забезпечуйте в детермінованому коді поза моделлю.

LLM09:2026 Vector and Embedding Weaknesses (вразливості векторів і ембедингів)

Атаки на шар ембедингів, на якому побудовано RAG, пам’ять агентів і семантичні кеші. За словами OWASP, «отруєння змушує систему помилятися, інверсія — допускати витоки, глушіння — мовчати, а збій контролю доступу робить її нерозбірливою». Захід захисту: застосовуйте розмежування за тенантами безпосередньо в запиті до індексу, а не як фільтр після пошуку, і зберігайте контент із різним рівнем довіри в окремих індексах.

LLM10:2026 Improper Output Handling (неналежна обробка вихідних даних)

Передавання виводу моделі далі без перевірки, що може призвести до XSS, SQL-ін’єкцій, SSRF або віддаленого виконання коду. Тепер пункт охоплює й небезпечний код, який асистенти генерують у великих обсягах. Захід захисту: поводьтеся з виводом моделі як із користувацьким вводом: екрануйте його відповідно до контексту, використовуйте параметризовані запити й вимкніть автоматичний рендеринг зображень Markdown і попередній перегляд посилань.

Що змінилося порівняно з редакцією 2025 року

За словами OWASP, порядок «змінився сильніше, ніж у попередні роки». Головні зміни:

  • Excessive Agency піднявся із шостого місця на третє — OWASP називає це «найвагомішим переміщенням у списку».
  • Unbounded Consumption піднявся на чотири позиції, а Improper Output Handling опустився найбільше — з п’ятого місця на десяте.
  • Prompt Injection і Sensitive Information Disclosure зберегли два перші місця.
  • System Prompt Leakage перетворився на ширший пункт Hidden Context Exposure.
  • Нові ризики ввійшли до наявних пунктів, а не до нових категорій: кросмодальна ін’єкція, артефакти моделей, які не є тим, за що себе видають, підрив донавчання й небезпечний згенерований код.
  • Зіставлення з фреймворками (NIST, MITRE ATLAS, CWE та іншими) перенесено в один додаток.

Крім того, OWASP проводить чіткішу межу. Цей список розглядає модель як компонент вашого застосунку. Щойно модель стає дійовою особою з інструментами, пам’яттю й наслідками для інших систем, OWASP радить доповнювати його списком OWASP Top 10 для агентних застосунків, який ми розбираємо в посібнику про те, як захистити ШІ-агентів.

Як використовувати список у команді

OWASP радить «опрацьовувати всі десять пунктів, починаючи з першого». На практиці:

  • Проходьте всі десять пунктів, коли проєктуєте або перевіряєте LLM-функцію, і позначайте, де вона вразлива.
  • Перетворюйте кожен захід захисту на задачу з відповідальним і повторно тестуйте після виправлень.
  • Позначайте знахідки ID пунктів, щоб розробники, інженери з безпеки та власники продукту говорили однією мовою.
  • Тестуйте лише системи, які належать вам або на тестування яких у вас є письмовий дозвіл, і переконайтеся, що умови вашого провайдера моделі дозволяють тестування безпеки.

Фінальний проєкт курсу «Безпека ШІ: захист LLM-застосунків і ШІ-агентів», який проходять у власному темпі, — «Атака, виправлення й повторне тестування ШІ-агента» — завершується звітом з безпеки, у якому кожну знахідку зіставлено зі списками OWASP.

Що далі

Почніть із першого пункту: наш посібник про те, що таке prompt injection, пояснює прямі й непрямі атаки та багаторівневий захист. Якщо ваш застосунок шукає документи, уважно вивчіть LLM02 і LLM09: вони стосуються прав доступу під час пошуку та шару ембедингів. Суміжний курс у власному темпі — «AI Engineer: вступ до RAG і пошуку».

Один зі способів системно опанувати ці навички — курс «Безпека ШІ: захист LLM-застосунків і ШІ-агентів»: у власному темпі, середній рівень, 40 годин, для розробників, AI-інженерів і фахівців з безпеки, які створюють або тестують ШІ-функції.

Вивчіть технічні навички в Інтернеті за допомогою Code Labs Academy

Вивчіть технічні навички в Інтернеті за допомогою Code Labs Academy

Приєднуйтесь до нашої спільноти, що підтримує, розблокуйте свій потенціал та розпочайте корисний шлях кар’єри.

Подайте заявку зараз

Поширені запитання

Що таке OWASP Top 10 для LLM-застосунків 2026?

Це список OWASP GenAI Security Project із десяти найкритичніших ризиків безпеки для застосунків на основі великих мовних моделей, опублікований у серпні 2026 року. Для кожного пункту пояснено ризик, наведено сценарії атак і перелічено заходи захисту.

Що посідає перше місце в OWASP LLM Top 10 2026?

Перше місце посідає LLM01:2026 Prompt Injection, як і у 2025 році. Sensitive Information Disclosure залишається другим, а Excessive Agency піднімається на третє місце.

Що змінилося порівняно з OWASP LLM Top 10 2025?

Порядок змінився сильніше, ніж у попередніх редакціях: Excessive Agency піднявся із шостого місця на третє, Unbounded Consumption — на чотири позиції, а Improper Output Handling опустився з п’ятого місця на десяте. System Prompt Leakage перетворився на Hidden Context Exposure, і вперше під час складання рейтингу враховували також дані про реальні інциденти.

Що сталося із System Prompt Leakage у 2026 році?

Цей пункт перейменували й розширили: тепер це LLM08:2026 Hidden Context Exposure. Він охоплює будь-який прихований контекст, який бачить модель, зокрема інструкції розробника, знайдені тексти політик і схеми інструментів, а не лише системний промпт.

Чим LLM Top 10 відрізняється від OWASP Top 10 для агентних застосунків?

LLM Top 10 розглядає модель як компонент усередині вашого застосунку. Коли модель діє самостійно, з інструментами, пам’яттю й наслідками для інших систем, OWASP радить використовувати разом із ним Top 10 для агентних застосунків.

Кар'єрні послуги

Персоналізована підтримка кар'єри для старту в ІТ. Огляд резюме, тренувальні співбесіди та галузеві інсайти допоможуть упевнено презентувати нові навички.

Дослідити