OWASP Top 10 для LLM-прыкладанняў 2026: усе 10 рызык з тлумачэннямі
Абноўлены на November 19, 20267 Прачытаныя хвіліны
OWASP Top 10 для LLM-прыкладанняў — гэта спіс OWASP GenAI Security Project з найбольш крытычнымі рызыкамі бяспекі для прыкладанняў на аснове вялікіх моўных мадэляў (LLM). Рэдакцыя 2026 года выйшла ў жніўні 2026 года (яе старонка рэсурсу датаваная 3 жніўня), а анансавана 1 верасня 2026 года. У гэтым дапаможніку пералічаны ўсе дзесяць пунктаў з афіцыйнымі ID: для кожнага — кароткае тлумачэнне і адна практычная мера абароны, а ў канцы — што змянілася ў параўнанні з 2025 годам.
Тон задае ўступны ліст кіраўнікоў праекта: «Хопіць спрабаваць стварыць мадэль, якую немагчыма ашукаць. Будуйце сістэму вакол яе так, каб, калі мадэль ашукаюць, — а гэта абавязкова здарыцца, — нічога важнага не зламалася».
Як складалі спіс 2026 года
Папярэднія рэдакцыі абапіраліся на экспертную думку практыкаў. У 2026 годзе OWASP таксама звярыў вынікі галасавання супольнасці з корпусам з 7714 рэальных інцыдэнтаў з публічных баз дадзеных уразлівасцей і базы дадзеных пра шкоду ад ШІ; у 6639 з іх хапала падрабязнасцей для класіфікацыі. Галасаванне дае тры чвэрці вагі, дадзеныя пра інцыдэнты — адну чвэрць. Дзве крыніцы не заўсёды супадалі: калі ранжыраваць па сырой колькасці інцыдэнтаў, prompt injection выпадае з топ-10. OWASP тлумачыць гэта «эфектам абароны»: каманды актыўна з ёй змагаюцца, таму ў публічныя базы трапляе менш чыстых эксплойтаў. З Misinformation выйшла наадварот: удзельнікі галасавання паставілі гэты пункт амаль у самы канец, дадзеныя пра інцыдэнты — амаль на пачатак, і ў выніку факты паднялі яго на сёмае месца.
Спіс 2026 года: кароткі агляд
| Пункт 2026 года | Месца ў 2025 годзе |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (як System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Месцы 2025 года ўзятыя са спіса OWASP 2025 года.
LLM01:2026 Prompt Injection
Увод, які змяняе паводзіны мадэлі так, як не задумваў распрацоўшчык, — незалежна ад таго, ці прыходзіць ён ад карыстальніка, з дакумента, з выніку інструмента, з выявы ці з памяці. Цяпер пункт ахоплівае і крос-мадальныя атакі, якія хаваюць інструкцыі ў выявах або аўдыя. Мера абароны: трымайце ўліковыя дадзеныя і дзеянні, што змяняюць стан, у кодзе прыкладання і давайце мадэлі мінімальныя прывілеі для кожнай аперацыі. Падрабязна гэты пункт разабраны ў нашым дапаможніку пра prompt injection.
LLM02:2026 Sensitive Information Disclosure (раскрыццё канфідэнцыйнай інфармацыі)
Уцечка канфідэнцыйных або рэгуляваных дадзеных па любым канале: праз адказ, аргументы выклікаў інструментаў, ланцужкі разважанняў, знойдзеныя фрагменты, логі або эмбедынгі. Адной з дзвюх памылак, якія стаяць за большасцю інцыдэнтаў, OWASP называе занадта шырокі доступ да дадзеных яшчэ да мадэлі, напрыклад калі ў індэкс для генерацыі, дапоўненай пошукам (RAG), трапляюць дыскі без абмежавання доступу. Мера абароны: правярайце правы доступу яшчэ да пошуку, ужываючы кантроль доступу на ўзроўні дакументаў і фрагментаў непасрэдна ў запыце да індэкса.
LLM03:2026 Excessive Agency (залішняя агентнасць)
Дзеянні, якія прычыняюць шкоду, у адказ на нечаканы, неадназначны або маніпуляваны вывад мадэлі. Першапрычыны — залішняя функцыянальнасць, залішнія дазволы або залішняя аўтаномія. У агентных сістэмах, па словах OWASP, гэта можа праяўляцца як злоўжыванне інструментамі, злоўжыванне ідэнтычнасцямі і прывілеямі або каскадныя збоі. Мера абароны: звядзіце да мінімуму інструменты і іх дазволы (інструменту для кароткага пераказу лістоў трэба толькі чытаць пошту) і патрабуйце пацвярджэння чалавекам для дзеянняў з сур'ёзнымі наступствамі.
LLM04:2026 Supply Chain (ланцужок паставак)
Рызыкі ў старонніх мадэлях, датасетах, адаптарах накшталт LoRA, пайплайнах канвертацыі і пакетах, у тым ліку «slopsquatting», калі зламыснікі рэгіструюць назвы пакетаў, якія выдумляюць ШІ-асістэнты для праграмавання. Мера абароны: фіксуйце артэфакты мадэляў па нязменным дайджэсце, а не па зменлівым тэгу, правярайце подпісы і пераконвайцеся, што прапанаваныя ШІ залежнасці сапраўды існуюць, перш чым іх усталёўваць.
LLM05:2026 Data and Model Poisoning (атручванне дадзеных і мадэляў)
Маніпуляваныя дадзеныя або артэфакты мадэляў, праз якія на этапе папярэдняга навучання, данавучання, пабудовы эмбедынгаў або распаўсюджвання ўбудоўваюцца бэкдоры або прадузятасць. Атручванне можа каштаваць танна: Souly і суаўтары (2025) высветлілі, што 250 атручаных дакументаў скампраметавалі мадэлі памерам ад 600 млн да 13 млрд параметраў незалежна ад памеру датасета. Мера абароны: адсочвайце паходжанне дадзеных і мадэляў, версіянуйце датасеты і стаўцеся да шаблонаў чата, канфігурацый токенізатара і адаптараў як да кода, які трэба падпісваць і правяраць.
LLM06:2026 Unbounded Consumption (неабмежаванае спажыванне рэсурсаў)
Некантраляваны інферэнс, які прыводзіць да збояў, імклівага росту выдаткаў («denial of wallet») або крадзяжу мадэлі праз яе выманне. Мадэлі з разважаннямі, мультымадальны ўвод і цыклы выклікаў інструментаў у агентаў пагаршаюць праблему. Мера абароны: жорсткія ліміты выдаткаў, пры дасягненні якіх інферэнс спыняецца, а таксама засцерагальнікі (circuit breakers) для агентаў з лімітамі на колькасць крокаў, глыбіню рэкурсіі, час і кошт аднаго запуску.
LLM07:2026 Misinformation (памылковая інфармацыя)
Няправільны або нічым не падмацаваны вывад, які выглядае дастаткова пераканаўча, каб на яго падставе дзейнічаць. У агентных сістэмах няправільны адказ ператвараецца ў няправільнае дзеянне: напрыклад, агент паведамляе, што рэзервовае капіраванне выканана, хоць яго не было. Мера абароны: патэрн claim-check-act («сцверджанне — праверка — дзеянне»), які аддзяляе генерацыю ад выканання і правярае сцверджанні і перадумовы перад дзеяннем.
LLM08:2026 Hidden Context Exposure (раскрыццё схаванага кантэксту)
Выманне або аднаўленне схаванага кантэксту: сістэмных промптаў, інструкцый распрацоўшчыка, знойдзеных тэкстаў палітык і схем інструментаў. OWASP раіць зыходзіць з таго, што схаваны кантэкст можна выявіць. Мера абароны: не трымайце ў ім уліковых дадзеных і сакрэтаў, а аўтарызацыю забяспечвайце ў дэтэрмінаваным кодзе па-за мадэллю.
LLM09:2026 Vector and Embedding Weaknesses (уразлівасці вектараў і эмбедынгаў)
Атакі на слой эмбедынгаў, на якім пабудаваны RAG, памяць агентаў і семантычныя кэшы. Па словах OWASP, «атручванне прымушае сістэму памыляцца, інверсія — дапускаць уцечкі, глушэнне — маўчаць, а збой кантролю доступу робіць яе нераборлівай». Мера абароны: ужывайце размежаванне па тэнантах непасрэдна ў запыце да індэкса, а не як фільтр пасля пошуку, і захоўвайце кантэнт з розным узроўнем даверу ў асобных індэксах.
LLM10:2026 Improper Output Handling (няправільная апрацоўка вываду)
Перадача вываду мадэлі далей без праверкі, што можа прывесці да XSS, SQL-ін'екцый, SSRF або аддаленага выканання кода. Цяпер пункт ахоплівае і небяспечны код, які асістэнты генеруюць у вялікіх аб'ёмах. Мера абароны: абыходзьцеся з вывадам мадэлі як з карыстальніцкім уводам: экрануйце яго з улікам кантэксту, выкарыстоўвайце параметрызаваныя запыты і адключыце аўтаматычны рэндэрынг выяў Markdown і папярэдні прагляд спасылак.
Што змянілася ў параўнанні з рэдакцыяй 2025 года
Па словах OWASP, парадак «змяніўся мацней, чым у мінулыя гады». Галоўныя змены:
- Excessive Agency падняўся з шостага месца на трэцяе — OWASP называе гэта «самым значным перамяшчэннем у спісе».
- Unbounded Consumption падняўся на чатыры пазіцыі, а Improper Output Handling апусціўся мацней за ўсіх — з пятага месца на дзясятае.
- Prompt Injection і Sensitive Information Disclosure захавалі два першыя месцы.
- System Prompt Leakage ператварыўся ў больш шырокі пункт Hidden Context Exposure.
- Новыя рызыкі ўвайшлі ў існуючыя пункты, а не ў новыя катэгорыі: крос-мадальная ін'екцыя, артэфакты мадэляў, якія не з'яўляюцца тым, за што сябе выдаюць, падрыў данавучання і небяспечны згенераваны код.
- Супастаўленні з фрэймворкамі (NIST, MITRE ATLAS, CWE і іншымі) перанесены ў адзін дадатак.
Акрамя таго, OWASP праводзіць больш выразную мяжу. Гэты спіс разглядае мадэль як кампанент вашага прыкладання. Як толькі мадэль становіцца дзеючай асобай з інструментамі, памяццю і наступствамі для іншых сістэм, OWASP раіць дапаўняць яго спісам OWASP Top 10 для агентных прыкладанняў, які мы разбіраем у дапаможніку пра тое, як абараніць ШІ-агентаў.
Як выкарыстоўваць спіс у камандзе
OWASP раіць «прапрацоўваць усе дзесяць пунктаў, пачынаючы з першага». На практыцы:
- Праходзьце па ўсіх дзесяці пунктах, калі праектуеце або правяраеце LLM-функцыю, і адзначайце, дзе яна ўразлівая.
- Ператварайце кожную меру абароны ў задачу з адказным і тэсціруйце паўторна пасля выпраўленняў.
- Пазначайце знаходкі ID пунктаў, каб распрацоўшчыкі, інжынеры па бяспецы і ўладальнікі прадукту гаварылі на адной мове.
- Тэсціруйце толькі сістэмы, якія належаць вам або на тэсціраванне якіх у вас ёсць пісьмовы дазвол, і пераканайцеся, што ўмовы вашага правайдара мадэлі дазваляюць тэсціраванне бяспекі.
Выніковы праект курса «Бяспека ШІ: абарона LLM-прыкладанняў і ШІ-агентаў», які праходзяць у сваім тэмпе, — «Атака, выпраўленне і паўторнае тэсціраванне ШІ-агента» — завяршаецца справаздачай па бяспецы, у якой кожная знаходка суаднесена са спісамі OWASP.
Што далей
Пачніце з першага пункта: наш дапаможнік пра тое, што такое prompt injection, тлумачыць прамыя і ўскосныя атакі і шматузроўневую абарону. Калі ваша прыкладанне шукае дакументы, уважліва вывучыце LLM02 і LLM09: яны тычацца правоў доступу пры пошуку і слоя эмбедынгаў. Сумежны курс у сваім тэмпе — «AI-інжынер: уводзіны ў RAG і пошук».
Адзін са спосабаў сістэмна асвоіць гэтыя навыкі — курс «Бяспека ШІ: абарона LLM-прыкладанняў і ШІ-агентаў»: у сваім тэмпе, сярэдні ўзровень, 40 гадзін, для распрацоўшчыкаў, AI-інжынераў і спецыялістаў па бяспецы, якія ствараюць або тэсціруюць ШІ-функцыі.

Вывучыце тэхнічныя навыкі ў Інтэрнэце з Code Labs Academy
Далучайцеся да нашай падтрымлівае супольнасць, разблакуйце свой патэнцыял і прыступіце да карыснага шляху кар'еры.
Падайце заяўку зараз