Перайсці да асноўнага змесціва
Вярнуцца ў блог

OWASP Top 10 для LLM-прыкладанняў 2026: усе 10 рызык з тлумачэннямі

Абноўлены на November 19, 20267 Прачытаныя хвіліны


OWASP Top 10 для LLM-прыкладанняў — гэта спіс OWASP GenAI Security Project з найбольш крытычнымі рызыкамі бяспекі для прыкладанняў на аснове вялікіх моўных мадэляў (LLM). Рэдакцыя 2026 года выйшла ў жніўні 2026 года (яе старонка рэсурсу датаваная 3 жніўня), а анансавана 1 верасня 2026 года. У гэтым дапаможніку пералічаны ўсе дзесяць пунктаў з афіцыйнымі ID: для кожнага — кароткае тлумачэнне і адна практычная мера абароны, а ў канцы — што змянілася ў параўнанні з 2025 годам.

Тон задае ўступны ліст кіраўнікоў праекта: «Хопіць спрабаваць стварыць мадэль, якую немагчыма ашукаць. Будуйце сістэму вакол яе так, каб, калі мадэль ашукаюць, — а гэта абавязкова здарыцца, — нічога важнага не зламалася».

Як складалі спіс 2026 года

Папярэднія рэдакцыі абапіраліся на экспертную думку практыкаў. У 2026 годзе OWASP таксама звярыў вынікі галасавання супольнасці з корпусам з 7714 рэальных інцыдэнтаў з публічных баз дадзеных уразлівасцей і базы дадзеных пра шкоду ад ШІ; у 6639 з іх хапала падрабязнасцей для класіфікацыі. Галасаванне дае тры чвэрці вагі, дадзеныя пра інцыдэнты — адну чвэрць. Дзве крыніцы не заўсёды супадалі: калі ранжыраваць па сырой колькасці інцыдэнтаў, prompt injection выпадае з топ-10. OWASP тлумачыць гэта «эфектам абароны»: каманды актыўна з ёй змагаюцца, таму ў публічныя базы трапляе менш чыстых эксплойтаў. З Misinformation выйшла наадварот: удзельнікі галасавання паставілі гэты пункт амаль у самы канец, дадзеныя пра інцыдэнты — амаль на пачатак, і ў выніку факты паднялі яго на сёмае месца.

Спіс 2026 года: кароткі агляд

Пункт 2026 годаМесца ў 2025 годзе
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (як System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Месцы 2025 года ўзятыя са спіса OWASP 2025 года.

LLM01:2026 Prompt Injection

Увод, які змяняе паводзіны мадэлі так, як не задумваў распрацоўшчык, — незалежна ад таго, ці прыходзіць ён ад карыстальніка, з дакумента, з выніку інструмента, з выявы ці з памяці. Цяпер пункт ахоплівае і крос-мадальныя атакі, якія хаваюць інструкцыі ў выявах або аўдыя. Мера абароны: трымайце ўліковыя дадзеныя і дзеянні, што змяняюць стан, у кодзе прыкладання і давайце мадэлі мінімальныя прывілеі для кожнай аперацыі. Падрабязна гэты пункт разабраны ў нашым дапаможніку пра prompt injection.

LLM02:2026 Sensitive Information Disclosure (раскрыццё канфідэнцыйнай інфармацыі)

Уцечка канфідэнцыйных або рэгуляваных дадзеных па любым канале: праз адказ, аргументы выклікаў інструментаў, ланцужкі разважанняў, знойдзеныя фрагменты, логі або эмбедынгі. Адной з дзвюх памылак, якія стаяць за большасцю інцыдэнтаў, OWASP называе занадта шырокі доступ да дадзеных яшчэ да мадэлі, напрыклад калі ў індэкс для генерацыі, дапоўненай пошукам (RAG), трапляюць дыскі без абмежавання доступу. Мера абароны: правярайце правы доступу яшчэ да пошуку, ужываючы кантроль доступу на ўзроўні дакументаў і фрагментаў непасрэдна ў запыце да індэкса.

LLM03:2026 Excessive Agency (залішняя агентнасць)

Дзеянні, якія прычыняюць шкоду, у адказ на нечаканы, неадназначны або маніпуляваны вывад мадэлі. Першапрычыны — залішняя функцыянальнасць, залішнія дазволы або залішняя аўтаномія. У агентных сістэмах, па словах OWASP, гэта можа праяўляцца як злоўжыванне інструментамі, злоўжыванне ідэнтычнасцямі і прывілеямі або каскадныя збоі. Мера абароны: звядзіце да мінімуму інструменты і іх дазволы (інструменту для кароткага пераказу лістоў трэба толькі чытаць пошту) і патрабуйце пацвярджэння чалавекам для дзеянняў з сур'ёзнымі наступствамі.

LLM04:2026 Supply Chain (ланцужок паставак)

Рызыкі ў старонніх мадэлях, датасетах, адаптарах накшталт LoRA, пайплайнах канвертацыі і пакетах, у тым ліку «slopsquatting», калі зламыснікі рэгіструюць назвы пакетаў, якія выдумляюць ШІ-асістэнты для праграмавання. Мера абароны: фіксуйце артэфакты мадэляў па нязменным дайджэсце, а не па зменлівым тэгу, правярайце подпісы і пераконвайцеся, што прапанаваныя ШІ залежнасці сапраўды існуюць, перш чым іх усталёўваць.

LLM05:2026 Data and Model Poisoning (атручванне дадзеных і мадэляў)

Маніпуляваныя дадзеныя або артэфакты мадэляў, праз якія на этапе папярэдняга навучання, данавучання, пабудовы эмбедынгаў або распаўсюджвання ўбудоўваюцца бэкдоры або прадузятасць. Атручванне можа каштаваць танна: Souly і суаўтары (2025) высветлілі, што 250 атручаных дакументаў скампраметавалі мадэлі памерам ад 600 млн да 13 млрд параметраў незалежна ад памеру датасета. Мера абароны: адсочвайце паходжанне дадзеных і мадэляў, версіянуйце датасеты і стаўцеся да шаблонаў чата, канфігурацый токенізатара і адаптараў як да кода, які трэба падпісваць і правяраць.

LLM06:2026 Unbounded Consumption (неабмежаванае спажыванне рэсурсаў)

Некантраляваны інферэнс, які прыводзіць да збояў, імклівага росту выдаткаў («denial of wallet») або крадзяжу мадэлі праз яе выманне. Мадэлі з разважаннямі, мультымадальны ўвод і цыклы выклікаў інструментаў у агентаў пагаршаюць праблему. Мера абароны: жорсткія ліміты выдаткаў, пры дасягненні якіх інферэнс спыняецца, а таксама засцерагальнікі (circuit breakers) для агентаў з лімітамі на колькасць крокаў, глыбіню рэкурсіі, час і кошт аднаго запуску.

LLM07:2026 Misinformation (памылковая інфармацыя)

Няправільны або нічым не падмацаваны вывад, які выглядае дастаткова пераканаўча, каб на яго падставе дзейнічаць. У агентных сістэмах няправільны адказ ператвараецца ў няправільнае дзеянне: напрыклад, агент паведамляе, што рэзервовае капіраванне выканана, хоць яго не было. Мера абароны: патэрн claim-check-act («сцверджанне — праверка — дзеянне»), які аддзяляе генерацыю ад выканання і правярае сцверджанні і перадумовы перад дзеяннем.

LLM08:2026 Hidden Context Exposure (раскрыццё схаванага кантэксту)

Выманне або аднаўленне схаванага кантэксту: сістэмных промптаў, інструкцый распрацоўшчыка, знойдзеных тэкстаў палітык і схем інструментаў. OWASP раіць зыходзіць з таго, што схаваны кантэкст можна выявіць. Мера абароны: не трымайце ў ім уліковых дадзеных і сакрэтаў, а аўтарызацыю забяспечвайце ў дэтэрмінаваным кодзе па-за мадэллю.

LLM09:2026 Vector and Embedding Weaknesses (уразлівасці вектараў і эмбедынгаў)

Атакі на слой эмбедынгаў, на якім пабудаваны RAG, памяць агентаў і семантычныя кэшы. Па словах OWASP, «атручванне прымушае сістэму памыляцца, інверсія — дапускаць уцечкі, глушэнне — маўчаць, а збой кантролю доступу робіць яе нераборлівай». Мера абароны: ужывайце размежаванне па тэнантах непасрэдна ў запыце да індэкса, а не як фільтр пасля пошуку, і захоўвайце кантэнт з розным узроўнем даверу ў асобных індэксах.

LLM10:2026 Improper Output Handling (няправільная апрацоўка вываду)

Перадача вываду мадэлі далей без праверкі, што можа прывесці да XSS, SQL-ін'екцый, SSRF або аддаленага выканання кода. Цяпер пункт ахоплівае і небяспечны код, які асістэнты генеруюць у вялікіх аб'ёмах. Мера абароны: абыходзьцеся з вывадам мадэлі як з карыстальніцкім уводам: экрануйце яго з улікам кантэксту, выкарыстоўвайце параметрызаваныя запыты і адключыце аўтаматычны рэндэрынг выяў Markdown і папярэдні прагляд спасылак.

Што змянілася ў параўнанні з рэдакцыяй 2025 года

Па словах OWASP, парадак «змяніўся мацней, чым у мінулыя гады». Галоўныя змены:

  • Excessive Agency падняўся з шостага месца на трэцяе — OWASP называе гэта «самым значным перамяшчэннем у спісе».
  • Unbounded Consumption падняўся на чатыры пазіцыі, а Improper Output Handling апусціўся мацней за ўсіх — з пятага месца на дзясятае.
  • Prompt Injection і Sensitive Information Disclosure захавалі два першыя месцы.
  • System Prompt Leakage ператварыўся ў больш шырокі пункт Hidden Context Exposure.
  • Новыя рызыкі ўвайшлі ў існуючыя пункты, а не ў новыя катэгорыі: крос-мадальная ін'екцыя, артэфакты мадэляў, якія не з'яўляюцца тым, за што сябе выдаюць, падрыў данавучання і небяспечны згенераваны код.
  • Супастаўленні з фрэймворкамі (NIST, MITRE ATLAS, CWE і іншымі) перанесены ў адзін дадатак.

Акрамя таго, OWASP праводзіць больш выразную мяжу. Гэты спіс разглядае мадэль як кампанент вашага прыкладання. Як толькі мадэль становіцца дзеючай асобай з інструментамі, памяццю і наступствамі для іншых сістэм, OWASP раіць дапаўняць яго спісам OWASP Top 10 для агентных прыкладанняў, які мы разбіраем у дапаможніку пра тое, як абараніць ШІ-агентаў.

Як выкарыстоўваць спіс у камандзе

OWASP раіць «прапрацоўваць усе дзесяць пунктаў, пачынаючы з першага». На практыцы:

  • Праходзьце па ўсіх дзесяці пунктах, калі праектуеце або правяраеце LLM-функцыю, і адзначайце, дзе яна ўразлівая.
  • Ператварайце кожную меру абароны ў задачу з адказным і тэсціруйце паўторна пасля выпраўленняў.
  • Пазначайце знаходкі ID пунктаў, каб распрацоўшчыкі, інжынеры па бяспецы і ўладальнікі прадукту гаварылі на адной мове.
  • Тэсціруйце толькі сістэмы, якія належаць вам або на тэсціраванне якіх у вас ёсць пісьмовы дазвол, і пераканайцеся, што ўмовы вашага правайдара мадэлі дазваляюць тэсціраванне бяспекі.

Выніковы праект курса «Бяспека ШІ: абарона LLM-прыкладанняў і ШІ-агентаў», які праходзяць у сваім тэмпе, — «Атака, выпраўленне і паўторнае тэсціраванне ШІ-агента» — завяршаецца справаздачай па бяспецы, у якой кожная знаходка суаднесена са спісамі OWASP.

Што далей

Пачніце з першага пункта: наш дапаможнік пра тое, што такое prompt injection, тлумачыць прамыя і ўскосныя атакі і шматузроўневую абарону. Калі ваша прыкладанне шукае дакументы, уважліва вывучыце LLM02 і LLM09: яны тычацца правоў доступу пры пошуку і слоя эмбедынгаў. Сумежны курс у сваім тэмпе — «AI-інжынер: уводзіны ў RAG і пошук».

Адзін са спосабаў сістэмна асвоіць гэтыя навыкі — курс «Бяспека ШІ: абарона LLM-прыкладанняў і ШІ-агентаў»: у сваім тэмпе, сярэдні ўзровень, 40 гадзін, для распрацоўшчыкаў, AI-інжынераў і спецыялістаў па бяспецы, якія ствараюць або тэсціруюць ШІ-функцыі.

Вывучыце тэхнічныя навыкі ў Інтэрнэце з Code Labs Academy

Вывучыце тэхнічныя навыкі ў Інтэрнэце з Code Labs Academy

Далучайцеся да нашай падтрымлівае супольнасць, разблакуйце свой патэнцыял і прыступіце да карыснага шляху кар'еры.

Падайце заяўку зараз

Частыя пытанні

Што такое OWASP Top 10 для LLM-прыкладанняў 2026?

Гэта спіс OWASP GenAI Security Project з дзесяці найбольш крытычных рызык бяспекі для прыкладанняў на аснове вялікіх моўных мадэляў, апублікаваны ў жніўні 2026 года. Для кожнага пункта растлумачана рызыка, прыведзены сцэнарыі атак і пералічаны меры абароны.

Што займае першае месца ў OWASP LLM Top 10 2026?

Першае месца займае LLM01:2026 Prompt Injection, як і ў 2025 годзе. Sensitive Information Disclosure застаецца другім, а Excessive Agency падымаецца на трэцяе месца.

Што змянілася ў параўнанні з OWASP LLM Top 10 2025?

Парадак змяніўся мацней, чым у мінулых рэдакцыях: Excessive Agency падняўся з шостага месца на трэцяе, Unbounded Consumption — на чатыры пазіцыі, а Improper Output Handling апусціўся з пятага месца на дзясятае. System Prompt Leakage ператварыўся ў Hidden Context Exposure, і ўпершыню пры складанні рэйтынгу ўлічваліся таксама дадзеныя пра рэальныя інцыдэнты.

Што здарылася з System Prompt Leakage у 2026 годзе?

Гэты пункт перайменавалі і пашырылі: цяпер гэта LLM08:2026 Hidden Context Exposure. Ён ахоплівае любы схаваны кантэкст, які бачыць мадэль, у тым ліку інструкцыі распрацоўшчыка, знойдзеныя тэксты палітык і схемы інструментаў, а не толькі сістэмны промпт.

Чым LLM Top 10 адрозніваецца ад OWASP Top 10 для агентных прыкладанняў?

LLM Top 10 разглядае мадэль як кампанент унутры вашага прыкладання. Калі мадэль дзейнічае самастойна, з інструментамі, памяццю і наступствамі для іншых сістэм, OWASP раіць выкарыстоўваць разам з ім Top 10 для агентных прыкладанняў.

Кар'ерныя паслугі

Персанальная падтрымка кар'еры, каб упэўнена стартаваць у ІТ. Праверка рэзюмэ, трэніровачныя сумоўі і галіновыя інсайты дапамогуць выгодна прадэманстраваць новыя навыкі.

Даведацца