LLM колдонмолору үчүн OWASP Top 10 2026: 10 тобокелдиктин түшүндүрмөсү
Жаңыртылды November 19, 20267 Протокол окуу
LLM колдонмолору үчүн OWASP Top 10 — бул OWASP GenAI Security Project түзгөн, чоң тил моделдерине (LLM) негизделген колдонмолор үчүн эң критикалык коопсуздук тобокелдиктеринин тизмеси. Анын 2026-жылкы басылышы 2026-жылдын августунда чыккан (анын ресурс барагы 3-август менен датталган), ал эми 2026-жылдын 1-сентябрында расмий түрдө жарыяланган. Бул макалада бардык он пункт расмий ID-лери менен келтирилет: ар бирине кыскача түшүндүрмө жана бир практикалык коргоо чарасы, ал эми аягында 2025-жылдан бери эмне өзгөргөнү.
Долбоор жетекчилеринин кириш каты жалпы маанайды аныктайт: «Алдоого мүмкүн болбогон моделди курууга аракет кылууну токтотуңуз. Анын айланасына системаны ушундай куруңуз: модель алданганда — а ал сөзсүз алданат — эч бир маанилүү нерсе бузулбасын».
2026-жылкы тизме кантип түзүлдү
Мурунку басылыштар практиктердин эксперттик пикирине таянган. 2026-жылы OWASP коомчулуктун добуш берүүсүнүн жыйынтыктарын ачык алсыздык базаларынан жана AI келтирген зыян базасынан алынган 7714 чыныгы инциденттен турган корпус менен салыштырып текшерди; алардын 6639-унда классификациялоо үчүн жетиштүү маалымат бар болчу. Добуш берүү салмактын төрттөн үч бөлүгүн, инциденттер боюнча маалыматтар төрттөн бир бөлүгүн түзөт. Бул эки булак дайыма эле дал келген эмес: инциденттердин жөнөкөй саны боюнча иреттесе, prompt injection топ-10дон чыгып калат. OWASP муну «коргоо эффекти» менен түшүндүрөт: командалар ага каршы активдүү күрөшөт, ошондуктан ачык базаларга таза эксплойттор азыраак жетет. Misinformation менен тескерисинче болду: добуш бергендер бул пунктту тизменин дээрлик аягына, инциденттер боюнча маалыматтар болсо дээрлик башына коюшкан, акыры фактылар аны жетинчи орунга көтөрдү.
2026-жылкы тизме: кыскача сереп
| 2026-жылкы пункт | 2025-жылдагы орду |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (System Prompt Leakage катары) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
2025-жылдагы орундар OWASP-тын 2025-жылкы тизмесинен алынган.
LLM01:2026 Prompt Injection
Колдонуучудан, документтен, куралдын натыйжасынан, сүрөттөн же эс тутумдан келгенине карабай, моделдин жүрүм-турумун иштеп чыгуучу ойлобогон жол менен өзгөрткөн киргизүү. Эми пункт нускамаларды сүрөттөргө же аудиого жашырган кросс-модалдык чабуулдарды да камтыйт. Коргоо чарасы: кирүү маалыматтарын жана абалды өзгөрткөн аракеттерди колдонмонун кодунда кармаңыз жана моделге ар бир операция үчүн минималдуу укуктарды бериңиз. Бул пункт биздин prompt injection боюнча макалабызда кеңири талданат.
LLM02:2026 Sensitive Information Disclosure (купуя маалыматтын ачыкка чыгышы)
Купуя же жөнгө салынган маалыматтардын каалаган канал аркылуу агып чыгышы: жооп, курал чакырууларынын аргументтери, ой жүгүртүү издери, табылган үзүндүлөр, логдор же эмбеддингдер аркылуу. OWASP көпчүлүк инциденттердин артында турган эки катанын бири катары маалыматтарды моделге чейинки этапта эле өтө кеңири ачууну атайт, мисалы, кирүү укугу чектелбеген дисктер издөө менен толукталган генерациянын (RAG) индексин толтурганда. Коргоо чарасы: укуктарды издөөдөн мурун текшериңиз, документ жана үзүндү деңгээлиндеги кирүүнү көзөмөлдөөнү түздөн-түз индекске жиберилген сурамдын ичинде колдонуңуз.
LLM03:2026 Excessive Agency (ашыкча ыйгарым укуктар)
Моделдин күтүлбөгөн, эки маанилүү же манипуляцияланган жообуна жооп катары жасалган зыяндуу аракеттер. Негизги себептери — ашыкча функционалдуулук, ашыкча уруксаттар же ашыкча автономия. OWASP-тын айтымында, агенттик системаларда бул куралдарды кыянаттык менен колдонуу, идентификацияны жана укуктарды кыянаттык менен пайдалануу же каскаддык бузулуулар түрүндө көрүнүшү мүмкүн. Коргоо чарасы: куралдарды жана алардын уруксаттарын минимумга чейин кыскартыңыз (каттарды кыскача баяндоочу куралга почтаны окуу гана керек) жана олуттуу таасири бар аракеттер үчүн адамдын тастыктоосун талап кылыңыз.
LLM04:2026 Supply Chain (жеткирүү чынжыры)
Үчүнчү тараптын моделдериндеги, датасеттериндеги, LoRA сыяктуу адаптерлериндеги, конвертациялоо пайплайндарындагы жана пакеттериндеги тобокелдиктер, анын ичинде «slopsquatting»: чабуулчулар программалоо ассистенттери ойдон чыгарган пакет аттарын каттап алышат. Коргоо чарасы: модель артефакттарын өзгөрүлмө тег боюнча эмес, өзгөрүлбөс дайджест боюнча бекитиңиз, кол тамгаларды текшериңиз жана AI сунуштаган көз карандылыктарды орнотуудан мурун алар чындап эле бар экенин текшериңиз.
LLM05:2026 Data and Model Poisoning (маалыматтарды жана моделдерди ууландыруу)
Алдын ала окутуу, кошумча окутуу (fine-tuning), эмбеддинг түзүү же таратуу учурунда бэкдорлорду же бир жактуулукту киргизген манипуляцияланган маалыматтар же модель артефакттары. Ууландыруу арзанга турушу мүмкүн: Souly жана башкалар (2025) 250 ууландырылган документ датасеттин көлөмүнө карабастан 600 миллиондон 13 миллиардга чейинки параметри бар моделдерди компрометациялаганын аныкташкан. Коргоо чарасы: маалыматтардын жана моделдердин келип чыгышын көзөмөлдөңүз, датасеттерди версиялаңыз, ал эми чат шаблондорун, токенизатор конфигурацияларын жана адаптерлерди кол коюлушу жана текшерилиши керек болгон код катары караңыз.
LLM06:2026 Unbounded Consumption (ресурстарды чексиз керектөө)
Иштебей калууларга, чыгымдардын көзөмөлсүз өсүшүнө («denial of wallet») же моделди сууруп алуу аркылуу уурдоого алып келген көзөмөлсүз инференс. Ой жүгүртүүчү моделдер, мультимодалдык киргизүүлөр жана агенттердин курал чакыруу циклдери көйгөйдү күчөтөт. Коргоо чарасы: инференсти токтоткон катуу чыгым лимиттери, ошондой эле кадамдардын санына, рекурсиянын тереңдигине, убакытка жана бир иштетүүнүн наркына лимиттери бар агенттер үчүн сактагычтар (circuit breakers).
LLM07:2026 Misinformation (туура эмес маалымат)
Ага таянып аракет кылгыдай ишенимдүү көрүнгөн туура эмес же негизсиз жооп. Агенттик системаларда туура эмес жооп туура эмес аракетке айланат: мисалы, агент камдык көчүрмө жасалбаса да, ал жасалды деп билдирет. Коргоо чарасы: генерацияны аткаруудан бөлүп, аракеттен мурун ырастоолорду жана алдын ала шарттарды текшерген claim-check-act («ырастоо — текшерүү — аракет») үлгүсү.
LLM08:2026 Hidden Context Exposure (жашыруун контексттин ачыкка чыгышы)
Жашыруун контекстти — системдик промпттарды, иштеп чыгуучунун нускамаларын, табылган саясат тексттерин жана курал схемаларын — сууруп алуу же калыбына келтирүү. OWASP жашыруун контекстти табууга болот деп эсептөөнү сунуштайт. Коргоо чарасы: анда кирүү маалыматтарын жана сырларды сактабаңыз, ал эми авторизацияны моделден тышкары детерминисттик коддо камсыз кылыңыз.
LLM09:2026 Vector and Embedding Weaknesses (векторлордун жана эмбеддингдердин алсыздыктары)
RAG, агенттин эс тутуму жана семантикалык кэштер таянган эмбеддинг катмарына жасалган чабуулдар. OWASP-тын сөзү менен айтканда, «ууландыруу системаны жаңылыштырат, инверсия аны маалымат агызууга мажбурлайт, тосмолоо аны унчукпай калтырат, ал эми кирүүнү көзөмөлдөөнүн бузулушу аны тандабас кылат». Коргоо чарасы: тенанттар боюнча бөлүштүрүүнү издөөдөн кийинки чыпка катары эмес, түздөн-түз индекске жиберилген сурамдын ичинде колдонуңуз, ал эми ишеним деңгээли ар башка мазмунду өзүнчө индекстерде сактаңыз.
LLM10:2026 Improper Output Handling (жоопту туура эмес иштетүү)
Моделдин жообун текшербестен андан ары өткөрүү, бул XSS, SQL инъекциясы, SSRF же алыстан код аткарууга алып келиши мүмкүн. Эми пункт ассистенттер көп көлөмдө түзгөн коопсуз эмес кодду да камтыйт. Коргоо чарасы: моделдин жообуна колдонуучунун киргизүүсүнө мамиле кылгандай мамиле кылыңыз: аны контекстке жараша коддоңуз, параметрленген сурамдарды колдонуңуз жана Markdown сүрөттөрүн жана шилтемелердин алдын ала көрүнүшүн автоматтык түрдө көрсөтүүнү өчүрүңүз.
2025-жылкы басылышка салыштырмалуу эмне өзгөрдү
OWASP-тын айтымында, тартип «мурунку жылдарга караганда көбүрөөк жылды». Негизги өзгөрүүлөр:
- Excessive Agency алтынчы орундан үчүнчү орунга көтөрүлдү — OWASP муну «тизмедеги эң олуттуу жылыш» деп атайт.
- Unbounded Consumption төрт орунга көтөрүлдү, ал эми Improper Output Handling баарынан көп төмөндөдү — бешинчи орундан онунчу орунга.
- Prompt Injection жана Sensitive Information Disclosure алгачкы эки орунду сактап калды.
- System Prompt Leakage кеңирирээк пунктка — Hidden Context Exposure пунктуна айланды.
- Жаңы категориялар кошулбастан, жаңы тобокелдиктер учурдагы пункттарга кирди: кросс-модалдык инъекция, өздөрү айткандай болбогон модель артефакттары, кошумча окутууну бузуу жана коопсуз эмес түзүлгөн код.
- Фреймворктор менен салыштыруулар (NIST, MITRE ATLAS, CWE жана башкалар) бир тиркемеге которулду.
Мындан тышкары, OWASP чекти так белгилейт. Бул тизме моделди колдонмоңуздун компоненти катары карайт. Модель куралдары, эс тутуму жана башка системаларга тийгизген кесепеттери бар аракеттенүүчүгө айланганда, OWASP аны агенттик колдонмолор үчүн OWASP Top 10 тизмеси менен толуктоону сунуштайт, аны биз AI агенттерин кантип коргоо керек деген макалада талдайбыз.
Тизмени командаңызда кантип колдонуу керек
OWASP «он пункттун баарын иштеп чыгууну, эң жогорудагысынан баштоону» сунуштайт. Иш жүзүндө:
- LLM функциясын долбоорлоп же карап чыгып жатканда он пункттун баарынан өтүп, ал кайсы жерде аялуу экенин белгилеңиз.
- Ар бир коргоо чарасын жооптуу адамы бар тапшырмага айлантып, оңдоолордон кийин кайра тестирлеңиз.
- Иштеп чыгуучулар, коопсуздук инженерлери жана продукт ээлери бир тилде сүйлөшүшү үчүн табылгаларды пункттардын ID-лери менен белгилеңиз.
- Өзүңүзгө таандык болгон же тестирлөөгө жазуу жүзүндө уруксатыңыз бар системаларды гана тестирлеңиз жана модель провайдериңиздин шарттары коопсуздукту тестирлөөгө уруксат берерин текшериңиз.
Өз ылдамдыгыңызда өтүлүүчү «AI коопсуздугу: LLM колдонмолорун жана AI агенттерин коргоо» курсунун жыйынтыктоочу долбоору — «AI агентине чабуул жасап, оңдоп, кайра тестирлеңиз» — ар бир табылганы OWASP тизмелерине байланыштырган коопсуздук отчету менен аяктайт.
Кийинки кадамдар
Эң жогорку пункттан баштаңыз: prompt injection деген эмне деген макалабыз түз жана кыйыр чабуулдарды жана көп катмарлуу коргоону түшүндүрөт. Эгер колдонмоңуз документтерди издесе, LLM02 жана LLM09 пункттарын кылдат карап чыгыңыз: алар издөөдөгү кирүү укуктарын жана эмбеддинг катмарын камтыйт. Ага тектеш, өз ылдамдыгыңызда өтүлүүчү курс — «AI инженери: RAG жана издөөгө киришүү».
Бул көндүмдөрдү системалуу түрдө өздөштүрүүнүн бир жолу — «AI коопсуздугу: LLM колдонмолорун жана AI агенттерин коргоо» курсу: өз ылдамдыгыңызда, орто деңгээл, 40 саат, AI функцияларын түзгөн же тестирлеген иштеп чыгуучулар, AI инженерлери жана коопсуздук адистери үчүн.

Code Labs Academy менен онлайн режиминде техникалык көндүмдөрдү үйрөнүңүз
Биздин колдоочу жамаатка кошулуп, потенциалыңызды кулпусун ачып, мансап жолун ачыңыз.
Азыр колдон