OWASP Top 10 LLM հավելվածների համար 2026. բոլոր 10 ռիսկերը մանրամասն
Թարմացվել է November 19, 20267 Րոպեներ կարդացեք
OWASP Top 10-ը LLM հավելվածների համար OWASP GenAI Security Project-ի ցուցակն է՝ մեծ լեզվական մոդելների (LLM) վրա կառուցված հավելվածների անվտանգության ամենակրիտիկական ռիսկերով։ 2026 թվականի տարբերակը հրապարակվել է 2026 թվականի օգոստոսին (դրա ռեսուրսի էջը թվագրված է օգոստոսի 3-ով) և հայտարարվել 2026 թվականի սեպտեմբերի 1-ին։ Այս ուղեցույցը ներկայացնում է բոլոր տասը կետերը պաշտոնական ID-ներով, համառոտ բացատրում է յուրաքանչյուրը, ամեն կետի համար տալիս է մեկ գործնական վերահսկման միջոց և ամփոփում է, թե ինչ է փոխվել 2025 թվականից ի վեր։
Ծրագրի ղեկավարների բացման նամակը սահմանում է տոնը. «Դադարեք փորձել ստեղծել մոդել, որը հնարավոր չէ խաբել։ Կառուցեք համակարգն այդ մոդելի շուրջ այնպես, որ երբ մոդելը խաբվի, իսկ դա անպայման կլինի, ոչ մի կարևոր բան չկոտրվի»։
Ինչպես է կազմվել 2026 թվականի ցուցակը
Նախորդ տարբերակները հիմնվում էին ոլորտի մասնագետների դատողության վրա։ 2026 թվականին OWASP-ը համայնքի քվեարկությունը համեմատեց նաև 7714 իրական միջադեպերի հավաքածուի հետ, որոնք վերցված էին հրապարակային խոցելիությունների բազաներից և AI-ի պատճառած վնասների մի բազայից. դրանցից 6639-ն ունեին դասակարգման համար բավարար մանրամասներ։ Քվեարկությունը կազմում է կշռի երեք քառորդը, իսկ միջադեպերի տվյալները՝ մեկ քառորդը։ Երկուսը միշտ չէ, որ համընկնում էին. միջադեպերի չմշակված քանակով դասակարգելիս prompt injection-ը դուրս է մնում լավագույն 10-ից, ինչը OWASP-ը բացատրում է «պաշտպանության էֆեկտով» (defense effect). թիմերը ակտիվորեն պայքարում են դրա դեմ, և հրապարակային բազաներ ավելի քիչ մաքուր exploit-ներ են հասնում։ Misinformation-ի դեպքում հակառակն եղավ. քվեարկողներն այն տեղադրեցին ցուցակի վերջին տեղերում, միջադեպերի գրանցումները՝ առաջին տեղերում, և փաստերը այն բարձրացրին յոթերորդ տեղ։
2026 թվականի ցուցակը մեկ հայացքով
| 2026 թվականի կետ | Տեղը 2025 թվականին |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (որպես System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
2025 թվականի տեղերը վերցված են OWASP-ի 2025 թվականի ցուցակից։
LLM01:2026 Prompt Injection
Մուտք, որը փոխում է մոդելի վարքագիծն այնպես, ինչպես ծրագրավորողը չէր նախատեսել, անկախ նրանից՝ այն գալիս է օգտատիրոջից, փաստաթղթից, գործիքի արդյունքից, պատկերից, թե հիշողությունից։ Կետն այժմ ընդգրկում է նաև միջմոդալ (cross-modal) հարձակումները, որոնք հրահանգներ են թաքցնում պատկերներում կամ աուդիոյում։ Վերահսկման միջոց. հավատարմագրերը և վիճակը փոխող գործողությունները պահեք հավելվածի կոդում և ամեն գործողության համար մոդելին տվեք նվազագույն արտոնություններ։ Մեր prompt injection-ի մասին ուղեցույցը մանրամասն ներկայացնում է այս կետը։
LLM02:2026 Sensitive Information Disclosure (զգայուն տեղեկատվության բացահայտում)
Գաղտնի կամ կարգավորվող տվյալների արտահոսք ցանկացած ալիքով՝ պատասխանի, գործիքների կանչերի արգումենտների, դատողությունների հետքերի (reasoning traces), որոնված հատվածների (chunks), log-երի կամ embedding-ների միջոցով։ OWASP-ը միջադեպերի մեծ մասի հետևում կանգնած երկու ձախողումներից մեկն է համարում նախնական փուլում չափից ավելի լայն հասանելիությունը, օրինակ, երբ հասանելիության սահմանափակում չունեցող սկավառակները սնում են որոնմամբ հարստացված գեներացիայի (RAG) ինդեքսը։ Վերահսկման միջոց. լիազորումը ստուգեք նախքան որոնումը՝ փաստաթղթի և հատվածի մակարդակի հասանելիության կանոնները կիրառելով հենց ինդեքսի հարցման ներսում։
LLM03:2026 Excessive Agency (չափազանց լայն լիազորություններ)
Վնասակար գործողություններ՝ ի պատասխան մոդելի անսպասելի, երկիմաստ կամ մանիպուլյացիայի ենթարկված ելքի։ Արմատական պատճառներն են չափից ավելի ֆունկցիոնալությունը, թույլտվությունները կամ ինքնավարությունը։ OWASP-ի խոսքով՝ ագենտային համակարգերում այն կարող է դրսևորվել որպես գործիքների չարաշահում, ինքնության և արտոնությունների չարաշահում կամ կասկադային ձախողումներ։ Վերահսկման միջոց. նվազագույնի հասցրեք գործիքները և դրանց թույլտվությունները (էլ. նամակներն ամփոփող գործիքին բավական է միայն փոստը կարդալ) և բարձր ազդեցությամբ գործողությունների համար պահանջեք մարդու հաստատում։
LLM04:2026 Supply Chain (մատակարարման շղթա)
Ռիսկեր երրորդ կողմի մոդելներում, տվյալների հավաքածուներում, LoRA-ի նման ադապտերներում, փոխարկման pipeline-ներում և փաթեթներում, այդ թվում՝ «slopsquatting»-ը, երբ հարձակվողները գրանցում են փաթեթների այն անունները, որոնք հորինում (hallucinate) են կոդավորման օգնականները։ Վերահսկման միջոց. մոդելների արտեֆակտներն ամրագրեք անփոփոխ digest-ով, ոչ թե փոփոխվող tag-ով, ստուգեք ստորագրությունները և տեղադրելուց առաջ համոզվեք, որ AI-ի առաջարկած կախվածություններն իրականում գոյություն ունեն։
LLM05:2026 Data and Model Poisoning (տվյալների և մոդելների թունավորում)
Մանիպուլյացիայի ենթարկված տվյալներ կամ մոդելների արտեֆակտներ, որոնք նախնական ուսուցման, fine-tuning-ի, embedding-ների ստեղծման կամ տարածման ընթացքում ներդնում են backdoor-ներ կամ կողմնակալություն։ Թունավորումը կարող է էժան լինել. Souly et al. (2025) հեղինակները պարզեցին, որ 250 թունավորված փաստաթուղթը բավական էր 600 միլիոնից մինչև 13 միլիարդ պարամետր ունեցող մոդելները վտանգելու համար՝ անկախ տվյալների հավաքածուի չափից։ Վերահսկման միջոց. հետևեք տվյալների և մոդելների ծագմանը (lineage), տարբերակավորեք ձեր տվյալների հավաքածուները, իսկ chat template-ները, tokenizer-ի կարգավորումները և ադապտերները դիտարկեք որպես կոդ, որը պետք է ստորագրվի և ստուգվի։
LLM06:2026 Unbounded Consumption (անսահմանափակ սպառում)
Անվերահսկելի inference, որը հանգեցնում է խափանումների, ծախսերի անկառավարելի աճի («denial of wallet») կամ մոդելի գողության՝ դրա արտահանման միջոցով։ Դատողության մոդելները (reasoning models), մուլտիմոդալ մուտքերը և գործակալների գործիքային ցիկլերը խորացնում են խնդիրը։ Վերահսկման միջոց. ծախսերի խիստ սահմանաչափեր, որոնք կանգնեցնում են inference-ը, ինչպես նաև գործակալների circuit breaker-ներ՝ քայլերի, ռեկուրսիայի, ժամանակի և մեկ գործարկման արժեքի սահմանաչափերով։
LLM07:2026 Misinformation (սխալ տեղեկատվություն)
Սխալ կամ չհիմնավորված ելք, որը բավականաչափ վստահելի է թվում, որպեսզի դրա հիման վրա գործեն։ Ագենտային համակարգերում սխալ պատասխանը դառնում է սխալ գործողություն, օրինակ, երբ գործակալը հաղորդում է, որ պահուստային պատճենումը կատարվել է, թեև այն երբեք չի կատարվել։ Վերահսկման միջոց. claim-check-act («պնդում, ստուգում, գործողություն») մոտեցում, որը գեներացիան առանձնացնում է կատարումից և գործելուց առաջ ստուգում է պնդումներն ու նախապայմանները։
LLM08:2026 Hidden Context Exposure (թաքնված համատեքստի բացահայտում)
Թաքնված համատեքստի կորզում կամ վերակառուցում՝ system prompt-ներ, ծրագրավորողի հրահանգներ, որոնված քաղաքականության տեքստեր և գործիքների սխեմաներ։ OWASP-ը խորհուրդ է տալիս ենթադրել, որ թաքնված համատեքստը կարելի է բացահայտել։ Վերահսկման միջոց. հավատարմագրերն ու գաղտնիքները դրանից դուրս պահեք, իսկ լիազորումը կիրառեք մոդելից դուրս՝ դետերմինիստական կոդում։
LLM09:2026 Vector and Embedding Weaknesses (վեկտորների և embedding-ների խոցելիություններ)
Հարձակումներ embedding-ների շերտի վրա, որի վրա հիմնված են RAG-ը, գործակալների հիշողությունը և իմաստային քեշերը (semantic caches)։ OWASP-ի բառերով՝ «թունավորումը համակարգին ստիպում է սխալվել, ինվերսիան՝ արտահոսել, jamming-ը՝ լռել, իսկ հասանելիության վերահսկման ձախողումը այն դարձնում է անխտիր»։ Վերահսկման միջոց. tenant-ների սահմանազատումը կիրառեք ինդեքսի հարցման ներսում, ոչ թե որպես որոնումից հետո կիրառվող ֆիլտր, և վստահության տարբեր մակարդակների բովանդակությունը պահեք առանձին ինդեքսներում։
LLM10:2026 Improper Output Handling (ելքի ոչ պատշաճ մշակում)
Մոդելի ելքը առանց վավերացման հաջորդ համակարգերին փոխանցելը, ինչը կարող է հանգեցնել XSS-ի, SQL injection-ի, SSRF-ի կամ կոդի հեռակա կատարման։ Կետն այժմ ընդգրկում է նաև անապահով կոդը, որը օգնականները գեներացնում են մեծ ծավալներով։ Վերահսկման միջոց. մոդելի ելքը դիտարկեք օգտատիրոջ մուտքի պես. կոդավորեք այն ըստ համատեքստի, օգտագործեք պարամետրացված հարցումներ և անջատեք Markdown պատկերների ավտոմատ ցուցադրումը և հղումների նախադիտումը։
Ինչ է փոխվել 2025 թվականի տարբերակի համեմատ
OWASP-ն ասում է, որ հերթականությունը «տեղաշարժվել է ավելի շատ, քան նախորդ տարիներին»։ Հիմնական փոփոխությունները.
- Excessive Agency-ն վեցերորդից բարձրացավ երրորդ տեղ, ինչը OWASP-ն անվանում է «ցուցակի ամենահետևանքային տեղաշարժը»։
- Unbounded Consumption-ը բարձրացավ չորս տեղով, իսկ ամենից շատ իջավ Improper Output Handling-ը՝ հինգերորդից տասներորդ տեղ։
- Prompt Injection-ը և Sensitive Information Disclosure-ը պահպանեցին առաջին երկու տեղերը։
- System Prompt Leakage-ը դարձավ Hidden Context Exposure՝ ավելի լայն կետ։
- Նոր կատեգորիաներ ավելացնելու փոխարեն գոյություն ունեցող կետերը ներառեցին ավելի նոր ռիսկեր՝ միջմոդալ injection, մոդելների արտեֆակտներ, որոնք այն չեն, ինչ պնդում են, fine-tuning-ի խաթարում և անապահով գեներացված կոդ։
- Շրջանակների հետ համապատասխանեցումները (NIST, MITRE ATLAS, CWE և այլն) տեղափոխվեցին մեկ հավելված։
OWASP-ը նաև ավելի հստակ սահման է անցկացնում։ Այս ցուցակը մոդելը դիտարկում է որպես ձեր հավելվածի բաղադրիչ։ Երբ մոդելը դառնում է գործող կողմ՝ գործիքներով, հիշողությամբ և այլ համակարգերի վրա հետևանքներով, OWASP-ը խորհուրդ է տալիս այն համատեղել ագենտային հավելվածների համար OWASP Top 10-ի հետ, որը քայլ առ քայլ ներկայացնում է մեր ուղեցույցը այն մասին, թե ինչպես պաշտպանել AI գործակալները։
Ինչպես օգտագործել ցուցակը ձեր թիմում
OWASP-ի խորհուրդն է՝ «աշխատեք բոլոր տասի վրա՝ սկսելով վերևից»։ Գործնականում.
- Անցեք բոլոր տասը կետերով, երբ նախագծում կամ վերանայում եք LLM ֆունկցիա, և նշեք, թե որտեղ է այն խոցելի։
- Յուրաքանչյուր վերահսկման միջոց վերածեք պատասխանատու ունեցող ticket-ի և ուղղումներից հետո կրկին թեստավորեք։
- Բացահայտումները նշագրեք կետերի ID-ներով, որպեսզի ծրագրավորողները, անվտանգության ինժեներները և product owner-ները խոսեն նույն լեզվով։
- Թեստավորեք միայն այն համակարգերը, որոնք պատկանում են ձեզ կամ որոնք թեստավորելու գրավոր թույլտվություն ունեք, և ստուգեք, որ ձեր մոդելի մատակարարի պայմանները թույլ են տալիս անվտանգության թեստավորում։
AI անվտանգություն․ LLM հավելվածների և AI գործակալների պաշտպանություն ինքնուրույն տեմպով դասընթացի եզրափակիչ նախագիծը՝ «Հարձակվեք AI գործակալի վրա, ուղղեք և կրկին թեստավորեք», ավարտվում է անվտանգության հաշվետվությամբ, որը յուրաքանչյուր բացահայտում կապում է OWASP ցուցակների հետ։
Ինչ կարդալ հետո
Սկսեք ցուցակի առաջին կետից. մեր ուղեցույցը այն մասին, թե ինչ է prompt injection-ը, բացատրում է ուղղակի և անուղղակի հարձակումները և բազմաշերտ պաշտպանությունը։ Եթե ձեր հավելվածը փաստաթղթեր է որոնում, ուշադիր ուսումնասիրեք LLM02-ը և LLM09-ը, որոնք վերաբերում են որոնման թույլտվություններին և embedding-ների շերտին. AI ինժեներ․ ներածություն RAG-ին և որոնմանը ինքնուրույն տեմպով հարակից դասընթաց է։
Այս հմտությունները համակարգված ձեռք բերելու եղանակներից մեկը AI անվտանգություն․ LLM հավելվածների և AI գործակալների պաշտպանություն դասընթացն է՝ ինքնուրույն տեմպով, միջին մակարդակի և 40 ժամ տևողությամբ, ծրագրավորողների, AI ինժեներների և անվտանգության մասնագետների համար, ովքեր ստեղծում կամ թեստավորում են AI ֆունկցիաներ։

Իմացեք տեխնիկական հմտություններ առցանց Code Labs Academy
Միացեք մեր օժանդակ համայնքին, ապակողպեք ձեր ներուժը եւ սկսեք վարձատրվող կարիերայի ուղին:
Դիմեք հիմա