Անցնել հիմնական բովանդակությանը
Վերադառնալ բլոգ

OWASP Top 10 LLM հավելվածների համար 2026. բոլոր 10 ռիսկերը մանրամասն

Թարմացվել է November 19, 20267 Րոպեներ կարդացեք


OWASP Top 10-ը LLM հավելվածների համար OWASP GenAI Security Project-ի ցուցակն է՝ մեծ լեզվական մոդելների (LLM) վրա կառուցված հավելվածների անվտանգության ամենակրիտիկական ռիսկերով։ 2026 թվականի տարբերակը հրապարակվել է 2026 թվականի օգոստոսին (դրա ռեսուրսի էջը թվագրված է օգոստոսի 3-ով) և հայտարարվել 2026 թվականի սեպտեմբերի 1-ին։ Այս ուղեցույցը ներկայացնում է բոլոր տասը կետերը պաշտոնական ID-ներով, համառոտ բացատրում է յուրաքանչյուրը, ամեն կետի համար տալիս է մեկ գործնական վերահսկման միջոց և ամփոփում է, թե ինչ է փոխվել 2025 թվականից ի վեր։

Ծրագրի ղեկավարների բացման նամակը սահմանում է տոնը. «Դադարեք փորձել ստեղծել մոդել, որը հնարավոր չէ խաբել։ Կառուցեք համակարգն այդ մոդելի շուրջ այնպես, որ երբ մոդելը խաբվի, իսկ դա անպայման կլինի, ոչ մի կարևոր բան չկոտրվի»։

Ինչպես է կազմվել 2026 թվականի ցուցակը

Նախորդ տարբերակները հիմնվում էին ոլորտի մասնագետների դատողության վրա։ 2026 թվականին OWASP-ը համայնքի քվեարկությունը համեմատեց նաև 7714 իրական միջադեպերի հավաքածուի հետ, որոնք վերցված էին հրապարակային խոցելիությունների բազաներից և AI-ի պատճառած վնասների մի բազայից. դրանցից 6639-ն ունեին դասակարգման համար բավարար մանրամասներ։ Քվեարկությունը կազմում է կշռի երեք քառորդը, իսկ միջադեպերի տվյալները՝ մեկ քառորդը։ Երկուսը միշտ չէ, որ համընկնում էին. միջադեպերի չմշակված քանակով դասակարգելիս prompt injection-ը դուրս է մնում լավագույն 10-ից, ինչը OWASP-ը բացատրում է «պաշտպանության էֆեկտով» (defense effect). թիմերը ակտիվորեն պայքարում են դրա դեմ, և հրապարակային բազաներ ավելի քիչ մաքուր exploit-ներ են հասնում։ Misinformation-ի դեպքում հակառակն եղավ. քվեարկողներն այն տեղադրեցին ցուցակի վերջին տեղերում, միջադեպերի գրանցումները՝ առաջին տեղերում, և փաստերը այն բարձրացրին յոթերորդ տեղ։

2026 թվականի ցուցակը մեկ հայացքով

2026 թվականի կետՏեղը 2025 թվականին
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (որպես System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

2025 թվականի տեղերը վերցված են OWASP-ի 2025 թվականի ցուցակից։

LLM01:2026 Prompt Injection

Մուտք, որը փոխում է մոդելի վարքագիծն այնպես, ինչպես ծրագրավորողը չէր նախատեսել, անկախ նրանից՝ այն գալիս է օգտատիրոջից, փաստաթղթից, գործիքի արդյունքից, պատկերից, թե հիշողությունից։ Կետն այժմ ընդգրկում է նաև միջմոդալ (cross-modal) հարձակումները, որոնք հրահանգներ են թաքցնում պատկերներում կամ աուդիոյում։ Վերահսկման միջոց. հավատարմագրերը և վիճակը փոխող գործողությունները պահեք հավելվածի կոդում և ամեն գործողության համար մոդելին տվեք նվազագույն արտոնություններ։ Մեր prompt injection-ի մասին ուղեցույցը մանրամասն ներկայացնում է այս կետը։

LLM02:2026 Sensitive Information Disclosure (զգայուն տեղեկատվության բացահայտում)

Գաղտնի կամ կարգավորվող տվյալների արտահոսք ցանկացած ալիքով՝ պատասխանի, գործիքների կանչերի արգումենտների, դատողությունների հետքերի (reasoning traces), որոնված հատվածների (chunks), log-երի կամ embedding-ների միջոցով։ OWASP-ը միջադեպերի մեծ մասի հետևում կանգնած երկու ձախողումներից մեկն է համարում նախնական փուլում չափից ավելի լայն հասանելիությունը, օրինակ, երբ հասանելիության սահմանափակում չունեցող սկավառակները սնում են որոնմամբ հարստացված գեներացիայի (RAG) ինդեքսը։ Վերահսկման միջոց. լիազորումը ստուգեք նախքան որոնումը՝ փաստաթղթի և հատվածի մակարդակի հասանելիության կանոնները կիրառելով հենց ինդեքսի հարցման ներսում։

LLM03:2026 Excessive Agency (չափազանց լայն լիազորություններ)

Վնասակար գործողություններ՝ ի պատասխան մոդելի անսպասելի, երկիմաստ կամ մանիպուլյացիայի ենթարկված ելքի։ Արմատական պատճառներն են չափից ավելի ֆունկցիոնալությունը, թույլտվությունները կամ ինքնավարությունը։ OWASP-ի խոսքով՝ ագենտային համակարգերում այն կարող է դրսևորվել որպես գործիքների չարաշահում, ինքնության և արտոնությունների չարաշահում կամ կասկադային ձախողումներ։ Վերահսկման միջոց. նվազագույնի հասցրեք գործիքները և դրանց թույլտվությունները (էլ. նամակներն ամփոփող գործիքին բավական է միայն փոստը կարդալ) և բարձր ազդեցությամբ գործողությունների համար պահանջեք մարդու հաստատում։

LLM04:2026 Supply Chain (մատակարարման շղթա)

Ռիսկեր երրորդ կողմի մոդելներում, տվյալների հավաքածուներում, LoRA-ի նման ադապտերներում, փոխարկման pipeline-ներում և փաթեթներում, այդ թվում՝ «slopsquatting»-ը, երբ հարձակվողները գրանցում են փաթեթների այն անունները, որոնք հորինում (hallucinate) են կոդավորման օգնականները։ Վերահսկման միջոց. մոդելների արտեֆակտներն ամրագրեք անփոփոխ digest-ով, ոչ թե փոփոխվող tag-ով, ստուգեք ստորագրությունները և տեղադրելուց առաջ համոզվեք, որ AI-ի առաջարկած կախվածություններն իրականում գոյություն ունեն։

LLM05:2026 Data and Model Poisoning (տվյալների և մոդելների թունավորում)

Մանիպուլյացիայի ենթարկված տվյալներ կամ մոդելների արտեֆակտներ, որոնք նախնական ուսուցման, fine-tuning-ի, embedding-ների ստեղծման կամ տարածման ընթացքում ներդնում են backdoor-ներ կամ կողմնակալություն։ Թունավորումը կարող է էժան լինել. Souly et al. (2025) հեղինակները պարզեցին, որ 250 թունավորված փաստաթուղթը բավական էր 600 միլիոնից մինչև 13 միլիարդ պարամետր ունեցող մոդելները վտանգելու համար՝ անկախ տվյալների հավաքածուի չափից։ Վերահսկման միջոց. հետևեք տվյալների և մոդելների ծագմանը (lineage), տարբերակավորեք ձեր տվյալների հավաքածուները, իսկ chat template-ները, tokenizer-ի կարգավորումները և ադապտերները դիտարկեք որպես կոդ, որը պետք է ստորագրվի և ստուգվի։

LLM06:2026 Unbounded Consumption (անսահմանափակ սպառում)

Անվերահսկելի inference, որը հանգեցնում է խափանումների, ծախսերի անկառավարելի աճի («denial of wallet») կամ մոդելի գողության՝ դրա արտահանման միջոցով։ Դատողության մոդելները (reasoning models), մուլտիմոդալ մուտքերը և գործակալների գործիքային ցիկլերը խորացնում են խնդիրը։ Վերահսկման միջոց. ծախսերի խիստ սահմանաչափեր, որոնք կանգնեցնում են inference-ը, ինչպես նաև գործակալների circuit breaker-ներ՝ քայլերի, ռեկուրսիայի, ժամանակի և մեկ գործարկման արժեքի սահմանաչափերով։

LLM07:2026 Misinformation (սխալ տեղեկատվություն)

Սխալ կամ չհիմնավորված ելք, որը բավականաչափ վստահելի է թվում, որպեսզի դրա հիման վրա գործեն։ Ագենտային համակարգերում սխալ պատասխանը դառնում է սխալ գործողություն, օրինակ, երբ գործակալը հաղորդում է, որ պահուստային պատճենումը կատարվել է, թեև այն երբեք չի կատարվել։ Վերահսկման միջոց. claim-check-act («պնդում, ստուգում, գործողություն») մոտեցում, որը գեներացիան առանձնացնում է կատարումից և գործելուց առաջ ստուգում է պնդումներն ու նախապայմանները։

LLM08:2026 Hidden Context Exposure (թաքնված համատեքստի բացահայտում)

Թաքնված համատեքստի կորզում կամ վերակառուցում՝ system prompt-ներ, ծրագրավորողի հրահանգներ, որոնված քաղաքականության տեքստեր և գործիքների սխեմաներ։ OWASP-ը խորհուրդ է տալիս ենթադրել, որ թաքնված համատեքստը կարելի է բացահայտել։ Վերահսկման միջոց. հավատարմագրերն ու գաղտնիքները դրանից դուրս պահեք, իսկ լիազորումը կիրառեք մոդելից դուրս՝ դետերմինիստական կոդում։

LLM09:2026 Vector and Embedding Weaknesses (վեկտորների և embedding-ների խոցելիություններ)

Հարձակումներ embedding-ների շերտի վրա, որի վրա հիմնված են RAG-ը, գործակալների հիշողությունը և իմաստային քեշերը (semantic caches)։ OWASP-ի բառերով՝ «թունավորումը համակարգին ստիպում է սխալվել, ինվերսիան՝ արտահոսել, jamming-ը՝ լռել, իսկ հասանելիության վերահսկման ձախողումը այն դարձնում է անխտիր»։ Վերահսկման միջոց. tenant-ների սահմանազատումը կիրառեք ինդեքսի հարցման ներսում, ոչ թե որպես որոնումից հետո կիրառվող ֆիլտր, և վստահության տարբեր մակարդակների բովանդակությունը պահեք առանձին ինդեքսներում։

LLM10:2026 Improper Output Handling (ելքի ոչ պատշաճ մշակում)

Մոդելի ելքը առանց վավերացման հաջորդ համակարգերին փոխանցելը, ինչը կարող է հանգեցնել XSS-ի, SQL injection-ի, SSRF-ի կամ կոդի հեռակա կատարման։ Կետն այժմ ընդգրկում է նաև անապահով կոդը, որը օգնականները գեներացնում են մեծ ծավալներով։ Վերահսկման միջոց. մոդելի ելքը դիտարկեք օգտատիրոջ մուտքի պես. կոդավորեք այն ըստ համատեքստի, օգտագործեք պարամետրացված հարցումներ և անջատեք Markdown պատկերների ավտոմատ ցուցադրումը և հղումների նախադիտումը։

Ինչ է փոխվել 2025 թվականի տարբերակի համեմատ

OWASP-ն ասում է, որ հերթականությունը «տեղաշարժվել է ավելի շատ, քան նախորդ տարիներին»։ Հիմնական փոփոխությունները.

  • Excessive Agency-ն վեցերորդից բարձրացավ երրորդ տեղ, ինչը OWASP-ն անվանում է «ցուցակի ամենահետևանքային տեղաշարժը»։
  • Unbounded Consumption-ը բարձրացավ չորս տեղով, իսկ ամենից շատ իջավ Improper Output Handling-ը՝ հինգերորդից տասներորդ տեղ։
  • Prompt Injection-ը և Sensitive Information Disclosure-ը պահպանեցին առաջին երկու տեղերը։
  • System Prompt Leakage-ը դարձավ Hidden Context Exposure՝ ավելի լայն կետ։
  • Նոր կատեգորիաներ ավելացնելու փոխարեն գոյություն ունեցող կետերը ներառեցին ավելի նոր ռիսկեր՝ միջմոդալ injection, մոդելների արտեֆակտներ, որոնք այն չեն, ինչ պնդում են, fine-tuning-ի խաթարում և անապահով գեներացված կոդ։
  • Շրջանակների հետ համապատասխանեցումները (NIST, MITRE ATLAS, CWE և այլն) տեղափոխվեցին մեկ հավելված։

OWASP-ը նաև ավելի հստակ սահման է անցկացնում։ Այս ցուցակը մոդելը դիտարկում է որպես ձեր հավելվածի բաղադրիչ։ Երբ մոդելը դառնում է գործող կողմ՝ գործիքներով, հիշողությամբ և այլ համակարգերի վրա հետևանքներով, OWASP-ը խորհուրդ է տալիս այն համատեղել ագենտային հավելվածների համար OWASP Top 10-ի հետ, որը քայլ առ քայլ ներկայացնում է մեր ուղեցույցը այն մասին, թե ինչպես պաշտպանել AI գործակալները։

Ինչպես օգտագործել ցուցակը ձեր թիմում

OWASP-ի խորհուրդն է՝ «աշխատեք բոլոր տասի վրա՝ սկսելով վերևից»։ Գործնականում.

  • Անցեք բոլոր տասը կետերով, երբ նախագծում կամ վերանայում եք LLM ֆունկցիա, և նշեք, թե որտեղ է այն խոցելի։
  • Յուրաքանչյուր վերահսկման միջոց վերածեք պատասխանատու ունեցող ticket-ի և ուղղումներից հետո կրկին թեստավորեք։
  • Բացահայտումները նշագրեք կետերի ID-ներով, որպեսզի ծրագրավորողները, անվտանգության ինժեներները և product owner-ները խոսեն նույն լեզվով։
  • Թեստավորեք միայն այն համակարգերը, որոնք պատկանում են ձեզ կամ որոնք թեստավորելու գրավոր թույլտվություն ունեք, և ստուգեք, որ ձեր մոդելի մատակարարի պայմանները թույլ են տալիս անվտանգության թեստավորում։

AI անվտանգություն․ LLM հավելվածների և AI գործակալների պաշտպանություն ինքնուրույն տեմպով դասընթացի եզրափակիչ նախագիծը՝ «Հարձակվեք AI գործակալի վրա, ուղղեք և կրկին թեստավորեք», ավարտվում է անվտանգության հաշվետվությամբ, որը յուրաքանչյուր բացահայտում կապում է OWASP ցուցակների հետ։

Ինչ կարդալ հետո

Սկսեք ցուցակի առաջին կետից. մեր ուղեցույցը այն մասին, թե ինչ է prompt injection-ը, բացատրում է ուղղակի և անուղղակի հարձակումները և բազմաշերտ պաշտպանությունը։ Եթե ձեր հավելվածը փաստաթղթեր է որոնում, ուշադիր ուսումնասիրեք LLM02-ը և LLM09-ը, որոնք վերաբերում են որոնման թույլտվություններին և embedding-ների շերտին. AI ինժեներ․ ներածություն RAG-ին և որոնմանը ինքնուրույն տեմպով հարակից դասընթաց է։

Այս հմտությունները համակարգված ձեռք բերելու եղանակներից մեկը AI անվտանգություն․ LLM հավելվածների և AI գործակալների պաշտպանություն դասընթացն է՝ ինքնուրույն տեմպով, միջին մակարդակի և 40 ժամ տևողությամբ, ծրագրավորողների, AI ինժեներների և անվտանգության մասնագետների համար, ովքեր ստեղծում կամ թեստավորում են AI ֆունկցիաներ։

Իմացեք տեխնիկական հմտություններ առցանց Code Labs Academy

Իմացեք տեխնիկական հմտություններ առցանց Code Labs Academy

Միացեք մեր օժանդակ համայնքին, ապակողպեք ձեր ներուժը եւ սկսեք վարձատրվող կարիերայի ուղին:

Դիմեք հիմա

Հաճախ տրվող հարցեր

Ի՞նչ է OWASP Top 10-ը LLM հավելվածների համար 2026

Դա OWASP GenAI Security Project-ի ցուցակն է մեծ լեզվական մոդելների վրա կառուցված հավելվածների անվտանգության տասը ամենակրիտիկական ռիսկերով, որը հրապարակվել է 2026 թվականի օգոստոսին։ Յուրաքանչյուր կետ բացատրում է ռիսկը, բերում է հարձակման սցենարներ և թվարկում մեղմման միջոցներ։

Ի՞նչն է առաջին տեղում OWASP LLM Top 10 2026-ում

Առաջինը LLM01:2026 Prompt Injection-ն է, ինչպես 2025 թվականին։ Sensitive Information Disclosure-ը մնում է երկրորդը, իսկ Excessive Agency-ն բարձրանում է երրորդ տեղ։

Ի՞նչ է փոխվել 2025 թվականի OWASP LLM Top 10-ի համեմատ

Հերթականությունն ավելի շատ է փոխվել, քան նախորդ տարբերակներում. Excessive Agency-ն վեցերորդից բարձրացավ երրորդ տեղ, Unbounded Consumption-ը բարձրացավ չորս տեղով, իսկ Improper Output Handling-ը հինգերորդից իջավ տասներորդ տեղ։ System Prompt Leakage-ը դարձավ Hidden Context Exposure, և առաջին անգամ վարկանիշը հաշվի առավ նաև իրական միջադեպերի տվյալները։

Ի՞նչ եղավ System Prompt Leakage-ի հետ 2026 թվականին

Այն վերանվանվեց և ընդլայնվեց՝ դառնալով LLM08:2026 Hidden Context Exposure։ Կետն այժմ ընդգրկում է ցանկացած թաքնված համատեքստ, որը մոդելը կարող է տեսնել, այդ թվում՝ ծրագրավորողի հրահանգները, որոնված քաղաքականության տեքստերը և գործիքների սխեմաները, ոչ միայն system prompt-ը։

Ինչո՞վ է LLM Top 10-ը տարբերվում ագենտային հավելվածների OWASP Top 10-ից

LLM Top 10-ը մոդելը դիտարկում է որպես ձեր հավելվածի ներսում գտնվող բաղադրիչ։ Երբ մոդելն ինքնուրույն գործում է գործիքներով, հիշողությամբ և այլ համակարգերի վրա հետևանքներով, OWASP-ը խորհուրդ է տալիս այն համատեղել ագենտային հավելվածների Top 10-ի հետ։

Կարիերայի ծառայություններ

Անհատական կարիերային աջակցություն՝ հաջող մեկնարկի համար տեխնոլոգիական ոլորտում։ Ռեզյումեի վերանայում, փորձնական հարցազրույցներ և ոլորտային դիտարկումներ՝ նոր հմտությունները վստահ ներկայացնելու համար։

Ուսումնասիրել