LLM tətbiqləri üçün OWASP Top 10 2026: bütün 10 riskin izahı
November 19, 2026 yeniləndi7 dəqiqə oxundu
LLM tətbiqləri üçün OWASP Top 10 — OWASP GenAI Security Project-in böyük dil modelləri (LLM) əsasında qurulan tətbiqlər üçün ən kritik təhlükəsizlik risklərinin siyahısıdır. 2026-cı il nəşri 2026-cı ilin avqustunda dərc olunub (onun resurs səhifəsi 3 avqust tarixlidir) və 1 sentyabr 2026-cı ildə rəsmi olaraq təqdim edilib. Bu bələdçidə bütün on bənd rəsmi ID-ləri ilə verilir: hər biri üçün qısa izah və bir praktik qoruma tədbiri, sonda isə 2025-ci ildən bəri nələrin dəyişdiyi.
Layihə rəhbərlərinin giriş məktubu ümumi tonu müəyyən edir: «Aldadıla bilməyən model qurmağa çalışmağı dayandırın. Sistemi onun ətrafında elə qurun ki, model aldadılanda — və o, mütləq aldadılacaq — heç bir vacib şey sıradan çıxmasın».
2026-cı il siyahısı necə hazırlanıb
Əvvəlki nəşrlər praktiklərin ekspert rəyinə əsaslanırdı. 2026-cı ildə OWASP icma səsverməsinin nəticələrini həm də açıq zəiflik bazalarından və AI-ın vurduğu zərərlər bazasından götürülmüş 7714 real insidentdən ibarət korpusla tutuşdurdu; onlardan 6639-unda təsnifat üçün kifayət qədər təfərrüat var idi. Səsvermə çəkinin dörddə üçünü, insident məlumatları isə dörddə birini təşkil edir. Bu iki mənbə həmişə üst-üstə düşmürdü: xam insident saylarına görə sıralandıqda prompt injection ilk 10-luqdan kənarda qalır. OWASP bunu «müdafiə effekti» ilə izah edir: komandalar ona qarşı fəal mübarizə aparır, buna görə də açıq bazalara daha az təmiz eksploit düşür. Misinformation bəndində isə əksinə oldu: səs verənlər onu siyahının demək olar ki, sonuna, insident məlumatları isə demək olar ki, əvvəlinə qoydu və nəticədə faktlar onu yeddinci yerə qaldırdı.
2026-cı il siyahısına qısa baxış
| 2026-cı il bəndi | 2025-ci ildəki yeri |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (System Prompt Leakage kimi) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
2025-ci ilin yerləri OWASP-ın 2025-ci il siyahısından götürülüb.
LLM01:2026 Prompt Injection
İstifadəçidən, sənəddən, alət nəticəsindən, şəkildən və ya yaddaşdan gəlməsindən asılı olmayaraq, modelin davranışını developerin nəzərdə tutmadığı şəkildə dəyişdirən giriş. Bənd artıq təlimatları şəkillərdə və ya audioda gizlədən krossmodal hücumları da əhatə edir. Qoruma tədbiri: giriş məlumatlarını və vəziyyəti dəyişdirən əməliyyatları tətbiq kodunda saxlayın və modelə hər əməliyyat üçün minimal imtiyazlar verin. Bu bənd prompt injection üzrə bələdçimizdə ətraflı izah olunur.
LLM02:2026 Sensitive Information Disclosure (həssas məlumatların ifşası)
Məxfi və ya tənzimlənən məlumatların istənilən kanal vasitəsilə sızması: cavab, alət çağırışlarının arqumentləri, mühakimə izləri, tapılan fraqmentlər, loqlar və ya embedding-lər. OWASP insidentlərin əksəriyyətinin arxasında duran iki xətadan biri kimi məlumatların hələ modelə çatmamış həddindən artıq geniş paylaşılmasını göstərir, məsələn, giriş hüquqları məhdudlaşdırılmamış disklərin axtarışla gücləndirilmiş generasiya (RAG) indeksini qidalandırması. Qoruma tədbiri: hüquqları axtarışdan əvvəl yoxlayın, sənəd və fraqment səviyyəsində giriş nəzarətini birbaşa indeks sorğusunun daxilində tətbiq edin.
LLM03:2026 Excessive Agency (həddindən artıq səlahiyyət)
Modelin gözlənilməz, birmənalı olmayan və ya manipulyasiya edilmiş çıxışına cavab olaraq görülən zərərli əməliyyatlar. Əsas səbəblər həddindən artıq funksionallıq, həddindən artıq icazələr və ya həddindən artıq muxtariyyətdir. OWASP-ın sözlərinə görə, agentik sistemlərdə bu, alətlərdən sui-istifadə, kimlik və imtiyazlardan sui-istifadə və ya kaskad nasazlıqlar kimi özünü göstərə bilər. Qoruma tədbiri: alətləri və onların icazələrini minimuma endirin (e-məktubları xülasə edən alətin yalnız poçtu oxumağa ehtiyacı var) və yüksək təsirli əməliyyatlar üçün insan təsdiqi tələb edin.
LLM04:2026 Supply Chain (təchizat zənciri)
Üçüncü tərəf modellərində, məlumat dəstlərində, LoRA kimi adapterlərdə, konvertasiya pipeline-larında və paketlərdə olan risklər, o cümlədən «slopsquatting»: hücumçular kodlaşdırma köməkçilərinin uydurduğu paket adlarını qeydiyyatdan keçirir. Qoruma tədbiri: model artefaktlarını dəyişkən teqə görə deyil, dəyişməz heşə (digest) görə sabitləyin, imzaları yoxlayın və AI-ın təklif etdiyi asılılıqları quraşdırmazdan əvvəl onların həqiqətən mövcud olduğunu yoxlayın.
LLM05:2026 Data and Model Poisoning (məlumat və model zəhərlənməsi)
İlkin təlim, incə tənzimləmə (fine-tuning), embedding yaratma və ya yayım zamanı arxa qapılar (backdoor) və ya qərəz yerləşdirən manipulyasiya edilmiş məlumatlar və ya model artefaktları. Zəhərləmə ucuz başa gələ bilər: Souly və həmmüəlliflər (2025) müəyyən ediblər ki, 250 zəhərlənmiş sənəd məlumat dəstinin həcmindən asılı olmayaraq 600 milyondan 13 milyarda qədər parametrli modelləri kompromitasiya edib. Qoruma tədbiri: məlumatların və modellərin mənşəyini izləyin, məlumat dəstlərini versiyalaşdırın, çat şablonlarına, tokenizator konfiqurasiyalarına və adapterlərə isə imzalanmalı və yoxlanılmalı olan kod kimi yanaşın.
LLM06:2026 Unbounded Consumption (məhdudiyyətsiz resurs istehlakı)
Nasazlıqlara, xərclərin nəzarətsiz artmasına («denial of wallet») və ya modelin çıxarılması yolu ilə oğurlanmasına səbəb olan nəzarətsiz inferens. Mühakimə qabiliyyətli (reasoning) modellər, multimodal girişlər və agentlərin alət çağırışı dövrələri problemi ağırlaşdırır. Qoruma tədbiri: inferensi dayandıran sərt xərc limitləri, həmçinin addım sayı, rekursiya dərinliyi, vaxt və bir icranın dəyəri üzrə limitləri olan agent qoruyucuları (circuit breakers).
LLM07:2026 Misinformation (yanlış məlumat)
Əsasında hərəkət etmək üçün kifayət qədər inandırıcı görünən yanlış və ya əsassız çıxış. Agentik sistemlərdə yanlış cavab yanlış əməliyyata çevrilir: məsələn, agent ehtiyat nüsxə heç çıxarılmadığı halda onun çıxarıldığını bildirir. Qoruma tədbiri: generasiyanı icradan ayıran və hərəkətdən əvvəl iddiaları və ilkin şərtləri yoxlayan claim-check-act («iddia — yoxlama — hərəkət») modeli.
LLM08:2026 Hidden Context Exposure (gizli kontekstin ifşası)
Gizli kontekstin — sistem promptlarının, developer təlimatlarının, tapılan siyasət mətnlərinin və alət sxemlərinin — çıxarılması və ya bərpası. OWASP gizli kontekstin aşkarlana biləcəyini fərz etməyi tövsiyə edir. Qoruma tədbiri: orada giriş məlumatları və sirlər saxlamayın, avtorizasiyanı isə modeldən kənarda, deterministik kodda təmin edin.
LLM09:2026 Vector and Embedding Weaknesses (vektor və embedding zəiflikləri)
RAG-ın, agent yaddaşının və semantik keşlərin əsaslandığı embedding qatına qarşı hücumlar. OWASP-ın sözləri ilə desək, «zəhərlənmə sistemi yanıldır, inversiya onu sızdırmağa məcbur edir, siqnalın boğulması onu susdurur, giriş nəzarətinin pozulması isə onu fərq qoymayan edir». Qoruma tədbiri: tenant məhdudlaşdırmasını axtarışdan sonrakı filtr kimi deyil, birbaşa indeks sorğusunun daxilində tətbiq edin və müxtəlif etibar səviyyəli məzmunu ayrı indekslərdə saxlayın.
LLM10:2026 Improper Output Handling (çıxışın düzgün emal edilməməsi)
Model çıxışının yoxlanılmadan sonrakı sistemlərə ötürülməsi; bu, XSS, SQL inyeksiyası, SSRF və ya uzaqdan kod icrasına səbəb ola bilər. Bənd artıq köməkçilərin kütləvi şəkildə yaratdığı təhlükəli kodu da əhatə edir. Qoruma tədbiri: model çıxışına istifadəçi girişi kimi yanaşın: onu kontekstinə uyğun kodlaşdırın, parametrləşdirilmiş sorğulardan istifadə edin və Markdown şəkillərinin və link önizləmələrinin avtomatik göstərilməsini söndürün.
2025-ci il nəşri ilə müqayisədə nə dəyişib
OWASP-ın sözlərinə görə, sıralama «keçmiş illərdən daha çox dəyişib». Əsas dəyişikliklər:
- Excessive Agency altıncı yerdən üçüncü yerə qalxıb; OWASP bunu «siyahıdakı ən əhəmiyyətli dəyişiklik» adlandırır.
- Unbounded Consumption dörd pillə yüksəlib, Improper Output Handling isə ən çox geriləyib — beşinci yerdən onuncu yerə.
- Prompt Injection və Sensitive Information Disclosure ilk iki yeri qoruyub saxlayıb.
- System Prompt Leakage daha geniş bəndə — Hidden Context Exposure bəndinə çevrilib.
- Yeni kateqoriyalar əlavə edilmək əvəzinə, yeni risklər mövcud bəndlərə daxil edilib: krossmodal inyeksiya, iddia etdikləri kimi olmayan model artefaktları, incə tənzimləmənin pozulması və təhlükəli yaradılmış kod.
- Çərçivələrlə uyğunluqlar (NIST, MITRE ATLAS, CWE və digərləri) bir əlavəyə köçürülüb.
OWASP həmçinin daha aydın sərhəd çəkir. Bu siyahı modeli tətbiqinizin komponenti kimi nəzərdən keçirir. Model alətləri, yaddaşı və digər sistemlərə təsirləri olan aktora çevrildikdə, OWASP onu agentik tətbiqlər üçün OWASP Top 10 ilə tamamlamağı tövsiyə edir; onu AI agentlərinin necə qorunduğu barədə bələdçimizdə ətraflı izah edirik.
Siyahıdan komandanızda necə istifadə etməli
OWASP «bütün on bəndi işləyib keçməyi, ən yuxarıdan başlamağı» tövsiyə edir. Praktikada:
- LLM funksiyasını layihələndirəndə və ya nəzərdən keçirəndə on bəndin hamısından keçin və onun harada həssas olduğunu qeyd edin.
- Hər qoruma tədbirini məsul şəxsi olan tapşırığa çevirin və düzəlişlərdən sonra yenidən test edin.
- Developerlər, təhlükəsizlik mühəndisləri və məhsul sahibləri eyni dildə danışsın deyə, tapıntıları bəndlərin ID-ləri ilə işarələyin.
- Yalnız sizə məxsus olan və ya test etmək üçün yazılı icazəniz olan sistemləri test edin və model provayderinizin şərtlərinin təhlükəsizlik testinə icazə verdiyini yoxlayın.
Öz sürətinizlə keçilən «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursunun yekun layihəsi — «AI Agentinə Hücum Edin, Düzəldin və Yenidən Test Edin» — hər tapıntını OWASP siyahılarına uyğunlaşdıran təhlükəsizlik hesabatı ilə başa çatır.
Növbəti addımlar
Ən yuxarıdakı bənddən başlayın: prompt injection nədir bələdçimiz birbaşa və dolayı hücumları və çoxqatlı müdafiəni izah edir. Tətbiqiniz sənədlər axtarırsa, LLM02 və LLM09 bəndlərinə diqqətlə baxın: onlar axtarış zamanı giriş hüquqlarını və embedding qatını əhatə edir. Əlaqəli, öz sürətinizlə keçilən kurs — «AI Mühəndisi: RAG və Axtarışa Giriş».
Bu bacarıqları sistemli şəkildə qazanmağın yollarından biri «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursudur: öz sürətinizlə, orta səviyyə, 40 saat; AI funksiyaları quran və ya test edən developerlər, AI mühəndisləri və təhlükəsizlik mütəxəssisləri üçün.

Code Labs Academy ilə onlayn texniki bacarıqları öyrənin
Dəstəkləyici birliyimizə qoşulun, potensialınızı açın və mükafatlandırıcı bir karyera yoluna başlayın.
İndi müraciət edin