Əsas məzmuna keç
Bloqa qayıt

LLM tətbiqləri üçün OWASP Top 10 2026: bütün 10 riskin izahı

November 19, 2026 yeniləndi7 dəqiqə oxundu


LLM tətbiqləri üçün OWASP Top 10 — OWASP GenAI Security Project-in böyük dil modelləri (LLM) əsasında qurulan tətbiqlər üçün ən kritik təhlükəsizlik risklərinin siyahısıdır. 2026-cı il nəşri 2026-cı ilin avqustunda dərc olunub (onun resurs səhifəsi 3 avqust tarixlidir) və 1 sentyabr 2026-cı ildə rəsmi olaraq təqdim edilib. Bu bələdçidə bütün on bənd rəsmi ID-ləri ilə verilir: hər biri üçün qısa izah və bir praktik qoruma tədbiri, sonda isə 2025-ci ildən bəri nələrin dəyişdiyi.

Layihə rəhbərlərinin giriş məktubu ümumi tonu müəyyən edir: «Aldadıla bilməyən model qurmağa çalışmağı dayandırın. Sistemi onun ətrafında elə qurun ki, model aldadılanda — və o, mütləq aldadılacaq — heç bir vacib şey sıradan çıxmasın».

2026-cı il siyahısı necə hazırlanıb

Əvvəlki nəşrlər praktiklərin ekspert rəyinə əsaslanırdı. 2026-cı ildə OWASP icma səsverməsinin nəticələrini həm də açıq zəiflik bazalarından və AI-ın vurduğu zərərlər bazasından götürülmüş 7714 real insidentdən ibarət korpusla tutuşdurdu; onlardan 6639-unda təsnifat üçün kifayət qədər təfərrüat var idi. Səsvermə çəkinin dörddə üçünü, insident məlumatları isə dörddə birini təşkil edir. Bu iki mənbə həmişə üst-üstə düşmürdü: xam insident saylarına görə sıralandıqda prompt injection ilk 10-luqdan kənarda qalır. OWASP bunu «müdafiə effekti» ilə izah edir: komandalar ona qarşı fəal mübarizə aparır, buna görə də açıq bazalara daha az təmiz eksploit düşür. Misinformation bəndində isə əksinə oldu: səs verənlər onu siyahının demək olar ki, sonuna, insident məlumatları isə demək olar ki, əvvəlinə qoydu və nəticədə faktlar onu yeddinci yerə qaldırdı.

2026-cı il siyahısına qısa baxış

2026-cı il bəndi2025-ci ildəki yeri
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (System Prompt Leakage kimi)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

2025-ci ilin yerləri OWASP-ın 2025-ci il siyahısından götürülüb.

LLM01:2026 Prompt Injection

İstifadəçidən, sənəddən, alət nəticəsindən, şəkildən və ya yaddaşdan gəlməsindən asılı olmayaraq, modelin davranışını developerin nəzərdə tutmadığı şəkildə dəyişdirən giriş. Bənd artıq təlimatları şəkillərdə və ya audioda gizlədən krossmodal hücumları da əhatə edir. Qoruma tədbiri: giriş məlumatlarını və vəziyyəti dəyişdirən əməliyyatları tətbiq kodunda saxlayın və modelə hər əməliyyat üçün minimal imtiyazlar verin. Bu bənd prompt injection üzrə bələdçimizdə ətraflı izah olunur.

LLM02:2026 Sensitive Information Disclosure (həssas məlumatların ifşası)

Məxfi və ya tənzimlənən məlumatların istənilən kanal vasitəsilə sızması: cavab, alət çağırışlarının arqumentləri, mühakimə izləri, tapılan fraqmentlər, loqlar və ya embedding-lər. OWASP insidentlərin əksəriyyətinin arxasında duran iki xətadan biri kimi məlumatların hələ modelə çatmamış həddindən artıq geniş paylaşılmasını göstərir, məsələn, giriş hüquqları məhdudlaşdırılmamış disklərin axtarışla gücləndirilmiş generasiya (RAG) indeksini qidalandırması. Qoruma tədbiri: hüquqları axtarışdan əvvəl yoxlayın, sənəd və fraqment səviyyəsində giriş nəzarətini birbaşa indeks sorğusunun daxilində tətbiq edin.

LLM03:2026 Excessive Agency (həddindən artıq səlahiyyət)

Modelin gözlənilməz, birmənalı olmayan və ya manipulyasiya edilmiş çıxışına cavab olaraq görülən zərərli əməliyyatlar. Əsas səbəblər həddindən artıq funksionallıq, həddindən artıq icazələr və ya həddindən artıq muxtariyyətdir. OWASP-ın sözlərinə görə, agentik sistemlərdə bu, alətlərdən sui-istifadə, kimlik və imtiyazlardan sui-istifadə və ya kaskad nasazlıqlar kimi özünü göstərə bilər. Qoruma tədbiri: alətləri və onların icazələrini minimuma endirin (e-məktubları xülasə edən alətin yalnız poçtu oxumağa ehtiyacı var) və yüksək təsirli əməliyyatlar üçün insan təsdiqi tələb edin.

LLM04:2026 Supply Chain (təchizat zənciri)

Üçüncü tərəf modellərində, məlumat dəstlərində, LoRA kimi adapterlərdə, konvertasiya pipeline-larında və paketlərdə olan risklər, o cümlədən «slopsquatting»: hücumçular kodlaşdırma köməkçilərinin uydurduğu paket adlarını qeydiyyatdan keçirir. Qoruma tədbiri: model artefaktlarını dəyişkən teqə görə deyil, dəyişməz heşə (digest) görə sabitləyin, imzaları yoxlayın və AI-ın təklif etdiyi asılılıqları quraşdırmazdan əvvəl onların həqiqətən mövcud olduğunu yoxlayın.

LLM05:2026 Data and Model Poisoning (məlumat və model zəhərlənməsi)

İlkin təlim, incə tənzimləmə (fine-tuning), embedding yaratma və ya yayım zamanı arxa qapılar (backdoor) və ya qərəz yerləşdirən manipulyasiya edilmiş məlumatlar və ya model artefaktları. Zəhərləmə ucuz başa gələ bilər: Souly və həmmüəlliflər (2025) müəyyən ediblər ki, 250 zəhərlənmiş sənəd məlumat dəstinin həcmindən asılı olmayaraq 600 milyondan 13 milyarda qədər parametrli modelləri kompromitasiya edib. Qoruma tədbiri: məlumatların və modellərin mənşəyini izləyin, məlumat dəstlərini versiyalaşdırın, çat şablonlarına, tokenizator konfiqurasiyalarına və adapterlərə isə imzalanmalı və yoxlanılmalı olan kod kimi yanaşın.

LLM06:2026 Unbounded Consumption (məhdudiyyətsiz resurs istehlakı)

Nasazlıqlara, xərclərin nəzarətsiz artmasına («denial of wallet») və ya modelin çıxarılması yolu ilə oğurlanmasına səbəb olan nəzarətsiz inferens. Mühakimə qabiliyyətli (reasoning) modellər, multimodal girişlər və agentlərin alət çağırışı dövrələri problemi ağırlaşdırır. Qoruma tədbiri: inferensi dayandıran sərt xərc limitləri, həmçinin addım sayı, rekursiya dərinliyi, vaxt və bir icranın dəyəri üzrə limitləri olan agent qoruyucuları (circuit breakers).

LLM07:2026 Misinformation (yanlış məlumat)

Əsasında hərəkət etmək üçün kifayət qədər inandırıcı görünən yanlış və ya əsassız çıxış. Agentik sistemlərdə yanlış cavab yanlış əməliyyata çevrilir: məsələn, agent ehtiyat nüsxə heç çıxarılmadığı halda onun çıxarıldığını bildirir. Qoruma tədbiri: generasiyanı icradan ayıran və hərəkətdən əvvəl iddiaları və ilkin şərtləri yoxlayan claim-check-act («iddia — yoxlama — hərəkət») modeli.

LLM08:2026 Hidden Context Exposure (gizli kontekstin ifşası)

Gizli kontekstin — sistem promptlarının, developer təlimatlarının, tapılan siyasət mətnlərinin və alət sxemlərinin — çıxarılması və ya bərpası. OWASP gizli kontekstin aşkarlana biləcəyini fərz etməyi tövsiyə edir. Qoruma tədbiri: orada giriş məlumatları və sirlər saxlamayın, avtorizasiyanı isə modeldən kənarda, deterministik kodda təmin edin.

LLM09:2026 Vector and Embedding Weaknesses (vektor və embedding zəiflikləri)

RAG-ın, agent yaddaşının və semantik keşlərin əsaslandığı embedding qatına qarşı hücumlar. OWASP-ın sözləri ilə desək, «zəhərlənmə sistemi yanıldır, inversiya onu sızdırmağa məcbur edir, siqnalın boğulması onu susdurur, giriş nəzarətinin pozulması isə onu fərq qoymayan edir». Qoruma tədbiri: tenant məhdudlaşdırmasını axtarışdan sonrakı filtr kimi deyil, birbaşa indeks sorğusunun daxilində tətbiq edin və müxtəlif etibar səviyyəli məzmunu ayrı indekslərdə saxlayın.

LLM10:2026 Improper Output Handling (çıxışın düzgün emal edilməməsi)

Model çıxışının yoxlanılmadan sonrakı sistemlərə ötürülməsi; bu, XSS, SQL inyeksiyası, SSRF və ya uzaqdan kod icrasına səbəb ola bilər. Bənd artıq köməkçilərin kütləvi şəkildə yaratdığı təhlükəli kodu da əhatə edir. Qoruma tədbiri: model çıxışına istifadəçi girişi kimi yanaşın: onu kontekstinə uyğun kodlaşdırın, parametrləşdirilmiş sorğulardan istifadə edin və Markdown şəkillərinin və link önizləmələrinin avtomatik göstərilməsini söndürün.

2025-ci il nəşri ilə müqayisədə nə dəyişib

OWASP-ın sözlərinə görə, sıralama «keçmiş illərdən daha çox dəyişib». Əsas dəyişikliklər:

  • Excessive Agency altıncı yerdən üçüncü yerə qalxıb; OWASP bunu «siyahıdakı ən əhəmiyyətli dəyişiklik» adlandırır.
  • Unbounded Consumption dörd pillə yüksəlib, Improper Output Handling isə ən çox geriləyib — beşinci yerdən onuncu yerə.
  • Prompt Injection və Sensitive Information Disclosure ilk iki yeri qoruyub saxlayıb.
  • System Prompt Leakage daha geniş bəndə — Hidden Context Exposure bəndinə çevrilib.
  • Yeni kateqoriyalar əlavə edilmək əvəzinə, yeni risklər mövcud bəndlərə daxil edilib: krossmodal inyeksiya, iddia etdikləri kimi olmayan model artefaktları, incə tənzimləmənin pozulması və təhlükəli yaradılmış kod.
  • Çərçivələrlə uyğunluqlar (NIST, MITRE ATLAS, CWE və digərləri) bir əlavəyə köçürülüb.

OWASP həmçinin daha aydın sərhəd çəkir. Bu siyahı modeli tətbiqinizin komponenti kimi nəzərdən keçirir. Model alətləri, yaddaşı və digər sistemlərə təsirləri olan aktora çevrildikdə, OWASP onu agentik tətbiqlər üçün OWASP Top 10 ilə tamamlamağı tövsiyə edir; onu AI agentlərinin necə qorunduğu barədə bələdçimizdə ətraflı izah edirik.

Siyahıdan komandanızda necə istifadə etməli

OWASP «bütün on bəndi işləyib keçməyi, ən yuxarıdan başlamağı» tövsiyə edir. Praktikada:

  • LLM funksiyasını layihələndirəndə və ya nəzərdən keçirəndə on bəndin hamısından keçin və onun harada həssas olduğunu qeyd edin.
  • Hər qoruma tədbirini məsul şəxsi olan tapşırığa çevirin və düzəlişlərdən sonra yenidən test edin.
  • Developerlər, təhlükəsizlik mühəndisləri və məhsul sahibləri eyni dildə danışsın deyə, tapıntıları bəndlərin ID-ləri ilə işarələyin.
  • Yalnız sizə məxsus olan və ya test etmək üçün yazılı icazəniz olan sistemləri test edin və model provayderinizin şərtlərinin təhlükəsizlik testinə icazə verdiyini yoxlayın.

Öz sürətinizlə keçilən «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursunun yekun layihəsi — «AI Agentinə Hücum Edin, Düzəldin və Yenidən Test Edin» — hər tapıntını OWASP siyahılarına uyğunlaşdıran təhlükəsizlik hesabatı ilə başa çatır.

Növbəti addımlar

Ən yuxarıdakı bənddən başlayın: prompt injection nədir bələdçimiz birbaşa və dolayı hücumları və çoxqatlı müdafiəni izah edir. Tətbiqiniz sənədlər axtarırsa, LLM02 və LLM09 bəndlərinə diqqətlə baxın: onlar axtarış zamanı giriş hüquqlarını və embedding qatını əhatə edir. Əlaqəli, öz sürətinizlə keçilən kurs — «AI Mühəndisi: RAG və Axtarışa Giriş».

Bu bacarıqları sistemli şəkildə qazanmağın yollarından biri «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursudur: öz sürətinizlə, orta səviyyə, 40 saat; AI funksiyaları quran və ya test edən developerlər, AI mühəndisləri və təhlükəsizlik mütəxəssisləri üçün.

Code Labs Academy ilə onlayn texniki bacarıqları öyrənin

Code Labs Academy ilə onlayn texniki bacarıqları öyrənin

Dəstəkləyici birliyimizə qoşulun, potensialınızı açın və mükafatlandırıcı bir karyera yoluna başlayın.

İndi müraciət edin

Tez-tez verilən suallar

LLM tətbiqləri üçün OWASP Top 10 2026 nədir?

Bu, OWASP GenAI Security Project-in böyük dil modelləri əsasında qurulan tətbiqlər üçün ən kritik on təhlükəsizlik riskinin siyahısıdır və 2026-cı ilin avqustunda dərc olunub. Hər bənddə risk izah edilir, hücum ssenariləri verilir və qoruma tədbirləri sadalanır.

OWASP LLM Top 10 2026-da birinci yerdə nə var?

2025-ci ildə olduğu kimi, birinci yerdə LLM01:2026 Prompt Injection dayanır. Sensitive Information Disclosure ikinci yerdə qalır, Excessive Agency isə üçüncü yerə yüksəlir.

2025-ci ilin OWASP LLM Top 10 siyahısı ilə müqayisədə nə dəyişdi?

Sıralama əvvəlki nəşrlərdən daha çox dəyişdi: Excessive Agency altıncı yerdən üçüncü yerə qalxdı, Unbounded Consumption dörd pillə yüksəldi, Improper Output Handling isə beşinci yerdən onuncu yerə düşdü. System Prompt Leakage bəndi Hidden Context Exposure adlı bəndə çevrildi və reytinq ilk dəfə real insidentlərə dair məlumatları da nəzərə aldı.

2026-cı ildə System Prompt Leakage bəndinə nə oldu?

Onun adı dəyişdirildi və əhatəsi genişləndirildi: indi bu, LLM08:2026 Hidden Context Exposure bəndidir. Bənd təkcə sistem promptunu deyil, modelin görə bildiyi istənilən gizli konteksti, o cümlədən developer təlimatlarını, tapılan siyasət mətnlərini və alət sxemlərini əhatə edir.

LLM Top 10 agentik tətbiqlər üçün OWASP Top 10-dan nə ilə fərqlənir?

LLM Top 10 modeli tətbiqinizin içindəki komponent kimi nəzərdən keçirir. Model alətlər, yaddaş və digər sistemlərə təsirlərlə müstəqil hərəkət etdikdə, OWASP onu agentik tətbiqlər üçün Top 10 ilə birlikdə istifadə etməyi tövsiyə edir.

Karyera xidmətləri

Texnologiya sahəsində işə başlamaq üçün fərdi karyera dəstəyi. CV rəyləri, sınaq müsahibələri və sənaye insaytları ilə yeni bacarıqlarınızı inamla təqdim edin.

Kəşf et