AI agentləri necə qorunur: OWASP Agentic Top 10, MCP və əsas tədbirlər
November 19, 2026 yeniləndi7 dəqiqə oxundu
Böyük dil modeli (LLM) əsasında qurulan AI agenti sadəcə suallara cavab vermir. O, planlaşdırır, alətləri çağırır, məlumatları oxuyur və yazır, bəzən də digər agentlərlə ünsiyyət qurur. Bu, modelin hər zəifliyinin qiymətini artırır: çatbotda sadəcə pis cavaba səbəb olacaq prompt injection agenti e-məktub göndərməyə, qeydləri dəyişdirməyə və ya kod icra etməyə məcbur edə bilər. Bu bələdçi agentik tətbiqlər üçün OWASP Top 10-u və praktik qoruma tədbirlərini, o cümlədən Model Context Protocol (MCP) təhlükəsizliyini əhatə edir.
Agentlərin niyə öz təhlükəsizlik modelinə ehtiyacı var
NIST AI 100-2e2025 agenti «modelə iterativ şəkildə promptlar göndərən», onun çıxışlarını, məsələn, funksiya çağırmaq üçün emal edən və nəticələri növbəti prompta ötürən proqram kimi təsvir edir. LLM tətbiqləri üçün OWASP Top 10 2026 sərhədi məhz burada çəkir: o, modeli komponent kimi nəzərdən keçirir, model isə alətlər, yaddaş və digər sistemlərə təsirlərlə hərəkət etdikdə OWASP öz agent siyahısına istinad edir.
Həmin siyahı ilk növbədə mənimsənilməyə dəyər bir prinsip əlavə edir: minimal səlahiyyət (least agency). OWASP təşkilatlara «lazımsız muxtariyyətdən qaçmağı» tövsiyə edir, çünki agentik davranışın ehtiyac olmayan yerdə tətbiqi «heç bir dəyər qatmadan hücum səthini genişləndirir».
Agentik tətbiqlər üçün OWASP Top 10
OWASP GenAI Security Project agentik tətbiqlər üçün OWASP Top 10 siyahısını 9 dekabr 2025-ci ildə dərc edib. Onun on bəndi:
- ASI01: Agent Goal Hijack (agentin məqsədinin ələ keçirilməsi). İnyeksiya edilmiş məzmun agentin məqsədlərini və ya planlarını başqa istiqamətə yönəldir.
- ASI02: Tool Misuse and Exploitation (alətlərdən sui-istifadə və onların istismarı). Agent qanuni alətlərdən təhlükəli şəkildə istifadə edir.
- ASI03: Identity and Privilege Abuse (kimlik və imtiyazlardan sui-istifadə). Həvalə edilmiş və ya miras alınmış giriş məlumatlarından sui-istifadə olunur.
- ASI04: Agentic Supply Chain Vulnerabilities (agentik təchizat zənciri zəiflikləri). Alətlər, MCP serverləri, promptlar və ya agentlər zərərli və ya saxtalaşdırılmış olur.
- ASI05: Unexpected Code Execution (RCE) (gözlənilməz kod icrası). Yaradılmış və ya inyeksiya edilmiş kod sizin sistemlərinizdə icra olunur.
- ASI06: Memory & Context Poisoning (yaddaş və kontekst zəhərlənməsi). Saxlanılan yaddaş və ya tapılan kontekst korlanır.
- ASI07: Insecure Inter-Agent Communication (agentlər arasında təhlükəli ünsiyyət). Agentlər arasındakı mesajlar saxtalaşdırılır və ya dəyişdirilir.
- ASI08: Cascading Failures (kaskad nasazlıqlar). Bir nasazlıq agentlər və iş axınları üzrə yayılır.
- ASI09: Human-Agent Trust Exploitation (insanın agentə etibarından sui-istifadə). İnsanlar özünə inamlı agentə həddindən artıq etibar edir.
- ASI10: Rogue Agents (nəzarətdən çıxmış agentlər). Agent nəzərdə tutulmuş funksiyasından və ya əhatəsindən kənara çıxır.
Agentlərə minimal imtiyazlar və dar əhatəli giriş məlumatları verin
OWASP-ın LLM01:2026 bəndi qeyd edir ki, qeydə alınmış yüksək təsirli prompt injection insidentlərinin əksəriyyəti kompromitasiya edilmiş modelin istifadəçinin imtiyaz səviyyəsində alətlər vasitəsilə hərəkət edə bilməsi səbəbindən ağır nəticələnib. ASI03 hər agent üçün ayrıca kimlik və «hər tapşırıq üçün qısamüddətli, dar əhatəli tokenlər», ASI02 isə hər alət üçün əhatə dairələri, sorğu limitləri və çıxan trafik üçün icazə siyahıları olan profillər tövsiyə edir. Alətləri yüksək imtiyazlı ümumi hesab vasitəsilə deyil, istifadəçinin öz kontekstində, minimal OAuth əhatə dairəsi ilə işə salın.
Invariant Labs əhatə dairəsinin niyə vacib olduğunu göstərib: GitHub-dakı zərərli issue GitHub-ın MCP serverinə qoşulmuş agenti ələ keçirib istifadəçinin şəxsi repozitoriyalarındakı məlumatları ifşa edə bilərdi. Tədqiqatçılar bunu «GitHub MCP serverinin kodunun özündəki qüsur deyil», arxitektura problemi adlandırıb və hər sessiyanı bir repozitoriya ilə məhdudlaşdırmağı təklif ediblər.
Sürətli dizayn yoxlaması Meta-nın Agents Rule of Two qaydasıdır: bir sessiya ərzində agent bu üç xüsusiyyətdən ikisindən çoxunu birləşdirməməlidir — etibarsız girişləri emal etmək, həssas sistemlərə və ya şəxsi məlumatlara çıxış əldə etmək, vəziyyəti dəyişmək və ya xarici dünya ilə əlaqə saxlamaq. Agentə hər üçü lazımdırsa, Meta-nın sözlərinə görə, ona «avtonom işləməyə icazə verilməməlidir».
İcazə siyahılarından və modeldən kənar siyasət yoxlamasından istifadə edin
Agentin nə edə biləcəyinə promptda deyil, kodda qərar verin. Hər tapşırıq üçün alətləri, agentin müraciət edə biləcəyi şəbəkə ünvanlarını və soruşmadan icra edə biləcəyi əmrləri icazə siyahısına salın, qalan hər şeyi isə qadağan edin. ASI02 planlaşdırıcının çıxışını etibarsız sayan siyasət tətbiqetmə nöqtəsini (policy enforcement point) təsvir edir: alət işə düşməzdən əvvəl o, niyyəti və arqumentləri yoxlayır, sxemləri və sorğu limitlərini tətbiq edir və qısamüddətli giriş məlumatları verir.
Agentin icra etdiyi istənilən kodu sandbox-da işə salın
Agent kod yazır və ya icra edirsə, onun bir hissəsinin zərərli olacağını nəzərə alın (ASI05). OWASP-ın tövsiyələri: kodu heç vaxt root kimi işə salmayın, onu şəbəkə girişi də daxil olmaqla ciddi məhdudiyyətləri olan təcrid edilmiş konteynerlərdə icra edin və yoxlama mərhələləri ilə kod yaradılmasını icradan ayırın. Anthropic öz kodlaşdırma agentinin sandbox-da təcrid edilməsi haqqında yazısında əlavə edir ki, effektiv sandbox həm fayl sisteminin, həm də şəbəkənin təcridini tələb edir, çünki şəbəkə təcridi olmadan kompromitasiya edilmiş agent «SSH açarları kimi həssas faylları kənara sızdıra bilər».
Geri qaytarıla bilməyən əməliyyatlardan əvvəl insandan soruşun
Geri qaytarılması çətin olan və ya sistemdən kənarda görünən hər şeydən əvvəl təsdiq tələb edin: məlumatların silinməsi, pul köçürülməsi, dərc etmə və ya mesaj göndərmə. ASI02 təsdiqdən əvvəl əməliyyatın sınaq icrasının (dry-run) nəticəsini və ya diff-ini göstərməyi təklif edir. Təsdiq sorğularını əhəmiyyətini itirməyəcək qədər nadir edin: OWASP təsdiq yorğunluğunun diqqəti zəiflətdiyi barədə xəbərdarlıq edir, ASI09 isə yoxlayanları zərərli əməliyyatları təsdiqləməyə razı salan agentləri təsvir edir.
MCP serverlərinə və alət təsvirlərinə etibarsız kimi yanaşın
MCP alətləri agentə qoşmağı asanlaşdırır və bu, alətləri təchizat zənciri riskinə çevirir. MCP spesifikasiyasına görə, klientlər «etibarlı serverlərdən gəlmədikcə, alət annotasiyalarını etibarsız saymağa BORCLUDUR» və «alət çağırışlarını rədd edə bilən insan HƏMİŞƏ prosesdə OLMALIDIR».
Invariant Labs alətlərin zəhərlənməsini (tool poisoning) alət təsvirlərindəki «istifadəçilər üçün görünməz, lakin AI modelləri üçün görünən» təlimatlar kimi təsvir edir və serverin siz təsviri təsdiqlədikdən sonra onu dəyişə biləcəyi barədə xəbərdarlıq edir. OWASP ASI04-də npm-dəki qanuni e-poçt inteqrasiyası kimi görünən və e-məktubların surətini gizlicə hücumçuya göndərən zərərli MCP serverini nümunə kimi göstərir.
Praktik addımlar:
- MCP serverlərini etibar etdiyiniz mənbələrdən quraşdırın, versiyaları sabitləyin və heşləri yoxlayın.
- Alət təsvirlərini gizli təlimatlara görə nəzərdən keçirin və onlar dəyişdikdə yenidən yoxlayın.
- Lokal serverlər üçün dəqiq əmri işə düşməzdən əvvəl göstərin və serveri MCP təhlükəsizliyinin ən yaxşı təcrübələrinin tövsiyə etdiyi kimi, sandbox-da minimal imtiyazlarla işə salın.
- Tokenləri heç vaxt tranzitlə ötürməyin: MCP serverləri «MCP serveri üçün açıq şəkildə verilməmiş heç bir tokeni QƏBUL ETMƏMƏLİDİR».
- Dar OAuth əhatə dairələri ilə başlayın və onları yalnız əməliyyat tələb etdikdə genişləndirin.
Öz sürətinizlə keçilən «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursunun 4-cü modulu AI agentlərinin, alətlərin və MCP serverlərinin qorunmasına həsr olunub.
Agent yaddaşını təmiz saxlayın
Yaddaş hücumun sessiyalar arasında davam etməsinə imkan verir (ASI06). Yaddaşa nəyin yazıldığını yoxlayın, yaddaşı istifadəçilər və tapşırıqlar üzrə ayrı saxlayın, yoxlanılmamış qeydlərin müddətini məhdudlaşdırın və agentin öz çıxışlarının avtomatik olaraq etibarlı yaddaşa geri qayıtmasına icazə verməyin. OWASP-ın LLM01:2026 bəndi əlavə edir: yaddaşa yazmağa imtiyazlı əməliyyat kimi yanaşın və hər yazının arxasındakı promptu loqlayın.
Agentin əməliyyatlarını loqlayın və onu dayandırmaq imkanını saxlayın
Araşdırma apara və dəyişiklikləri geri qaytara biləsiniz deyə, alət çağırışlarının, təsdiqlərin və agentlər arasındakı mesajların müdaxiləni aşkar edən (tamper-evident) loqlarını aparın (ASI08, ASI10). Agenti tez dayandıra bildiyinizə əmin olun: nəzarətdən çıxmış agentlər üçün OWASP qəza söndürücülərini (kill switches) və giriş məlumatlarının ləğvini, nəzarətsiz davam edən icralar üçün isə addım, vaxt və xərc limitləri olan qoruyucu açarları (circuit breakers) sadalayır. Dayandırma mexanizmini ehtiyac yaranmazdan əvvəl sınaqdan keçirin və agentlər üzərində müntəzəm red teaming aparın — yalnız sizə məxsus olan və ya test etmək üçün yazılı icazəniz olan sistemlərdə — və model provayderinizin şərtlərinin təhlükəsizlik testinə icazə verdiyini yoxlayın.
Aİ qaydaları nə deyir (hüquqi məsləhət deyil, ümumi məlumat)
- Aİ-nin Süni intellekt haqqında Qanununa (EU AI Act) görə hər AI sistemi yüksək riskli deyil: ümumilikdə, yalnız Əlavə III-də sadalanan məqsədlər üçün istifadə olunanlar (istisnalarla) və ya Əlavə I-də sadalanan Aİ qanunlarının əhatə etdiyi məhsulun təhlükəsizlik komponenti olanlar (yaxud özü belə məhsul olanlar), həmin məhsul üçüncü tərəfin apardığı uyğunluğun qiymətləndirilməsindən keçməli olduqda.
- Yüksək riskli AI sistemləri üçün 15-ci maddə «müvafiq dəqiqlik, dayanıqlılıq və kibertəhlükəsizlik səviyyəsi» tələb edir. 15-ci maddənin 5-ci bəndi icazəsi olmayan üçüncü tərəflərin sistemin istifadəsini, çıxışlarını və ya işini dəyişdirmək cəhdlərinə qarşı davamlılığı əlavə edir və lazım gəldikdə məlumatların zəhərlənməsinə, modelin zəhərlənməsinə, adversarial nümunələrə (modelin yayınması), həmçinin məxfiliyə qarşı hücumlara və ya model qüsurlarına qarşı tədbirləri sadalayır.
- «Digital Omnibus on AI» adlanan (Aİ) 2026/1744 saylı Reqlament 27 iyul 2026-cı ildə qüvvəyə mindikdən sonra yüksək riskli sistemlərlə bağlı öhdəliklər Əlavə III-dəki sistemlərə 2 dekabr 2027-ci ildən, Əlavə I-ə aid məhsullardakı sistemlərə isə 2 avqust 2028-ci ildən tətbiq olunur.
- Bəzi qaydalar artıq qüvvədədir: 50-ci maddəyə əsasən, 2 avqust 2026-cı ildən insanlarla birbaşa qarşılıqlı əlaqədə olan AI sistemlərinin provayderləri, əgər bu aydın deyilsə, həmin insanlara AI ilə işlədiklərinin bildirilməsini təmin etməlidir.
- Cyber Resilience Act Aİ bazarına çıxarılan rəqəmsal elementləri olan məhsullara, o cümlədən proqram təminatına şamil olunur, ona görə də agentinizin belə bir məhsul kimi təqdim edildiyini, yoxsa xidmət kimi işlədiyini yoxlayın. O, 10 dekabr 2024-cü ildə qüvvəyə minib. İstehsalçıların aktiv şəkildə istismar edilən zəifliklər və ciddi insidentlər barədə məlumat vermək öhdəlikləri 11 sentyabr 2026-cı ildən, əsas öhdəliklər isə 11 dekabr 2027-ci ildən tətbiq olunur.
Bunlardan hər hansı birinin agentinizə aid olub-olmaması hüquqşünasla həll edilməli məsələdir.
Növbəti addımlar
Agent qurmağa yeni başlayırsınızsa, əsasları AI agentini necə qurmalı (ingilis dilində) bələdçimizdə və öz sürətinizlə keçilən «Agentik AI: Agent Hazırlanmasına Giriş» kursunda tapa bilərsiniz.
Bu bacarıqları sistemli şəkildə qazanmağın yollarından biri «AI Təhlükəsizliyi: LLM Tətbiqlərinin və AI Agentlərinin Qorunması» kursudur: öz sürətinizlə, orta səviyyə, 40 saat. O, AI təchizat zəncirinin təhlükəsizliyini və Aİ qaydalarını əhatə edir, yekun layihədə isə AI agentinə hücum edir, onu düzəldir və yenidən test edirsiniz.

Code Labs Academy ilə onlayn texniki bacarıqları öyrənin
Dəstəkləyici birliyimizə qoşulun, potensialınızı açın və mükafatlandırıcı bir karyera yoluna başlayın.
İndi müraciət edin