Prejsť na hlavný obsah
Späť na blog

Bezpečnosť AI agentov: OWASP Agentic Top 10, MCP a kľúčové opatrenia

Aktualizované na November 19, 20268 minúty čítania


AI agent postavený na veľkom jazykovom modeli (LLM) robí viac než len odpovedá na otázky. Plánuje, volá nástroje, číta a zapisuje údaje a niekedy komunikuje s inými agentmi. Tým rastie, čo je v stávke pri každej slabine modelu: prompt injection, ktorá by v chatbote viedla len k zlej odpovedi, môže agenta prinútiť poslať e-mail, zmeniť záznamy alebo spustiť kód. Tento sprievodca sa venuje OWASP Top 10 pre agentické aplikácie a praktickým opatreniam vrátane bezpečnosti Model Context Protocol (MCP).

Prečo agenti potrebujú vlastný model zabezpečenia

NIST AI 100-2e2025 opisuje agenta ako softvér, ktorý „iteratívne zadáva prompty modelu“, spracúva jeho výstupy, napríklad aby zavolal funkciu, a výsledky vracia do ďalšieho promptu. OWASP Top 10 pre LLM aplikácie 2026 vedie hranicu práve tu: zaoberá sa modelom ako komponentom, a keď model koná s nástrojmi, pamäťou a dosahmi na nadväzujúce systémy, OWASP odkazuje na svoj zoznam pre agentické aplikácie.

Tento zoznam pridáva princíp, ktorý sa oplatí prijať ako prvý: najnižšiu autonómiu (least agency). OWASP organizáciám radí, aby sa „vyhýbali zbytočnej autonómii“, pretože nasadenie agentického správania tam, kde nie je potrebné, „rozširuje útočnú plochu bez pridanej hodnoty“.

OWASP Top 10 pre agentické aplikácie

OWASP GenAI Security Project vydal OWASP Top 10 pre agentické aplikácie 9. decembra 2025. Jeho desať položiek:

  • ASI01: Agent Goal Hijack (únos cieľa agenta). Vložený obsah presmeruje ciele alebo plány agenta.
  • ASI02: Tool Misuse and Exploitation (zneužitie a exploitácia nástrojov). Agent používa legitímne nástroje nebezpečným spôsobom.
  • ASI03: Identity and Privilege Abuse (zneužitie identity a oprávnení). Delegované alebo zdedené prihlasovacie údaje sú zneužité.
  • ASI04: Agentic Supply Chain Vulnerabilities (zraniteľnosti agentického dodávateľského reťazca). Nástroj, MCP server, prompt alebo agent je škodlivý alebo neoprávnene pozmenený.
  • ASI05: Unexpected Code Execution (RCE) (neočakávané spustenie kódu). Vo vašich systémoch sa spustí vygenerovaný alebo vložený kód.
  • ASI06: Memory & Context Poisoning (otrávenie pamäte a kontextu). Dôjde k poškodeniu uloženej pamäte alebo vyhľadaného kontextu.
  • ASI07: Insecure Inter-Agent Communication (nezabezpečená komunikácia medzi agentmi). Správy medzi agentmi sú podvrhnuté alebo pozmenené.
  • ASI08: Cascading Failures (kaskádové zlyhania). Jedna chyba sa šíri naprieč agentmi a pracovnými postupmi.
  • ASI09: Human-Agent Trust Exploitation (zneužitie dôvery človeka v agenta). Ľudia príliš dôverujú sebaistému agentovi.
  • ASI10: Rogue Agents (agenti, ktorí sa vymkli spod kontroly). Agent sa odchyľuje od zamýšľanej funkcie alebo rozsahu.

Dajte agentom najnižšie oprávnenia a prihlasovacie údaje s obmedzeným rozsahom

Položka LLM01:2026 v zozname OWASP uvádza, že väčšina zaznamenaných incidentov prompt injection s veľkým dopadom sa stala závažnými preto, lebo kompromitovaný model mohol prostredníctvom nástrojov konať s oprávneniami používateľa. ASI03 odporúča samostatné identity pre každého agenta a „krátkodobé tokeny s úzkym rozsahom pre každú úlohu“, ASI02 zasa profily pre jednotlivé nástroje s rozsahmi, limitmi požiadaviek a zoznamami povolených cieľov pre odchádzajúcu prevádzku. Nástroje spúšťajte vo vlastnom kontexte používateľa s minimálnym rozsahom OAuth, nie cez zdieľaný účet s vysokými oprávneniami.

Spoločnosť Invariant Labs ukázala, prečo na rozsahu záleží: škodlivé issue na GitHube dokázalo uniesť agenta pripojeného k MCP serveru GitHubu a vyzradiť údaje zo súkromných repozitárov používateľa. Podľa výskumníkov nejde „o chybu v samotnom kóde MCP servera GitHubu“, ale o architektonický problém, a navrhli obmedziť každú reláciu na jeden repozitár.

Rýchlou kontrolou návrhu je pravidlo dvoch pre agentov (Agents Rule of Two) od spoločnosti Meta: v jednej relácii by agent nemal kombinovať viac ako dve z týchto vlastností: spracovanie nedôveryhodných vstupov, prístup k citlivým systémom alebo súkromným údajom a zmenu stavu alebo komunikáciu navonok. Ak potrebuje všetky tri, podľa spoločnosti Meta „by nemal mať povolené fungovať autonómne“.

Používajte zoznamy povolených položiek a kontrolu pravidiel mimo modelu

O tom, čo agent smie robiť, rozhodujte v kóde, nie v prompte. Pre každú úlohu vytvorte zoznam povolených nástrojov, sieťových cieľov, na ktoré sa agent môže pripojiť, a príkazov, ktoré smie spúšťať bez pýtania, a všetko ostatné zakážte. ASI02 opisuje bod vynucovania zásad (policy enforcement point), ktorý výstup plánovača považuje za nedôveryhodný a pred spustením nástroja kontroluje zámer a argumenty, vynucuje schémy a limity požiadaviek a vydáva krátkodobé prihlasovacie údaje.

Spúšťajte kód agenta v sandboxe

Ak agent píše alebo spúšťa kód, počítajte s tým, že časť tohto kódu bude škodlivá (ASI05). OWASP radí: nikdy nespúšťajte kód ako root, spúšťajte ho v izolovaných kontajneroch (sandboxoch) s prísnymi limitmi vrátane prístupu k sieti a oddeľte generovanie kódu od jeho spustenia validačnými bránami. Anthropic vo svojom článku o sandboxingu svojho programovacieho agenta dodáva, že účinný sandboxing vyžaduje izoláciu súborového systému aj siete, pretože bez izolácie siete by kompromitovaný agent „mohol vyniesť citlivé súbory, ako sú kľúče SSH“.

Pred nezvratnými akciami sa opýtajte človeka

Vyžadujte schválenie pred čímkoľvek, čo sa dá ťažko vrátiť alebo čo je vidieť mimo systému: mazaním údajov, prevodom peňazí, publikovaním alebo odosielaním správ. ASI02 navrhuje pred schválením zobraziť skúšobný beh (dry run) alebo diff akcie. Žiadostí o schválenie by malo byť tak málo, aby si každá zachovala váhu: OWASP varuje, že únava zo schvaľovania oslabuje úsudok, a ASI09 opisuje agentov, ktorí schvaľovateľov prehovoria, aby schválili škodlivé akcie.

Považujte MCP servery a popisy nástrojov za nedôveryhodné

MCP uľahčuje pripájanie nástrojov k agentovi, a práve tým sa nástroje stávajú rizikom dodávateľského reťazca. Špecifikácia MCP uvádza, že klienti „MUSIA považovať anotácie nástrojov za nedôveryhodné, pokiaľ nepochádzajú z dôveryhodných serverov“, a že „VŽDY BY MAL byť v slučke človek, ktorý môže volania nástrojov odmietnuť“.

Spoločnosť Invariant Labs opisuje otrávenie nástrojov (tool poisoning) ako inštrukcie v popisoch nástrojov, ktoré „sú pre používateľov neviditeľné, ale pre modely AI viditeľné“, a varuje, že server môže popis zmeniť aj potom, ako bol schválený. Položka ASI04 od OWASP uvádza škodlivý MCP server v npm, ktorý sa vydával za legitímnu e-mailovú integráciu a tajne kopíroval e-maily útočníkovi.

Praktické kroky:

  • MCP servery inštalujte zo zdrojov, ktorým dôverujete, pripínajte verzie a overujte hashe.
  • Kontrolujte, či popisy nástrojov neobsahujú skryté inštrukcie, a to znova pri každej ich zmene.
  • Pri lokálnych serveroch pred spustením zobrazte presný príkaz a server spúšťajte s minimálnymi oprávneniami v sandboxe, ako odporúčajú osvedčené bezpečnostné postupy MCP.
  • Nikdy neodovzdávajte tokeny ďalej: MCP servery „NESMÚ prijímať žiadne tokeny, ktoré neboli výslovne vydané pre daný MCP server“.
  • Začnite s úzkymi rozsahmi OAuth a ďalšie pridávajte, len keď ich konkrétna operácia potrebuje.

Modul 4 kurzu Bezpečnosť AI: zabezpečenie LLM aplikácií a AI agentov, ktorý študujete vlastným tempom, sa venuje zabezpečeniu AI agentov, nástrojov a MCP serverov.

Udržujte pamäť agenta čistú

Pamäť umožňuje, aby útok pretrval naprieč reláciami (ASI06). Overujte, čo sa do pamäte zapisuje, oddeľujte pamäť pre jednotlivých používateľov a úlohy, nechávajte vypršať neoverené záznamy a nedovoľte, aby sa vlastné výstupy agenta automaticky vracali do dôveryhodnej pamäte. Položka LLM01:2026 v zozname OWASP dodáva: zápisy do pamäte považujte za privilegované operácie a ku každému zaznamenajte prompt, ktorý k nemu viedol.

Zaznamenávajte akcie agenta a majte spôsob, ako ho zastaviť

O volaniach nástrojov, schváleniach a správach medzi agentmi veďte logy, v ktorých sa dá odhaliť prípadná manipulácia (tamper-evident), aby ste mohli incidenty vyšetriť a zmeny vrátiť (ASI08, ASI10). Uistite sa, že agenta dokážete rýchlo zastaviť: OWASP pre agentov, ktorí sa vymkli spod kontroly, uvádza núdzové vypínače (kill switches) a odvolanie prihlasovacích údajov a pre nekontrolované behy poistky (circuit breakers) s limitmi krokov, času a nákladov. Cestu k zastaveniu otestujte skôr, ako ju budete potrebovať, a agentov pravidelne podrobujte red teamingu, a to iba na systémoch, ktoré vlastníte alebo na ktorých testovanie máte písomné povolenie, a overte si, že podmienky poskytovateľa vášho modelu bezpečnostné testovanie povoľujú.

Čo hovoria pravidlá EÚ (kontext, nie právne poradenstvo)

  • Nie každý systém AI je podľa aktu EÚ o umelej inteligencii vysokorizikový: vo všeobecnosti len tie, ktoré sa používajú na účel uvedený v prílohe III (s výnimkami), alebo tie, ktoré sú bezpečnostným komponentom výrobku, na ktorý sa vzťahujú právne predpisy EÚ uvedené v prílohe I (alebo sú samy takýmto výrobkom), ak tento výrobok musí absolvovať posúdenie zhody treťou stranou.
  • Pri vysokorizikových systémoch AI vyžaduje článok 15 „primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti“. Čl. 15 ods. 5 k tomu pridáva odolnosť voči pokusom neoprávnených tretích strán zmeniť používanie systému, jeho výstupy alebo výkon a uvádza, v prípade potreby, opatrenia proti otráveniu údajov, otráveniu modelu, adverzariálnym príkladom (obchádzaniu modelu) a útokom na dôvernosť alebo chybám modelu.
  • Po prijatí nariadenia (EÚ) 2026/1744, tzv. „súhrnného balíka opatrení v digitálnej oblasti týkajúceho sa umelej inteligencie“ (Digital Omnibus on AI), ktoré nadobudlo účinnosť 27. júla 2026, sa povinnosti pre vysokorizikové systémy uplatňujú od 2. decembra 2027 na systémy podľa prílohy III a od 2. augusta 2028 na systémy vo výrobkoch podľa prílohy I.
  • Niektoré pravidlá už platia: podľa článku 50 musia od 2. augusta 2026 poskytovatelia systémov AI, ktoré priamo interagujú s ľuďmi, zabezpečiť, aby títo ľudia boli informovaní, že komunikujú s AI, pokiaľ to nie je zrejmé.
  • Akt o kybernetickej odolnosti sa vzťahuje na produkty s digitálnymi prvkami vrátane softvéru, ktoré sa uvádzajú na trh EÚ, preto si overte, či sa váš agent dodáva ako takýto produkt, alebo beží ako služba. Účinnosť nadobudol 10. decembra 2024. Povinnosti výrobcov oznamovať aktívne zneužívané zraniteľnosti a závažné incidenty sa uplatňujú od 11. septembra 2026 a hlavné povinnosti od 11. decembra 2027.

To, či sa na vášho agenta niečo z toho vzťahuje, je otázkou pre právnika.

Kam ďalej

Ak s vývojom agentov začínate, základy pokrýva náš sprievodca ako vytvoriť AI agenta (v angličtine) a kurz vlastným tempom Agentická AI: Úvod do vývoja agentov.

Jedným zo štruktúrovaných spôsobov, ako si tieto zručnosti osvojiť, je kurz Bezpečnosť AI: zabezpečenie LLM aplikácií a AI agentov: študuje sa vlastným tempom, je na stredne pokročilej úrovni a trvá 40 hodín. Zaoberá sa bezpečnosťou dodávateľského reťazca AI a pravidlami EÚ a v záverečnom projekte na AI agenta zaútočíte, opravíte ho a znova otestujete.

Naučte sa technické zručnosti online s Code Labs Academy

Naučte sa technické zručnosti online s Code Labs Academy

Pripojte sa k našej podpornej komunite, odomknite svoj potenciál a vydajte sa na odmeňujúcu kariéru.

Prihlásiť sa

Často kladené otázky

Čo je OWASP Top 10 pre agentické aplikácie?

Je to zoznam desiatich bezpečnostných rizík s najväčším dopadom pre AI agentov, ktorý OWASP GenAI Security Project vydal v decembri 2025. Jeho položky siahajú od ASI01 Agent Goal Hijack po ASI10 Rogue Agents a každá obsahuje príklady a opatrenia.

Čo znamená princíp najnižšej autonómie pri AI agentoch?

Najnižšia autonómia (least agency) je rozšírenie princípu najnižších oprávnení, s ktorým prichádza OWASP: dajte agentovi len takú autonómiu, akú jeho úloha potrebuje. Agentické správanie, ktoré nie je potrebné, rozširuje útočnú plochu bez akejkoľvek pridanej hodnoty.

Je používanie MCP serverov bezpečné?

Zaobchádzajte s nimi ako s akýmkoľvek kódom tretích strán, pretože nástroje servera a ich popisy môžu obsahovať skryté inštrukcie. Inštalujte ich zo zdrojov, ktorým dôverujete, pripínajte a overujte verzie, kontrolujte popisy nástrojov, lokálne servery spúšťajte v sandboxe a zabezpečte, aby človek mohol volania nástrojov odmietnuť.

Má AI agent žiadať o schválenie pred každou akciou?

Nie. Človeka sa pýtajte pred akciami s veľkým dopadom alebo nezvratnými akciami, ako je mazanie údajov, prevod peňazí alebo odosielanie správ, a akcie s nízkym rizikom, ktoré sa dajú vrátiť, nechajte prebehnúť. Priveľa žiadostí o schválenie vedie k únave zo schvaľovania, ktorá oslabuje kontrolu.

Je každý AI agent podľa aktu EÚ o umelej inteligencii vysokorizikový?

Nie. Vo všeobecnosti sú vysokorizikové len systémy AI používané na účel uvedený v prílohe III aktu (s výnimkami) alebo tie, ktoré sú bezpečnostným komponentom výrobku, na ktorý sa vzťahujú právne predpisy EÚ uvedené v prílohe I (alebo sú samy takýmto výrobkom), ak tento výrobok musí absolvovať posúdenie zhody treťou stranou. To, či konkrétny agent patrí do jednej z týchto skupín, je otázkou pre právnika.

Kariérne služby

Personalizovaná kariérna podpora pre štart v IT. Zahŕňa kontrolu životopisu, modelové pohovory a odborné postrehy, aby ste svoje nové zručnosti prezentovali sebavedomo.

Preskúmaj