Jak zabezpečit AI agenty: OWASP Agentic Top 10, MCP a klíčová opatření
Aktualizováno na November 19, 20268 minuty čte
AI agent postavený na velkém jazykovém modelu (LLM) dělá víc, než že odpovídá na otázky. Plánuje, volá nástroje, čte a zapisuje data a někdy komunikuje s dalšími agenty. Tím roste, co je v sázce u každé slabiny modelu: prompt injection, která by v chatbotu vedla jen ke špatné odpovědi, může agenta přimět poslat e-mail, změnit záznamy nebo spustit kód. Tento průvodce se věnuje OWASP Top 10 pro agentní aplikace a praktickým opatřením, včetně bezpečnosti Model Context Protocol (MCP).
Proč agenti potřebují vlastní model zabezpečení
NIST AI 100-2e2025 popisuje agenta jako software, který „iterativně zadává prompty modelu“, zpracovává jeho výstupy, například aby zavolal funkci, a výsledky vrací do dalšího promptu. OWASP Top 10 pro LLM aplikace 2026 vede hranici právě tady: zabývá se modelem jako komponentou, a jakmile model jedná s nástroji, pamětí a dopady na navazující systémy, OWASP odkazuje na svůj seznam pro agentní aplikace.
Tento seznam přidává princip, který se vyplatí přijmout jako první: nejnižší autonomii (least agency). OWASP organizacím radí, aby se „vyhýbaly zbytečné autonomii“, protože nasazení agentního chování tam, kde není potřeba, „rozšiřuje útočnou plochu, aniž by přidávalo hodnotu“.
OWASP Top 10 pro agentní aplikace
OWASP GenAI Security Project vydal OWASP Top 10 pro agentní aplikace 9. prosince 2025. Jeho deset položek:
- ASI01: Agent Goal Hijack (únos cíle agenta). Vložený obsah přesměruje cíle nebo plány agenta.
- ASI02: Tool Misuse and Exploitation (zneužití a exploitace nástrojů). Agent používá legitimní nástroje nebezpečným způsobem.
- ASI03: Identity and Privilege Abuse (zneužití identity a oprávnění). Delegované nebo zděděné přihlašovací údaje jsou zneužity.
- ASI04: Agentic Supply Chain Vulnerabilities (zranitelnosti agentního dodavatelského řetězce). Nástroj, MCP server, prompt nebo agent je škodlivý nebo neoprávněně pozměněný.
- ASI05: Unexpected Code Execution (RCE) (neočekávané spuštění kódu). Na vašich systémech se spustí vygenerovaný nebo vložený kód.
- ASI06: Memory & Context Poisoning (otrávení paměti a kontextu). Dojde k poškození uložené paměti nebo vyhledaného kontextu.
- ASI07: Insecure Inter-Agent Communication (nezabezpečená komunikace mezi agenty). Zprávy mezi agenty jsou podvrženy nebo pozměněny.
- ASI08: Cascading Failures (kaskádová selhání). Jedna chyba se šíří napříč agenty a pracovními postupy.
- ASI09: Human-Agent Trust Exploitation (zneužití důvěry člověka v agenta). Lidé příliš důvěřují sebejistému agentovi.
- ASI10: Rogue Agents (agenti, kteří se vymkli kontrole). Agent se odchyluje od zamýšlené funkce nebo rozsahu.
Dejte agentům nejnižší oprávnění a přihlašovací údaje s omezeným rozsahem
Položka LLM01:2026 v seznamu OWASP uvádí, že většina zaznamenaných incidentů prompt injection s velkým dopadem se stala závažnými proto, že kompromitovaný model mohl prostřednictvím nástrojů jednat s oprávněními uživatele. ASI03 doporučuje samostatné identity pro každého agenta a „krátkodobé tokeny s úzkým rozsahem pro každou úlohu“, ASI02 pak profily pro jednotlivé nástroje s rozsahy, limity požadavků a seznamy povolených cílů pro odchozí provoz. Nástroje spouštějte ve vlastním kontextu uživatele s minimálním rozsahem OAuth, ne přes sdílený účet s vysokými oprávněními.
Společnost Invariant Labs ukázala, proč na rozsahu záleží: škodlivé issue na GitHubu dokázalo unést agenta připojeného k MCP serveru GitHubu a vyzradit data ze soukromých repozitářů uživatele. Podle výzkumníků nejde „o chybu v samotném kódu MCP serveru GitHubu“, ale o architektonický problém, a navrhli omezit každou relaci na jeden repozitář.
Rychlou kontrolou návrhu je pravidlo dvou pro agenty (Agents Rule of Two) od společnosti Meta: v jedné relaci by agent neměl kombinovat víc než dvě z těchto vlastností: zpracování nedůvěryhodných vstupů, přístup k citlivým systémům nebo soukromým datům a změnu stavu nebo komunikaci navenek. Pokud potřebuje všechny tři, podle Mety „by neměl smět fungovat autonomně“.
Používejte seznamy povolených položek a kontrolu pravidel mimo model
O tom, co agent smí dělat, rozhodujte v kódu, ne v promptu. Pro každou úlohu povolte výčtem nástroje, síťové cíle, na které se agent může připojit, a příkazy, které smí spouštět bez ptaní, a vše ostatní zakažte. ASI02 popisuje bod vynucování zásad (policy enforcement point), který výstup plánovače považuje za nedůvěryhodný a před spuštěním nástroje kontroluje záměr a argumenty, vynucuje schémata a limity požadavků a vydává krátkodobé přihlašovací údaje.
Spouštějte kód agenta v sandboxu
Pokud agent píše nebo spouští kód, počítejte s tím, že část tohoto kódu bude škodlivá (ASI05). OWASP radí: nikdy nespouštějte kód jako root, spouštějte ho v izolovaných kontejnerech (sandboxech) s přísnými limity včetně přístupu k síti a oddělte generování kódu od jeho spuštění validačními branami. Anthropic ve svém článku o sandboxingu svého programovacího agenta dodává, že účinný sandboxing vyžaduje izolaci souborového systému i sítě, protože bez izolace sítě by kompromitovaný agent „mohl vynést citlivé soubory, jako jsou klíče SSH“.
Před nevratnými akcemi se zeptejte člověka
Vyžadujte schválení před čímkoli, co lze těžko vrátit nebo co je vidět mimo systém: mazáním dat, převodem peněz, publikováním nebo odesíláním zpráv. ASI02 navrhuje před schválením zobrazit zkušební běh (dry run) nebo diff akce. Žádostí o schválení by mělo být tak málo, aby si každá zachovala váhu: OWASP varuje, že únava ze schvalování oslabuje úsudek, a ASI09 popisuje agenty, kteří schvalovatele přemluví ke schválení škodlivých akcí.
Považujte MCP servery a popisy nástrojů za nedůvěryhodné
MCP usnadňuje připojování nástrojů k agentovi, a právě tím se nástroje stávají rizikem dodavatelského řetězce. Specifikace MCP uvádí, že klienti „MUSÍ považovat anotace nástrojů za nedůvěryhodné, pokud nepocházejí z důvěryhodných serverů“, a že „VŽDY BY MĚL být ve smyčce člověk, který může volání nástrojů odmítnout“.
Společnost Invariant Labs popisuje otrávení nástrojů (tool poisoning) jako instrukce v popisech nástrojů, které „jsou pro uživatele neviditelné, ale pro modely AI viditelné“, a varuje, že server může popis změnit i poté, co byl schválen. Položka ASI04 od OWASP uvádí škodlivý MCP server v npm, který se vydával za legitimní e-mailovou integraci a tajně kopíroval e-maily útočníkovi.
Praktické kroky:
- MCP servery instalujte ze zdrojů, kterým důvěřujete, připínejte verze a ověřujte hashe.
- Kontrolujte, zda popisy nástrojů neobsahují skryté instrukce, a to znovu při každé jejich změně.
- U lokálních serverů před spuštěním zobrazte přesný příkaz a server spouštějte s minimálními oprávněními v sandboxu, jak doporučují osvědčené bezpečnostní postupy MCP.
- Nikdy nepředávejte tokeny dál: MCP servery „NESMÍ přijímat žádné tokeny, které nebyly výslovně vydány pro daný MCP server“.
- Začněte s úzkými rozsahy OAuth a další přidávejte, jen když je konkrétní operace potřebuje.
Modul 4 kurzu Bezpečnost AI: zabezpečení LLM aplikací a AI agentů, který studujete vlastním tempem, se věnuje zabezpečení AI agentů, nástrojů a MCP serverů.
Udržujte paměť agenta čistou
Paměť umožňuje, aby útok přetrval napříč relacemi (ASI06). Ověřujte, co se do paměti zapisuje, oddělujte paměť pro jednotlivé uživatele a úlohy, nechávejte vypršet neověřené záznamy a nedovolte, aby se vlastní výstupy agenta automaticky vracely do důvěryhodné paměti. Položka LLM01:2026 v seznamu OWASP dodává: zápisy do paměti považujte za privilegované operace a ke každému zaznamenejte prompt, který za ním stojí.
Zaznamenávejte akce agenta a mějte způsob, jak ho zastavit
O voláních nástrojů, schváleních a zprávách mezi agenty veďte logy, v nichž lze odhalit případnou manipulaci (tamper-evident), abyste mohli incidenty vyšetřit a změny vrátit (ASI08, ASI10). Ujistěte se, že agenta dokážete rychle zastavit: OWASP pro agenty, kteří se vymkli kontrole, uvádí nouzové vypínače (kill switches) a odvolání přihlašovacích údajů a pro nekontrolované běhy pojistky (circuit breakers) s limity kroků, času a nákladů. Cestu k zastavení otestujte dřív, než ji budete potřebovat, a agenty pravidelně podrobujte red teamingu, a to pouze na systémech, které vlastníte nebo k jejichž testování máte písemné povolení, a ověřte si, že podmínky poskytovatele vašeho modelu bezpečnostní testování povolují.
Co říkají pravidla EU (kontext, nikoli právní poradenství)
- Ne každý systém AI je podle aktu EU o umělé inteligenci vysoce rizikový: obecně jen ty, které se používají k účelu uvedenému v příloze III (s výjimkami), nebo ty, které jsou bezpečnostní komponentou produktu, na který se vztahují právní předpisy EU uvedené v příloze I (nebo jsou samy takovým produktem), pokud tento produkt musí projít posouzením shody třetí stranou.
- U vysoce rizikových systémů AI vyžaduje článek 15 „náležitou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti“. Čl. 15 odst. 5 k tomu přidává odolnost vůči pokusům neoprávněných třetích stran změnit použití systému, jeho výstupy nebo výkonnost a uvádí, v příslušných případech, opatření proti otrávení dat, otrávení modelu, adversariálním příkladům (obcházení modelu) a útokům na důvěrnost nebo vadám modelu.
- Po přijetí nařízení (EU) 2026/1744, tzv. „souhrnného balíčku pro digitální oblast týkajícího se umělé inteligence“ (Digital Omnibus on AI), které je v platnosti od 27. července 2026, se povinnosti pro vysoce rizikové systémy uplatňují od 2. prosince 2027 u systémů podle přílohy III a od 2. srpna 2028 u systémů v produktech podle přílohy I.
- Některá pravidla už platí: podle článku 50 musí od 2. srpna 2026 poskytovatelé systémů AI, které přímo komunikují s lidmi, zajistit, aby tito lidé byli informováni, že komunikují s AI, pokud to není zřejmé.
- Akt o kybernetické odolnosti se vztahuje na produkty s digitálními prvky, včetně softwaru, uváděné na trh EU, proto si ověřte, zda se váš agent dodává jako takový produkt, nebo běží jako služba. V platnost vstoupil 10. prosince 2024. Povinnosti výrobců hlásit aktivně zneužívané zranitelnosti a závažné incidenty platí od 11. září 2026 a hlavní povinnosti od 11. prosince 2027.
Zda se na vašeho agenta cokoli z toho vztahuje, je otázkou pro právníka.
Kam dál
Pokud s vývojem agentů začínáte, základy pokrývá náš průvodce jak vytvořit AI agenta (v angličtině) a kurz vlastním tempem Agentní AI: Úvod do vývoje agentů.
Jedním ze strukturovaných způsobů, jak si tyto dovednosti osvojit, je kurz Bezpečnost AI: zabezpečení LLM aplikací a AI agentů: studuje se vlastním tempem, je na středně pokročilé úrovni a trvá 40 hodin. Zabývá se bezpečností dodavatelského řetězce AI a pravidly EU a v závěrečném projektu na AI agenta zaútočíte, opravíte ho a znovu otestujete.

Naučte se technické dovednosti online s Code Labs Academy
Připojte se k naší podpůrné komunitě, odemkněte svůj potenciál a vydejte se na obohacující kariéru.
Přihlaste se hned