Přejít na hlavní obsah
Zpět na blog

Jak zabezpečit AI agenty: OWASP Agentic Top 10, MCP a klíčová opatření

Aktualizováno na November 19, 20268 minuty čte


AI agent postavený na velkém jazykovém modelu (LLM) dělá víc, než že odpovídá na otázky. Plánuje, volá nástroje, čte a zapisuje data a někdy komunikuje s dalšími agenty. Tím roste, co je v sázce u každé slabiny modelu: prompt injection, která by v chatbotu vedla jen ke špatné odpovědi, může agenta přimět poslat e-mail, změnit záznamy nebo spustit kód. Tento průvodce se věnuje OWASP Top 10 pro agentní aplikace a praktickým opatřením, včetně bezpečnosti Model Context Protocol (MCP).

Proč agenti potřebují vlastní model zabezpečení

NIST AI 100-2e2025 popisuje agenta jako software, který „iterativně zadává prompty modelu“, zpracovává jeho výstupy, například aby zavolal funkci, a výsledky vrací do dalšího promptu. OWASP Top 10 pro LLM aplikace 2026 vede hranici právě tady: zabývá se modelem jako komponentou, a jakmile model jedná s nástroji, pamětí a dopady na navazující systémy, OWASP odkazuje na svůj seznam pro agentní aplikace.

Tento seznam přidává princip, který se vyplatí přijmout jako první: nejnižší autonomii (least agency). OWASP organizacím radí, aby se „vyhýbaly zbytečné autonomii“, protože nasazení agentního chování tam, kde není potřeba, „rozšiřuje útočnou plochu, aniž by přidávalo hodnotu“.

OWASP Top 10 pro agentní aplikace

OWASP GenAI Security Project vydal OWASP Top 10 pro agentní aplikace 9. prosince 2025. Jeho deset položek:

  • ASI01: Agent Goal Hijack (únos cíle agenta). Vložený obsah přesměruje cíle nebo plány agenta.
  • ASI02: Tool Misuse and Exploitation (zneužití a exploitace nástrojů). Agent používá legitimní nástroje nebezpečným způsobem.
  • ASI03: Identity and Privilege Abuse (zneužití identity a oprávnění). Delegované nebo zděděné přihlašovací údaje jsou zneužity.
  • ASI04: Agentic Supply Chain Vulnerabilities (zranitelnosti agentního dodavatelského řetězce). Nástroj, MCP server, prompt nebo agent je škodlivý nebo neoprávněně pozměněný.
  • ASI05: Unexpected Code Execution (RCE) (neočekávané spuštění kódu). Na vašich systémech se spustí vygenerovaný nebo vložený kód.
  • ASI06: Memory & Context Poisoning (otrávení paměti a kontextu). Dojde k poškození uložené paměti nebo vyhledaného kontextu.
  • ASI07: Insecure Inter-Agent Communication (nezabezpečená komunikace mezi agenty). Zprávy mezi agenty jsou podvrženy nebo pozměněny.
  • ASI08: Cascading Failures (kaskádová selhání). Jedna chyba se šíří napříč agenty a pracovními postupy.
  • ASI09: Human-Agent Trust Exploitation (zneužití důvěry člověka v agenta). Lidé příliš důvěřují sebejistému agentovi.
  • ASI10: Rogue Agents (agenti, kteří se vymkli kontrole). Agent se odchyluje od zamýšlené funkce nebo rozsahu.

Dejte agentům nejnižší oprávnění a přihlašovací údaje s omezeným rozsahem

Položka LLM01:2026 v seznamu OWASP uvádí, že většina zaznamenaných incidentů prompt injection s velkým dopadem se stala závažnými proto, že kompromitovaný model mohl prostřednictvím nástrojů jednat s oprávněními uživatele. ASI03 doporučuje samostatné identity pro každého agenta a „krátkodobé tokeny s úzkým rozsahem pro každou úlohu“, ASI02 pak profily pro jednotlivé nástroje s rozsahy, limity požadavků a seznamy povolených cílů pro odchozí provoz. Nástroje spouštějte ve vlastním kontextu uživatele s minimálním rozsahem OAuth, ne přes sdílený účet s vysokými oprávněními.

Společnost Invariant Labs ukázala, proč na rozsahu záleží: škodlivé issue na GitHubu dokázalo unést agenta připojeného k MCP serveru GitHubu a vyzradit data ze soukromých repozitářů uživatele. Podle výzkumníků nejde „o chybu v samotném kódu MCP serveru GitHubu“, ale o architektonický problém, a navrhli omezit každou relaci na jeden repozitář.

Rychlou kontrolou návrhu je pravidlo dvou pro agenty (Agents Rule of Two) od společnosti Meta: v jedné relaci by agent neměl kombinovat víc než dvě z těchto vlastností: zpracování nedůvěryhodných vstupů, přístup k citlivým systémům nebo soukromým datům a změnu stavu nebo komunikaci navenek. Pokud potřebuje všechny tři, podle Mety „by neměl smět fungovat autonomně“.

Používejte seznamy povolených položek a kontrolu pravidel mimo model

O tom, co agent smí dělat, rozhodujte v kódu, ne v promptu. Pro každou úlohu povolte výčtem nástroje, síťové cíle, na které se agent může připojit, a příkazy, které smí spouštět bez ptaní, a vše ostatní zakažte. ASI02 popisuje bod vynucování zásad (policy enforcement point), který výstup plánovače považuje za nedůvěryhodný a před spuštěním nástroje kontroluje záměr a argumenty, vynucuje schémata a limity požadavků a vydává krátkodobé přihlašovací údaje.

Spouštějte kód agenta v sandboxu

Pokud agent píše nebo spouští kód, počítejte s tím, že část tohoto kódu bude škodlivá (ASI05). OWASP radí: nikdy nespouštějte kód jako root, spouštějte ho v izolovaných kontejnerech (sandboxech) s přísnými limity včetně přístupu k síti a oddělte generování kódu od jeho spuštění validačními branami. Anthropic ve svém článku o sandboxingu svého programovacího agenta dodává, že účinný sandboxing vyžaduje izolaci souborového systému i sítě, protože bez izolace sítě by kompromitovaný agent „mohl vynést citlivé soubory, jako jsou klíče SSH“.

Před nevratnými akcemi se zeptejte člověka

Vyžadujte schválení před čímkoli, co lze těžko vrátit nebo co je vidět mimo systém: mazáním dat, převodem peněz, publikováním nebo odesíláním zpráv. ASI02 navrhuje před schválením zobrazit zkušební běh (dry run) nebo diff akce. Žádostí o schválení by mělo být tak málo, aby si každá zachovala váhu: OWASP varuje, že únava ze schvalování oslabuje úsudek, a ASI09 popisuje agenty, kteří schvalovatele přemluví ke schválení škodlivých akcí.

Považujte MCP servery a popisy nástrojů za nedůvěryhodné

MCP usnadňuje připojování nástrojů k agentovi, a právě tím se nástroje stávají rizikem dodavatelského řetězce. Specifikace MCP uvádí, že klienti „MUSÍ považovat anotace nástrojů za nedůvěryhodné, pokud nepocházejí z důvěryhodných serverů“, a že „VŽDY BY MĚL být ve smyčce člověk, který může volání nástrojů odmítnout“.

Společnost Invariant Labs popisuje otrávení nástrojů (tool poisoning) jako instrukce v popisech nástrojů, které „jsou pro uživatele neviditelné, ale pro modely AI viditelné“, a varuje, že server může popis změnit i poté, co byl schválen. Položka ASI04 od OWASP uvádí škodlivý MCP server v npm, který se vydával za legitimní e-mailovou integraci a tajně kopíroval e-maily útočníkovi.

Praktické kroky:

  • MCP servery instalujte ze zdrojů, kterým důvěřujete, připínejte verze a ověřujte hashe.
  • Kontrolujte, zda popisy nástrojů neobsahují skryté instrukce, a to znovu při každé jejich změně.
  • U lokálních serverů před spuštěním zobrazte přesný příkaz a server spouštějte s minimálními oprávněními v sandboxu, jak doporučují osvědčené bezpečnostní postupy MCP.
  • Nikdy nepředávejte tokeny dál: MCP servery „NESMÍ přijímat žádné tokeny, které nebyly výslovně vydány pro daný MCP server“.
  • Začněte s úzkými rozsahy OAuth a další přidávejte, jen když je konkrétní operace potřebuje.

Modul 4 kurzu Bezpečnost AI: zabezpečení LLM aplikací a AI agentů, který studujete vlastním tempem, se věnuje zabezpečení AI agentů, nástrojů a MCP serverů.

Udržujte paměť agenta čistou

Paměť umožňuje, aby útok přetrval napříč relacemi (ASI06). Ověřujte, co se do paměti zapisuje, oddělujte paměť pro jednotlivé uživatele a úlohy, nechávejte vypršet neověřené záznamy a nedovolte, aby se vlastní výstupy agenta automaticky vracely do důvěryhodné paměti. Položka LLM01:2026 v seznamu OWASP dodává: zápisy do paměti považujte za privilegované operace a ke každému zaznamenejte prompt, který za ním stojí.

Zaznamenávejte akce agenta a mějte způsob, jak ho zastavit

O voláních nástrojů, schváleních a zprávách mezi agenty veďte logy, v nichž lze odhalit případnou manipulaci (tamper-evident), abyste mohli incidenty vyšetřit a změny vrátit (ASI08, ASI10). Ujistěte se, že agenta dokážete rychle zastavit: OWASP pro agenty, kteří se vymkli kontrole, uvádí nouzové vypínače (kill switches) a odvolání přihlašovacích údajů a pro nekontrolované běhy pojistky (circuit breakers) s limity kroků, času a nákladů. Cestu k zastavení otestujte dřív, než ji budete potřebovat, a agenty pravidelně podrobujte red teamingu, a to pouze na systémech, které vlastníte nebo k jejichž testování máte písemné povolení, a ověřte si, že podmínky poskytovatele vašeho modelu bezpečnostní testování povolují.

Co říkají pravidla EU (kontext, nikoli právní poradenství)

  • Ne každý systém AI je podle aktu EU o umělé inteligenci vysoce rizikový: obecně jen ty, které se používají k účelu uvedenému v příloze III (s výjimkami), nebo ty, které jsou bezpečnostní komponentou produktu, na který se vztahují právní předpisy EU uvedené v příloze I (nebo jsou samy takovým produktem), pokud tento produkt musí projít posouzením shody třetí stranou.
  • U vysoce rizikových systémů AI vyžaduje článek 15 „náležitou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti“. Čl. 15 odst. 5 k tomu přidává odolnost vůči pokusům neoprávněných třetích stran změnit použití systému, jeho výstupy nebo výkonnost a uvádí, v příslušných případech, opatření proti otrávení dat, otrávení modelu, adversariálním příkladům (obcházení modelu) a útokům na důvěrnost nebo vadám modelu.
  • Po přijetí nařízení (EU) 2026/1744, tzv. „souhrnného balíčku pro digitální oblast týkajícího se umělé inteligence“ (Digital Omnibus on AI), které je v platnosti od 27. července 2026, se povinnosti pro vysoce rizikové systémy uplatňují od 2. prosince 2027 u systémů podle přílohy III a od 2. srpna 2028 u systémů v produktech podle přílohy I.
  • Některá pravidla už platí: podle článku 50 musí od 2. srpna 2026 poskytovatelé systémů AI, které přímo komunikují s lidmi, zajistit, aby tito lidé byli informováni, že komunikují s AI, pokud to není zřejmé.
  • Akt o kybernetické odolnosti se vztahuje na produkty s digitálními prvky, včetně softwaru, uváděné na trh EU, proto si ověřte, zda se váš agent dodává jako takový produkt, nebo běží jako služba. V platnost vstoupil 10. prosince 2024. Povinnosti výrobců hlásit aktivně zneužívané zranitelnosti a závažné incidenty platí od 11. září 2026 a hlavní povinnosti od 11. prosince 2027.

Zda se na vašeho agenta cokoli z toho vztahuje, je otázkou pro právníka.

Kam dál

Pokud s vývojem agentů začínáte, základy pokrývá náš průvodce jak vytvořit AI agenta (v angličtině) a kurz vlastním tempem Agentní AI: Úvod do vývoje agentů.

Jedním ze strukturovaných způsobů, jak si tyto dovednosti osvojit, je kurz Bezpečnost AI: zabezpečení LLM aplikací a AI agentů: studuje se vlastním tempem, je na středně pokročilé úrovni a trvá 40 hodin. Zabývá se bezpečností dodavatelského řetězce AI a pravidly EU a v závěrečném projektu na AI agenta zaútočíte, opravíte ho a znovu otestujete.

Naučte se technické dovednosti online s Code Labs Academy

Naučte se technické dovednosti online s Code Labs Academy

Připojte se k naší podpůrné komunitě, odemkněte svůj potenciál a vydejte se na obohacující kariéru.

Přihlaste se hned

Často kladené otázky

Co je OWASP Top 10 pro agentní aplikace?

Je to seznam deseti bezpečnostních rizik s nejvyšším dopadem pro AI agenty, který OWASP GenAI Security Project vydal v prosinci 2025. Jeho položky sahají od ASI01 Agent Goal Hijack po ASI10 Rogue Agents a každá obsahuje příklady a opatření.

Co znamená princip nejnižší autonomie u AI agentů?

Nejnižší autonomie (least agency) je rozšíření principu nejnižších oprávnění, se kterým přichází OWASP: dejte agentovi jen takovou autonomii, jakou jeho úloha potřebuje. Agentní chování, které není potřeba, rozšiřuje útočnou plochu, aniž by přinášelo jakoukoli hodnotu.

Je používání MCP serverů bezpečné?

Zacházejte s nimi jako s jakýmkoli kódem třetích stran, protože nástroje serveru a jejich popisy mohou obsahovat skryté instrukce. Instalujte je ze zdrojů, kterým důvěřujete, připínejte a ověřujte verze, kontrolujte popisy nástrojů, lokální servery spouštějte v sandboxu a zajistěte, aby člověk mohl volání nástrojů odmítnout.

Má AI agent žádat o schválení před každou akcí?

Ne. Člověka se ptejte před akcemi s velkým dopadem nebo nevratnými akcemi, jako je mazání dat, převod peněz nebo odesílání zpráv, a akce s nízkým rizikem, které lze vrátit, nechte proběhnout. Příliš mnoho žádostí o schválení vede k únavě ze schvalování, která oslabuje kontrolu.

Je každý AI agent podle aktu EU o umělé inteligenci vysoce rizikový?

Ne. Obecně platí, že vysoce rizikové jsou jen systémy AI používané k účelu uvedenému v příloze III aktu (s výjimkami) nebo ty, které jsou bezpečnostní komponentou produktu, na který se vztahují právní předpisy EU uvedené v příloze I (nebo jsou samy takovým produktem), pokud tento produkt musí projít posouzením shody třetí stranou. Zda konkrétní agent spadá do jedné z těchto skupin, je otázkou pro právníka.

Kariérní služby

Personalizovaná kariérní podpora pro start v IT. Revize životopisu, modelové pohovory a oborové tipy vám pomohou prezentovat nové dovednosti s jistotou.

Prozkoumat