Bezpieczeństwo agentów AI: OWASP Agentic Top 10, MCP i zabezpieczenia
Zaktualizowano: November 19, 20268 min czytania
Agent AI, zbudowany wokół dużego modelu językowego (LLM), robi więcej, niż tylko odpowiada na pytania. Planuje, wywołuje narzędzia, odczytuje i zapisuje dane, a czasem komunikuje się z innymi agentami. To podnosi stawkę przy każdej słabości modelu: prompt injection, który w chatbocie skończyłby się tylko złą odpowiedzią, może skłonić agenta do wysłania e-maila, zmiany rekordów lub uruchomienia kodu. Ten przewodnik omawia OWASP Top 10 dla aplikacji agentycznych i praktyczne zabezpieczenia, w tym bezpieczeństwo Model Context Protocol (MCP).
Dlaczego agenci potrzebują własnego modelu bezpieczeństwa
NIST AI 100-2e2025 opisuje agenta jako oprogramowanie, które „iteracyjnie wysyła prompty do modelu”, przetwarza jego odpowiedzi, na przykład po to, by wywołać funkcję, i przekazuje wyniki do kolejnego promptu. OWASP Top 10 dla aplikacji LLM 2026 wyznacza w tym miejscu granicę: obejmuje model jako komponent, a gdy model zaczyna działać, korzystając z narzędzi i pamięci oraz wywołując skutki w kolejnych systemach, OWASP odsyła do swojej listy dla aplikacji agentycznych.
Ta lista wprowadza zasadę, którą warto przyjąć w pierwszej kolejności: zasadę najmniejszej autonomii (least agency). OWASP radzi organizacjom, „aby unikały niepotrzebnej autonomii”, ponieważ wdrażanie zachowań agentycznych tam, gdzie nie są potrzebne, „poszerza powierzchnię ataku, nie dodając wartości”.
OWASP Top 10 dla aplikacji agentycznych
OWASP GenAI Security Project opublikował OWASP Top 10 dla aplikacji agentycznych 9 grudnia 2025 roku. Oto dziesięć pozycji tej listy:
- ASI01: Agent Goal Hijack (przejęcie celu agenta). Wstrzyknięta treść zmienia cele lub plany agenta.
- ASI02: Tool Misuse and Exploitation (nadużycie i wykorzystanie narzędzi). Agent w niebezpieczny sposób używa narzędzi, do których ma uprawniony dostęp.
- ASI03: Identity and Privilege Abuse (nadużycie tożsamości i uprawnień). Dochodzi do nadużycia delegowanych lub odziedziczonych poświadczeń.
- ASI04: Agentic Supply Chain Vulnerabilities (podatności agentycznego łańcucha dostaw). Narzędzie, serwer MCP, prompt lub agent okazuje się złośliwy albo zmanipulowany.
- ASI05: Unexpected Code Execution (RCE) (nieoczekiwane wykonanie kodu). Wygenerowany lub wstrzyknięty kod uruchamia się w Twoich systemach.
- ASI06: Memory & Context Poisoning (zatruwanie pamięci i kontekstu). Zapisana pamięć lub pobrany kontekst zostaje skażony.
- ASI07: Insecure Inter-Agent Communication (niezabezpieczona komunikacja między agentami). Wiadomości wymieniane między agentami są fałszowane lub modyfikowane.
- ASI08: Cascading Failures (awarie kaskadowe). Jeden błąd rozprzestrzenia się na kolejnych agentów i przepływy pracy.
- ASI09: Human-Agent Trust Exploitation (wykorzystanie zaufania człowieka do agenta). Ludzie nadmiernie ufają agentowi, który brzmi pewnie.
- ASI10: Rogue Agents (agenci wymykający się spod kontroli). Agent odchodzi od zamierzonej funkcji lub wychodzi poza swój zakres.
Przyznawaj agentom minimalne uprawnienia i poświadczenia o wąskim zakresie
Pozycja LLM01:2026 na liście OWASP zauważa, że większość odnotowanych incydentów prompt injection o dużym wpływie stała się poważna, ponieważ przejęty model mógł działać za pomocą narzędzi z uprawnieniami użytkownika. ASI03 zaleca odrębne tożsamości dla każdego agenta oraz „krótkotrwałe tokeny o wąskim zakresie dla każdego zadania”, a ASI02 – profile dla poszczególnych narzędzi z zakresami uprawnień, limitami liczby żądań i listami dozwolonych miejsc docelowych dla ruchu wychodzącego. Uruchamiaj narzędzia we własnym kontekście użytkownika z minimalnym zakresem OAuth, a nie przez współdzielone konto o wysokich uprawnieniach.
Zespół Invariant Labs pokazał, dlaczego zakres ma znaczenie: złośliwe zgłoszenie (issue) na GitHubie mogło przejąć agenta połączonego z serwerem MCP GitHuba i ujawnić dane z prywatnych repozytoriów użytkownika. Badacze stwierdzili, że nie jest to „błąd w samym kodzie serwera MCP GitHuba”, lecz problem architektoniczny, i zasugerowali ograniczenie każdej sesji do jednego repozytorium.
Szybkim testem projektowym jest opracowana przez firmę Meta zasada dwóch dla agentów (Agents Rule of Two): w jednej sesji agent powinien łączyć co najwyżej dwie z następujących cech: przetwarzanie niezaufanych danych wejściowych, dostęp do wrażliwych systemów lub prywatnych danych oraz zmienianie stanu lub komunikowanie się na zewnątrz. Jeśli potrzebuje wszystkich trzech, według firmy Meta „nie powinien mieć możliwości działania autonomicznego”.
Używaj list dozwolonych i kontroli zasad poza modelem
O tym, co agent może robić, decyduj w kodzie, a nie w prompcie. Utwórz listy dozwolonych narzędzi dla każdego zadania, miejsc docelowych w sieci, z którymi agent może się łączyć, oraz poleceń, które może uruchamiać bez pytania, a wszystko inne blokuj. ASI02 opisuje punkt egzekwowania zasad (policy enforcement point), który traktuje dane wyjściowe modułu planującego jako niezaufane i zanim narzędzie zostanie uruchomione, sprawdza intencję i argumenty, egzekwuje schematy i limity liczby żądań oraz wydaje krótkotrwałe poświadczenia.
Uruchamiaj kod agenta w piaskownicy
Jeśli agent pisze lub uruchamia kod, zakładaj, że część tego kodu będzie złośliwa (ASI05). Rada OWASP: nigdy nie uruchamiaj kodu jako root, uruchamiaj go w kontenerach izolowanych w piaskownicy z rygorystycznymi limitami, obejmującymi także dostęp do sieci, i oddziel generowanie kodu od jego wykonania bramkami walidacyjnymi. Anthropic w artykule o izolowaniu swojego agenta programistycznego w piaskownicy dodaje, że skuteczna piaskownica wymaga izolacji zarówno systemu plików, jak i sieci, ponieważ bez izolacji sieci przejęty agent „mógłby wyprowadzić wrażliwe pliki, takie jak klucze SSH”.
Pytaj człowieka przed nieodwracalnymi działaniami
Wymagaj zatwierdzenia przed wszystkim, co trudno cofnąć lub co jest widoczne poza systemem: usuwaniem danych, przelewaniem pieniędzy, publikowaniem czy wysyłaniem wiadomości. ASI02 sugeruje, by przed zatwierdzeniem pokazywać próbne uruchomienie (dry run) lub diff działania. Proś o zatwierdzenie na tyle rzadko, by każda prośba się liczyła: OWASP ostrzega, że zmęczenie zatwierdzaniem osłabia osąd, a ASI09 opisuje agentów, którzy namawiają weryfikujących do zatwierdzenia szkodliwych działań.
Traktuj serwery MCP i opisy narzędzi jako niezaufane
MCP ułatwia podłączanie narzędzi do agenta, przez co same narzędzia stają się zagrożeniem w łańcuchu dostaw. Specyfikacja MCP stanowi, że klienci „MUSZĄ traktować adnotacje narzędzi jako niezaufane, chyba że pochodzą one z zaufanych serwerów”, oraz że „ZAWSZE POWINIEN istnieć człowiek w pętli, który może odmówić wywołania narzędzia”.
Zespół Invariant Labs opisuje zatruwanie narzędzi (tool poisoning) jako instrukcje umieszczone w opisach narzędzi, które „są niewidoczne dla użytkowników, ale widoczne dla modeli AI”, i ostrzega, że serwer może zmienić opis już po jego zatwierdzeniu. Pozycja ASI04 na liście OWASP przytacza złośliwy serwer MCP w npm, który podszywał się pod legalną integrację poczty e-mail i potajemnie kopiował e-maile do atakującego.
Praktyczne kroki:
- Instaluj serwery MCP ze źródeł, którym ufasz, przypinaj wersje i weryfikuj skróty (hashe).
- Przeglądaj opisy narzędzi pod kątem ukrytych instrukcji i rób to ponownie po każdej ich zmianie.
- W przypadku serwerów lokalnych pokazuj dokładne polecenie przed jego uruchomieniem i uruchamiaj serwer z minimalnymi uprawnieniami w piaskownicy, jak zalecają najlepsze praktyki bezpieczeństwa MCP.
- Nigdy nie przekazuj tokenów dalej: serwerom MCP „NIE WOLNO akceptować żadnych tokenów, które nie zostały jawnie wydane dla danego serwera MCP”.
- Zacznij od wąskich zakresów OAuth i dodawaj kolejne dopiero wtedy, gdy wymaga ich konkretna operacja.
Moduł 4 kursu we własnym tempie Bezpieczeństwo AI: zabezpieczanie aplikacji LLM i agentów AI dotyczy zabezpieczania agentów AI, narzędzi i serwerów MCP.
Dbaj o czystość pamięci agenta
Pamięć pozwala atakowi przetrwać między sesjami (ASI06). Weryfikuj to, co trafia do pamięci, oddzielaj pamięć poszczególnych użytkowników i zadań, wygaszaj wpisy, których nie zweryfikowano, i nie pozwalaj, by dane wyjściowe agenta automatycznie wracały do zaufanej pamięci. Pozycja LLM01:2026 na liście OWASP dodaje: traktuj zapisy do pamięci jako operacje uprzywilejowane i rejestruj prompt, który doprowadził do każdego z nich.
Rejestruj działania agenta i zachowaj możliwość jego zatrzymania
Prowadź logi, w których da się wykryć manipulacje (tamper-evident), obejmujące wywołania narzędzi, zatwierdzenia i wiadomości wymieniane między agentami, aby móc prowadzić dochodzenie i wycofywać zmiany (ASI08, ASI10). Upewnij się, że możesz szybko zatrzymać agenta: OWASP wymienia wyłączniki awaryjne (kill switches) i unieważnianie poświadczeń w przypadku agentów wymykających się spod kontroli oraz bezpieczniki (circuit breakers) z limitami kroków, czasu i kosztów w przypadku niekontrolowanych uruchomień. Przetestuj ścieżkę zatrzymania, zanim będzie potrzebna, i regularnie przeprowadzaj red teaming agentów – wyłącznie na systemach, które należą do Ciebie lub na których testowanie masz pisemną zgodę – i sprawdź, czy warunki dostawcy Twojego modelu dopuszczają testy bezpieczeństwa.
Co mówią przepisy UE (tło, a nie porada prawna)
- Nie każdy system AI jest systemem wysokiego ryzyka według unijnego aktu w sprawie sztucznej inteligencji: ogólnie rzecz biorąc, są nimi tylko systemy używane do celu wymienionego w załączniku III (z wyjątkami) albo te, które są związanym z bezpieczeństwem elementem produktu objętego unijnymi przepisami wymienionymi w załączniku I (lub same są takim produktem), gdy ten produkt wymaga oceny zgodności przez stronę trzecią.
- W przypadku systemów AI wysokiego ryzyka art. 15 wymaga „odpowiedniego poziomu dokładności, solidności i cyberbezpieczeństwa”. Art. 15 ust. 5 dodaje odporność na próby nieupoważnionych osób trzecich mające na celu zmianę wykorzystania systemu, jego wyników lub skuteczności działania i wymienia, w stosownych przypadkach, środki przeciwko zatruwaniu danych, zatruwaniu modelu, przykładom adwersarialnym (omijaniu modelu) oraz atakom na poufność lub wadom modelu.
- Po zmianach wprowadzonych rozporządzeniem (UE) 2026/1744, tzw. „aktem zbiorczym prawa cyfrowego dotyczącym AI” (Digital Omnibus on AI), obowiązującym od 27 lipca 2026 r., obowiązki dotyczące systemów wysokiego ryzyka stosuje się od 2 grudnia 2027 r. do systemów z załącznika III i od 2 sierpnia 2028 r. do systemów w produktach objętych załącznikiem I.
- Niektóre przepisy już obowiązują: zgodnie z art. 50 od 2 sierpnia 2026 r. dostawcy systemów AI przeznaczonych do bezpośredniej interakcji z ludźmi muszą zapewnić, by te osoby były informowane, że mają do czynienia z AI, chyba że jest to oczywiste.
- Akt o cyberodporności ma zastosowanie do produktów z elementami cyfrowymi, w tym oprogramowania, wprowadzanych do obrotu na rynku UE, więc sprawdź, czy Twój agent jest dostarczany jako taki produkt, czy działa jako usługa. Akt wszedł w życie 10 grudnia 2024 r. Obowiązki producentów dotyczące zgłaszania aktywnie wykorzystywanych podatności i poważnych incydentów stosuje się od 11 września 2026 r., a główne obowiązki od 11 grudnia 2027 r.
To, czy którykolwiek z tych przepisów dotyczy Twojego agenta, jest pytaniem do prawnika.
Co dalej
Jeśli dopiero zaczynasz budować agentów, podstawy omawiają nasz przewodnik jak zbudować agenta AI (w języku angielskim) oraz kurs we własnym tempie Agentyczna AI: Wprowadzenie do Tworzenia Agentów.
Uporządkowaną drogą do zdobycia tych umiejętności jest kurs Bezpieczeństwo AI: zabezpieczanie aplikacji LLM i agentów AI: realizowany we własnym tempie, na poziomie średniozaawansowanym, trwający 40 godzin. Obejmuje bezpieczeństwo łańcucha dostaw AI i przepisy UE, a w ramach projektu końcowego zaatakujesz agenta AI, naprawisz go i przetestujesz ponownie.

Zdobądź umiejętności IT online z Code Labs Academy
Dołącz do naszej społeczności, odblokuj swój potencjał i rozpocznij satysfakcjonującą ścieżkę kariery w IT.
Aplikuj teraz