Spring til hovedindhold
Tilbage til bloggen

Sikring af AI-agenter: OWASP Agentic Top 10, MCP og vigtige kontroller

Senest opdateret November 19, 20268 minutters læsning


En AI-agent, der er bygget op omkring en stor sprogmodel (LLM), gør mere end at besvare spørgsmål. Den planlægger, kalder værktøjer, læser og skriver data og taler nogle gange med andre agenter. Det gør hver svaghed i modellen mere alvorlig: En prompt injection, der i en chatbot kun ville give et dårligt svar, kan få en agent til at sende e-mails, ændre poster eller køre kode. Denne guide gennemgår OWASP Top 10 for agentiske applikationer og praktiske kontroller, herunder sikkerhed i Model Context Protocol (MCP).

Derfor har agenter brug for deres egen sikkerhedsmodel

NIST AI 100-2e2025 beskriver en agent som software, der »iterativt prompter en model«, behandler dens output, for eksempel for at kalde en funktion, og fører resultaterne tilbage ind i den næste prompt. OWASP Top 10 for LLM-applikationer 2026 trækker grænsen netop der: Listen dækker modellen som en komponent, og når modellen handler med værktøjer, hukommelse og konsekvenser længere nede i kæden, henviser OWASP til sin liste for agentiske applikationer.

Den liste tilføjer et princip, som er værd at tage til sig først: least agency. OWASP råder organisationer til »at undgå unødvendig autonomi«, fordi agentisk adfærd, hvor der ikke er brug for den, »øger angrebsfladen uden at tilføre værdi«.

OWASP Top 10 for agentiske applikationer

OWASP GenAI Security Project udgav OWASP Top 10 for agentiske applikationer den 9. december 2025. De ti punkter:

  • ASI01: Agent Goal Hijack (kapring af agentens mål). Injiceret indhold omdirigerer agentens mål eller planer.
  • ASI02: Tool Misuse and Exploitation (misbrug og udnyttelse af værktøjer). Agenten bruger legitime værktøjer på usikre måder.
  • ASI03: Identity and Privilege Abuse (misbrug af identiteter og rettigheder). Delegerede eller nedarvede adgangsoplysninger bliver misbrugt.
  • ASI04: Agentic Supply Chain Vulnerabilities (sårbarheder i den agentiske forsyningskæde). Værktøjer, MCP-servere, prompts eller agenter er ondsindede eller manipulerede.
  • ASI05: Unexpected Code Execution (RCE) (uventet kodekørsel). Genereret eller injiceret kode kører på dine systemer.
  • ASI06: Memory & Context Poisoning (forgiftning af hukommelse og kontekst). Gemt hukommelse eller hentet kontekst bliver korrumperet.
  • ASI07: Insecure Inter-Agent Communication (usikker kommunikation mellem agenter). Beskeder mellem agenter bliver forfalsket eller ændret.
  • ASI08: Cascading Failures (kaskadefejl). Én fejl breder sig på tværs af agenter og workflows.
  • ASI09: Human-Agent Trust Exploitation (udnyttelse af tilliden mellem menneske og agent). Folk har for stor tillid til en selvsikker agent.
  • ASI10: Rogue Agents (løbske agenter). En agent afviger fra sin tiltænkte funktion eller sit tiltænkte område.

Giv agenter least privilege og afgrænsede adgangsoplysninger

OWASP's punkt LLM01:2026 bemærker, at de fleste registrerede prompt injection-hændelser med store konsekvenser blev alvorlige, fordi den kompromitterede model kunne handle gennem værktøjer med brugerens rettigheder. ASI03 anbefaler identiteter pr. agent og »kortlivede, snævert afgrænsede tokens pr. opgave«; ASI02 anbefaler profiler pr. værktøj med scopes, rate limits og allowlists for udgående trafik. Kør værktøjer i brugerens egen kontekst med det mindst mulige OAuth-scope, ikke gennem en delt konto med vide rettigheder.

Invariant Labs viste, hvorfor scope betyder noget: Et ondsindet GitHub-issue kunne kapre en agent, der var forbundet til GitHubs MCP-server, og eksponere data fra brugerens private repositories. Forskerne kaldte det »ikke en fejl i selve GitHub MCP-serverens kode«, men et arkitekturproblem, og foreslog at begrænse hver session til ét repository.

Et hurtigt designtjek er Metas Agents Rule of Two: I én session bør en agent højst kombinere to af følgende: behandling af upålideligt input, adgang til følsomme systemer eller private data og ændring af tilstand eller ekstern kommunikation. Har agenten brug for alle tre, »bør den ikke have lov til at operere autonomt«, siger Meta.

Brug allowlists og et politiktjek uden for modellen

Bestem i koden, ikke i prompten, hvad agenten må gøre. Sæt værktøjerne til hver opgave, de netværksdestinationer, den kan nå, og de kommandoer, den må køre uden at spørge, på en allowlist, og afvis alt andet. ASI02 beskriver et policy enforcement point, der behandler planlæggerens output som ikke-betroet, kontrollerer hensigt og argumenter, håndhæver skemaer og rate limits og udsteder kortlivede adgangsoplysninger, før et værktøj kører.

Kør al kode fra agenten i en sandbox

Hvis en agent skriver eller kører kode, så regn med, at noget af den er fjendtlig (ASI05). OWASP's råd: Kør aldrig som root, kør kode i sandboxede containere med stramme grænser, også for netværksadgang, og adskil kodegenerering fra kørsel med valideringstrin. Anthropics beskrivelse af sandboxing af virksomhedens kodeagent tilføjer, at effektiv sandboxing kræver både filsystem- og netværksisolering, da en kompromitteret agent uden netværksisolering »kunne eksfiltrere følsomme filer som SSH-nøgler«.

Spørg et menneske før handlinger, der ikke kan fortrydes

Kræv godkendelse før alt, der er svært at fortryde eller synligt uden for systemet: sletning af data, flytning af penge, publicering eller afsendelse af beskeder. ASI02 foreslår at vise en dry run eller en diff af handlingen før godkendelsen. Hold forespørgslerne så sjældne, at de betyder noget: OWASP advarer om, at godkendelsestræthed svækker dømmekraften, og ASI09 beskriver agenter, der overtaler godkendere til at godkende skadelige handlinger.

Behandl MCP-servere og værktøjsbeskrivelser som ikke-betroede

MCP gør det nemt at koble værktøjer på en agent, og det gør værktøjer til en risiko i forsyningskæden. MCP-specifikationen siger, at klienter »SKAL betragte værktøjsannotationer som ikke-betroede, medmindre de kommer fra betroede servere«, og at der »altid BØR være et menneske i loopet, der kan afvise værktøjskald«.

Invariant Labs beskriver tool poisoning som instruktioner i værktøjsbeskrivelser, der »er usynlige for brugerne, men synlige for AI-modeller«, og advarer om, at en server kan ændre en beskrivelse, efter at du har godkendt den. OWASP's ASI04 nævner en ondsindet MCP-server på npm, der udgav sig for at være en legitim e-mailintegration og i hemmelighed kopierede e-mails til angriberen.

Praktiske trin:

  • Installér MCP-servere fra kilder, du har tillid til, fastlås versioner, og verificér hashes.
  • Gennemgå værktøjsbeskrivelser for skjulte instruktioner, og gør det igen, når de ændrer sig.
  • Vis for lokale servere den præcise kommando, før den kører, og start serveren med minimale rettigheder i en sandbox, som MCP's best practices for sikkerhed anbefaler.
  • Send aldrig tokens videre: MCP-servere »MÅ IKKE acceptere tokens, der ikke eksplicit er udstedt til MCP-serveren«.
  • Start med snævre OAuth-scopes, og tilføj kun flere, når en operation kræver dem.

Modul 4 i kurset AI-sikkerhed: sikring af LLM-apps og AI-agenter, som du tager i dit eget tempo, handler om at sikre AI-agenter, værktøjer og MCP-servere.

Hold agentens hukommelse ren

Hukommelse gør det muligt for et angreb at overleve på tværs af sessioner (ASI06). Validér det, der skrives til hukommelsen, hold hukommelsen adskilt pr. bruger og pr. opgave, lad poster, der ikke er verificeret, udløbe, og lad ikke agentens eget output flyde automatisk tilbage i betroet hukommelse. OWASP's punkt LLM01:2026 tilføjer: Behandl skrivninger til hukommelsen som privilegerede, og log prompten bag hver enkelt.

Log agentens handlinger, og hav en måde at stoppe den på

Før logfiler, hvor manipulation kan opdages, over værktøjskald, godkendelser og beskeder mellem agenter, så du kan undersøge og rulle tilbage (ASI08, ASI10). Sørg for, at du kan stoppe en agent hurtigt: OWASP nævner kill switches og tilbagekaldelse af adgangsoplysninger for løbske agenter og circuit breakers med grænser for trin, tid og omkostninger for kørsler, der løber løbsk. Test stopproceduren, før du får brug for den, og udsæt jævnligt agenter for red teaming, kun på systemer, du ejer eller har skriftlig tilladelse til at teste, og tjek, at din modeludbyders vilkår tillader sikkerhedstest.

Hvad EU's regler siger (baggrund, ikke juridisk rådgivning)

  • Ikke alle AI-systemer er højrisiko efter EU's AI-forordning: Overordnet set gælder det kun dem, der bruges til et formål, der er opført i bilag III (med undtagelser), eller som er en sikkerhedskomponent i et produkt, der er omfattet af den EU-lovgivning, der er opført i bilag I (eller selv er et sådant produkt), når produktet skal gennemgå en overensstemmelsesvurdering foretaget af en tredjepart.
  • For højrisiko-AI-systemer kræver artikel 15 »et passende niveau af nøjagtighed, robusthed og cybersikkerhed«. Artikel 15, stk. 5, tilføjer modstandsdygtighed over for uautoriserede tredjeparters forsøg på at ændre et systems anvendelse, output eller ydeevne og nævner, hvor det er relevant, foranstaltninger mod dataforgiftning, modelforgiftning, adversarielle eksempler (modelunddragelse) samt angreb på fortroligheden eller modelfejl.
  • Efter forordning (EU) 2026/1744, »digital omnibus om kunstig intelligens« (i kraft siden den 27. juli 2026), gælder forpligtelserne for højrisikosystemer fra den 2. december 2027 for systemer under bilag III og fra den 2. august 2028 for systemer i produkter under bilag I.
  • Nogle regler gælder allerede: Efter artikel 50 skal udbydere af AI-systemer, der interagerer direkte med mennesker, siden den 2. august 2026 sørge for, at disse mennesker får at vide, at de har med en AI at gøre, medmindre det er indlysende.
  • Forordningen om cyberrobusthed (Cyber Resilience Act) gælder for produkter med digitale elementer, herunder software, der bringes i omsætning på EU-markedet, så tjek, om din agent leveres som et sådant produkt eller kører som en tjeneste. Den trådte i kraft den 10. december 2024. Producenternes indberetningspligt for aktivt udnyttede sårbarheder og alvorlige hændelser har gældt siden den 11. september 2026, og de vigtigste forpligtelser gælder fra den 11. december 2027.

Om noget af dette gælder for din agent, er et spørgsmål for en jurist.

Næste skridt

Hvis du er ny i at bygge agenter, gennemgår vores guide om, hvordan man bygger en AI-agent (på engelsk), og kurset Agentisk AI: Introduktion til agentudvikling i eget tempo det grundlæggende.

En struktureret måde at opbygge disse færdigheder på er kurset AI-sikkerhed: sikring af LLM-apps og AI-agenter: i eget tempo, på øvet niveau og 40 timer langt. Det dækker sikkerhed i AI-forsyningskæden og EU's regler, og i det afsluttende projekt skal du angribe, rette og genteste en AI-agent.

Lær tekniske færdigheder online hos Code Labs Academy

Lær tekniske færdigheder online hos Code Labs Academy

Bliv en del af vores støttende fællesskab, frigør dit potentiale, og påbegynd en givende karrierevej.

Ansøg nu

Ofte stillede spørgsmål

Hvad er OWASP Top 10 for agentiske applikationer?

Det er en liste over de ti sikkerhedsrisici med størst konsekvenser for AI-agenter, som OWASP GenAI Security Project udgav i december 2025. Punkterne går fra ASI01 Agent Goal Hijack til ASI10 Rogue Agents, hver med eksempler og afbødende tiltag.

Hvad betyder least agency for AI-agenter?

Least agency er OWASP's udvidelse af least privilege: Giv kun en agent den autonomi, som dens opgave kræver. Agentisk adfærd, der ikke er brug for, øger angrebsfladen uden at tilføre værdi.

Er MCP-servere sikre at bruge?

Behandl dem som al anden tredjepartskode, fordi en servers værktøjer og værktøjsbeskrivelser kan indeholde skjulte instruktioner. Installér dem fra kilder, du har tillid til, fastlås og verificér versioner, gennemgå værktøjsbeskrivelser, kør lokale servere i en sandbox, og sørg for, at et menneske kan afvise værktøjskald.

Skal en AI-agent bede om godkendelse før hver handling?

Nej. Spørg et menneske før handlinger med store konsekvenser eller handlinger, der ikke kan fortrydes, for eksempel at slette data, flytte penge eller sende beskeder, og lad handlinger med lav risiko, der kan fortrydes, køre. For mange forespørgsler fører til godkendelsestræthed, som svækker kontrollen.

Er alle AI-agenter højrisiko efter EU's AI-forordning?

Nej. Overordnet set er kun AI-systemer højrisiko, hvis de bruges til et formål, der er opført i forordningens bilag III (med undtagelser), eller er en sikkerhedskomponent i et produkt, der er omfattet af EU-lovgivningen i bilag I (eller selv er et sådant produkt), når produktet skal gennemgå en overensstemmelsesvurdering foretaget af en tredjepart. Om en bestemt agent hører under en af dem, er et spørgsmål for en jurist.

Karriereservice

Personlig karrieresupport til at komme godt fra start i tech. Få CV-gennemgang, prøveinterviews og brancheindsigt, så du kan præsentere dine nye kompetencer med selvtillid.

Udforsk