Slaan oor na hoofinhoud
Terug na die blog

Beveilig KI-agente: OWASP Agentic Top 10, MCP en sleutelkontroles

Opgedateer op November 19, 20268 minute lees


'n KI-agent, gebou rondom 'n groot taalmodel (LLM), doen meer as om vrae te beantwoord. Dit beplan, roep hulpmiddels op, lees en skryf data en praat soms met ander agente. Daardeur staan daar by elke swakheid van die model meer op die spel: 'n prompt injection wat in 'n kletsbot net 'n swak antwoord sou oplewer, kan 'n agent e-pos laat stuur, rekords laat verander of kode laat uitvoer. Hierdie gids dek die OWASP Top 10 vir agentiese toepassings en praktiese kontroles, insluitend die sekuriteit van die Model Context Protocol (MCP).

Waarom agente hul eie sekuriteitsmodel nodig het

NIST AI 100-2e2025 beskryf 'n agent as sagteware wat “'n model iteratief prompt”, sy uitvoer verwerk, byvoorbeeld om 'n funksie op te roep, en die resultate in die volgende prompt terugvoer. Die OWASP Top 10 vir LLM-toepassings 2026 trek die grens daar: dit dek die model as 'n komponent, en sodra die model met hulpmiddels, geheue en gevolge verder af in die ketting optree, verwys OWASP na sy lys vir agentiese toepassings.

Daardie lys voeg 'n beginsel by wat die moeite werd is om eerste aan te neem: least agency (minste handelingsvryheid). OWASP raai organisasies aan “om onnodige outonomie te vermy”, omdat agentiese gedrag waar dit nie nodig is nie “die aanvalsoppervlak vergroot sonder om waarde toe te voeg”.

Die OWASP Top 10 vir agentiese toepassings

Die OWASP GenAI Security Project het die OWASP Top 10 vir agentiese toepassings op 9 Desember 2025 uitgereik. Die tien inskrywings:

  • ASI01: Agent Goal Hijack (kaping van die agent se doelwitte). Ingespuite inhoud stuur die agent se doelwitte of planne om.
  • ASI02: Tool Misuse and Exploitation (misbruik en uitbuiting van hulpmiddels). Die agent gebruik regmatige hulpmiddels op onveilige maniere.
  • ASI03: Identity and Privilege Abuse (misbruik van identiteit en voorregte). Gedelegeerde of geërfde toegangsbewyse word misbruik.
  • ASI04: Agentic Supply Chain Vulnerabilities (kwesbaarhede in die agentiese verskaffingsketting). Hulpmiddels, MCP-bedieners, prompts of agente is kwaadwillig, of daar is mee gepeuter.
  • ASI05: Unexpected Code Execution (RCE) (onverwagte kode-uitvoering). Gegenereerde of ingespuite kode loop op jou stelsels.
  • ASI06: Memory & Context Poisoning (vergiftiging van geheue en konteks). Gestoorde geheue of herwinde konteks word gekorrupteer.
  • ASI07: Insecure Inter-Agent Communication (onveilige kommunikasie tussen agente). Boodskappe tussen agente word vervals of verander.
  • ASI08: Cascading Failures (kettingmislukkings). Een fout versprei oor agente en werkvloeie.
  • ASI09: Human-Agent Trust Exploitation (uitbuiting van vertroue tussen mens en agent). Mense vertrou 'n selfversekerde agent te veel.
  • ASI10: Rogue Agents (agente wat handuit ruk). 'n Agent dwaal af van sy beoogde funksie of omvang.

Gee agente minste voorreg en afgebakende toegangsbewyse

OWASP se inskrywing LLM01:2026 wys daarop dat die meeste aangetekende insidente van prompt injection met 'n groot impak so ernstig geword het omdat die gekompromitteerde model deur hulpmiddels op die gebruiker se voorregvlak kon optree. ASI03 beveel identiteite per agent aan en “kortstondige, nou afgebakende tokens per taak”; ASI02 beveel profiele per hulpmiddel aan, met scopes, tempolimiete en toelaatlyste vir uitgaande verkeer. Laat hulpmiddels in die gebruiker se eie konteks loop met die minimum OAuth-scope, nie deur 'n gedeelde rekening met hoë voorregte nie.

Invariant Labs het gewys waarom omvang saak maak: 'n kwaadwillige GitHub-issue kon 'n agent wat aan GitHub se MCP-bediener gekoppel is, kaap en data uit die gebruiker se privaat bewaarplekke blootstel. Hulle het dit “nie 'n fout in die kode van die GitHub MCP-bediener self nie” genoem, maar 'n argitektoniese probleem, en voorgestel dat elke sessie tot een bewaarplek beperk word.

'n Vinnige ontwerptoets is Meta se Agents Rule of Two: in een sessie moet 'n agent hoogstens twee hiervan kombineer: die verwerking van onbetroubare invoer, toegang tot sensitiewe stelsels of privaat data, en die verandering van toestand of eksterne kommunikasie. As dit al drie nodig het, sê Meta, “moet dit nie toegelaat word om outonoom te werk nie”.

Gebruik toelaatlyste en 'n beleidskontrole buite die model

Besluit in kode, nie in die prompt nie, wat die agent mag doen. Plaas die hulpmiddels vir elke taak, die netwerkbestemmings wat dit kan bereik en die opdragte wat dit sonder om te vra mag uitvoer op 'n toelaatlys, en weier alles anders. ASI02 beskryf 'n beleidsafdwingingspunt (policy enforcement point) wat die beplanner se uitvoer as onvertroud behandel en, voordat 'n hulpmiddel loop, die bedoeling en argumente nagaan, skemas en tempolimiete afdwing en kortstondige toegangsbewyse uitreik.

Laat enige kode wat die agent uitvoer in 'n sandbox loop

As 'n agent kode skryf of uitvoer, beplan daarvoor dat sommige daarvan vyandig sal wees (ASI05). OWASP se raad: moet nooit as root loop nie, laat kode in sandbox-houers met streng perke loop, ook op netwerktoegang, en skei kodegenerering van uitvoering met valideringshekke. Anthropic se beskrywing van die sandboxing van sy kodeeragent voeg by dat doeltreffende sandboxing sowel lêerstelsel- as netwerkisolasie nodig het, aangesien 'n gekompromitteerde agent sonder netwerkisolasie “sensitiewe lêers soos SSH-sleutels kan eksfiltreer”.

Vra 'n mens voor onomkeerbare handelinge

Vereis goedkeuring voor enigiets wat moeilik is om ongedaan te maak of buite die stelsel sigbaar is: om data uit te vee, geld oor te plaas, iets te publiseer of boodskappe te stuur. ASI02 stel voor dat 'n proeflopie (dry run) of diff van die handeling voor goedkeuring gewys word. Hou versoeke skaars genoeg dat hulle saak maak: OWASP waarsku dat goedkeuringsmoegheid oordeel verswak, en ASI09 beskryf agente wat beoordelaars ompraat om skadelike handelinge goed te keur.

Behandel MCP-bedieners en hulpmiddelbeskrywings as onvertroud

MCP maak dit maklik om hulpmiddels by 'n agent in te prop, wat hulpmiddels 'n risiko in die verskaffingsketting maak. Die MCP-spesifikasie sê kliënte “MOET hulpmiddelannotasies as onvertroud beskou, tensy hulle van vertroude bedieners kom” en dat daar “altyd 'n mens in die lus BEHOORT te wees met die vermoë om oproepe na hulpmiddels te weier”.

Invariant Labs beskryf hulpmiddelvergiftiging (tool poisoning) as instruksies in hulpmiddelbeskrywings wat “onsigbaar is vir gebruikers, maar sigbaar vir KI-modelle”, en waarsku dat 'n bediener 'n beskrywing kan verander nadat jy dit goedgekeur het. OWASP se ASI04 noem 'n kwaadwillige MCP-bediener op npm wat hom as 'n regmatige e-posintegrasie voorgedoen en e-posse in die geheim na die aanvaller gekopieer het.

Praktiese stappe:

  • Installeer MCP-bedieners uit bronne wat jy vertrou, pen weergawes vas en verifieer hashes.
  • Hersien hulpmiddelbeskrywings vir versteekte instruksies, en doen dit weer wanneer hulle verander.
  • Wys by plaaslike bedieners die presiese opdrag voordat dit loop, en begin dit met minimale voorregte in 'n sandbox, soos die beste praktyke vir MCP-sekuriteit aanbeveel.
  • Moet nooit tokens deurgee nie: MCP-bedieners “MOET NIE enige tokens aanvaar wat nie uitdruklik vir die MCP-bediener uitgereik is nie”.
  • Begin met nou OAuth-scopes en voeg eers meer by wanneer 'n bewerking dit nodig het.

Module 4 van die selftempo-kursus KI-sekuriteit: beveiliging van LLM-toepassings en KI-agente dek die beveiliging van KI-agente, hulpmiddels en MCP-bedieners.

Hou die agent se geheue skoon

Geheue laat 'n aanval oor sessies heen voortduur (ASI06). Valideer wat na die geheue geskryf word, hou geheue apart per gebruiker en per taak, laat inskrywings wat nie geverifieer is nie verval, en moenie toelaat dat die agent se eie uitvoer outomaties na vertroude geheue terugvloei nie. OWASP se inskrywing LLM01:2026 voeg by: behandel skryfbewerkings na geheue as bevoorreg en teken die prompt agter elkeen aan.

Teken die agent se handelinge aan en hou 'n manier om dit te stop

Hou logs van oproepe na hulpmiddels, goedkeurings en boodskappe tussen agente waarin enige peutery opgemerk kan word, sodat jy kan ondersoek en terugrol (ASI08, ASI10). Maak seker dat jy 'n agent vinnig kan stop: OWASP lys noodskakelaars (kill switches) en die herroeping van toegangsbewyse vir agente wat handuit ruk, en stroombrekers met perke op stappe, tyd en koste vir lopies wat buite beheer raak. Toets die stoproete voordat jy dit nodig het, en onderwerp agente gereeld aan red teaming, net op stelsels wat jy besit of skriftelike toestemming het om te toets, en maak seker dat jou modelverskaffer se voorwaardes sekuriteitstoetsing toelaat.

Wat die EU-reëls sê (agtergrond, nie regsadvies nie)

  • Nie elke KI-stelsel is hoërisiko onder die EU AI Act nie: breedweg net dié wat gebruik word vir 'n doel wat in Bylae III gelys word (met uitsonderings), of wat 'n veiligheidskomponent is van 'n produk wat gedek word deur die EU-wette wat in Bylae I gelys word (of self so 'n produk is) wanneer daardie produk 'n konformiteitsbeoordeling deur 'n derde party nodig het.
  • Vir hoërisiko-KI-stelsels vereis Artikel 15 “'n gepaste vlak van akkuraatheid, robuustheid en kuberveiligheid”. Artikel 15(5) voeg weerbaarheid by teen pogings deur ongemagtigde derde partye om 'n stelsel se gebruik, uitvoer of werkverrigting te verander, en lys, waar gepas, maatreëls teen datavergiftiging, modelvergiftiging, vyandige voorbeelde (modelontduiking) en aanvalle op vertroulikheid of modelfoute.
  • Ná Regulasie (EU) 2026/1744, die “Digital Omnibus on AI” (van krag sedert 27 Julie 2026), geld die hoërisiko-verpligtinge vanaf 2 Desember 2027 vir stelsels onder Bylae III en vanaf 2 Augustus 2028 vir stelsels in produkte onder Bylae I.
  • Sommige reëls geld reeds: kragtens Artikel 50 moet verskaffers van KI-stelsels wat direk met mense omgaan, sedert 2 Augustus 2026 sorg dat daardie mense ingelig word dat hulle met 'n KI te doen het, tensy dit voor die hand liggend is.
  • Die Cyber Resilience Act is van toepassing op produkte met digitale elemente, sagteware ingesluit, wat op die EU-mark geplaas word, so gaan na of jou agent as so 'n produk gelewer word of as 'n diens loop. Dit het op 10 Desember 2024 in werking getree. Vervaardigers se rapporteringsverpligtinge vir aktief uitgebuite kwesbaarhede en ernstige voorvalle geld sedert 11 September 2026, en die hoofverpligtinge geld vanaf 11 Desember 2027.

Of enigiets hiervan op jou agent van toepassing is, is 'n vraag vir 'n regsadviseur.

Wat volgende

As jy nuut is met die bou van agente, dek ons gids oor hoe om 'n KI-agent te bou (in Engels) en die selftempo-kursus Agentiese KI: Inleiding tot Agent-ontwikkeling die basiese beginsels.

'n Gestruktureerde manier om hierdie vaardighede op te bou, is die kursus KI-sekuriteit: beveiliging van LLM-toepassings en KI-agente: teen jou eie pas, op intermediêre vlak en 40 uur lank. Dit dek die sekuriteit van die KI-verskaffingsketting en die EU-reëls, en die sluitstukprojek vra jou om 'n KI-agent aan te val, te herstel en weer te toets.

Leer tegniese vaardighede aanlyn met Code Labs Academy

Leer tegniese vaardighede aanlyn met Code Labs Academy

Sluit aan by ons ondersteunende gemeenskap, ontsluit u potensiaal en begin met 'n lonende loopbaan.

Doen nou aansoek

Gereelde vrae

Wat is die OWASP Top 10 vir agentiese toepassings?

Dit is 'n lys van die tien sekuriteitsrisiko's met die grootste impak vir KI-agente, wat die OWASP GenAI Security Project in Desember 2025 uitgereik het. Die inskrywings strek van ASI01 Agent Goal Hijack tot ASI10 Rogue Agents, elkeen met voorbeelde en versagtingsmaatreëls.

Wat beteken least agency vir KI-agente?

Least agency is OWASP se uitbreiding van minste voorreg: gee 'n agent net die outonomie wat sy taak nodig het. Agentiese gedrag wat nie nodig is nie, vergroot die aanvalsoppervlak sonder om waarde toe te voeg.

Is MCP-bedieners veilig om te gebruik?

Behandel hulle soos enige kode van derde partye, want 'n bediener se hulpmiddels en hulpmiddelbeskrywings kan versteekte instruksies bevat. Installeer hulle uit bronne wat jy vertrou, pen weergawes vas en verifieer hulle, hersien hulpmiddelbeskrywings, laat plaaslike bedieners in 'n sandbox loop en sorg dat 'n mens oproepe na hulpmiddels kan weier.

Moet 'n KI-agent voor elke handeling om goedkeuring vra?

Nee. Vra 'n mens voor handelinge met 'n groot impak of onomkeerbare handelinge, soos om data uit te vee, geld oor te plaas of boodskappe te stuur, en laat handelinge met 'n lae risiko wat omkeerbaar is, net voortgaan. Te veel versoeke lei tot goedkeuringsmoegheid, wat die hersiening verswak.

Is elke KI-agent hoërisiko onder die EU AI Act?

Nee. Breedweg is net KI-stelsels hoërisiko wat gebruik word vir 'n doel wat in Bylae III van die wet gelys word (met uitsonderings), of wat 'n veiligheidskomponent is van 'n produk wat deur die EU-wette in Bylae I gedek word (of self so 'n produk is) wanneer daardie produk 'n konformiteitsbeoordeling deur 'n derde party nodig het. Of 'n spesifieke agent in een van hierdie groepe val, is 'n vraag vir 'n regsadviseur.

Loopbaandienste

Persoonlike loopbaanondersteuning om jou tech-loopbaan te begin. Kry CV-terugvoer, proefonderhoude en bedryfsinsigte sodat jy jou nuwe vaardighede met selfvertroue kan wys.

Verken