Nola babestu AI agenteak: OWASP Top 10 agentikoa, MCP eta kontrolak
Eguneratua November 19, 20267 Irakurri minutuak
AI agente batek, hizkuntza-eredu handi (LLM) baten inguruan eraikita, galderei erantzun baino gehiago egiten du. Planifikatu egiten du, tresnei deitzen die, datuak irakurri eta idazten ditu eta, batzuetan, beste agente batzuekin hitz egiten du. Horrek handitu egiten du ereduaren ahulezia bakoitzaren arriskua: txatbot batean erantzun txar bat besterik eragingo ez lukeen prompt injekzio batek agente bati mezu elektronikoak bidalarazi, erregistroak aldarazi edo kodea exekutarazi diezaioke. Gida honek aplikazio agentikoetarako OWASP Top 10 zerrenda eta kontrol praktikoak lantzen ditu, Model Context Protocol (MCP) segurtasuna barne.
Zergatik behar duten agenteek beren segurtasun-eredua
NIST AI 100-2e2025 dokumentuak software gisa deskribatzen du agentea: «eredu bati modu iteratiboan promptak bidaltzen dizkio», haren irteerak prozesatzen ditu (adibidez, funtzio bati deitzeko) eta emaitzak hurrengo promptean itzultzen dizkio. LLM aplikazioetarako OWASP Top 10 2026 zerrendak hor ezartzen du muga: eredua osagai gisa hartzen du, eta, ereduak tresnekin, memoriarekin eta beste sistemetan ondorioekin jarduten duenean, OWASPek bere zerrenda agentikora bidaltzen du.
Zerrenda horrek lehenik hartzea merezi duen printzipio bat gehitzen du: gutxieneko autonomia. OWASPek erakundeei «beharrik gabeko autonomia saihesteko» gomendatzen die, portaera agentikoa behar ez den lekuan zabaltzeak «eraso-azalera handitzen baitu baliorik gehitu gabe».
Aplikazio agentikoetarako OWASP Top 10
OWASP GenAI Security Project-ek 2025eko abenduaren 9an argitaratu zuen aplikazio agentikoetarako OWASP Top 10 zerrenda. Hauek dira haren hamar kategoriak:
- ASI01: Agent Goal Hijack (agentearen helburuen bahiketa). Injektatutako edukiak agentearen helburuak edo planak desbideratzen ditu.
- ASI02: Tool Misuse and Exploitation (tresnen erabilera desegokia eta ustiapena). Agenteak tresna legitimoak modu ez-seguruan erabiltzen ditu.
- ASI03: Identity and Privilege Abuse (identitatearen eta pribilegioen gehiegikeria). Eskuordetutako edo heredatutako kredentzialak gaizki erabiltzen dira.
- ASI04: Agentic Supply Chain Vulnerabilities (hornikuntza-kate agentikoaren ahultasunak). Tresnak, MCP zerbitzariak, promptak edo agenteak maltzurrak dira edo manipulatuta daude.
- ASI05: Unexpected Code Execution (RCE) (ustekabeko kode-exekuzioa). Sortutako edo injektatutako kodea zure sistemetan exekutatzen da.
- ASI06: Memory & Context Poisoning (memoria eta testuingurua pozoitzea). Gordetako memoria edo berreskuratutako testuingurua hondatzen da.
- ASI07: Insecure Inter-Agent Communication (agenteen arteko komunikazio ez-segurua). Agenteen arteko mezuak faltsutu edo aldatu egiten dira.
- ASI08: Cascading Failures (hutsegite kateatuak). Akats bakar bat agenteetan eta lan-fluxuetan zehar hedatzen da.
- ASI09: Human-Agent Trust Exploitation (gizakien eta agenteen arteko konfiantzaren ustiapena). Pertsonek gehiegizko konfiantza dute bere buruaz ziur agertzen den agente batengan.
- ASI10: Rogue Agents (kontroletik irtendako agenteak). Agente bat aurreikusitako funtziotik edo esparrutik desbideratzen da.
Eman agenteei gutxieneko pribilegioa eta esparru mugatuko kredentzialak
OWASPen LLM01:2026 kategoriak adierazten du erregistratutako eragin handiko prompt injekzio-gertakari gehienak larri bihurtu zirela, arriskuan jarritako ereduak tresnen bidez jardun zezakeelako erabiltzailearen pribilegio-mailarekin. ASI03k agente bakoitzeko identitateak eta «zeregin bakoitzerako iraupen laburreko eta esparru estuko tokenak» gomendatzen ditu; ASI02k, berriz, tresna bakoitzeko profilak, esparruekin, maiztasun-mugekin eta irteerako trafikorako baimen-zerrendekin. Exekutatu tresnak erabiltzailearen beraren testuinguruan eta gutxieneko OAuth esparruarekin, ez pribilegio handiko kontu partekatu baten bidez.
Invariant Labs enpresak erakutsi zuen zergatik den garrantzitsua esparrua: GitHub-eko issue maltzur batek GitHub-en MCP zerbitzariarekin konektatutako agente bat bahi zezakeen eta erabiltzailearen biltegi pribatuetako datuak agerian utzi. «Ez da GitHub-en MCP zerbitzariaren beraren kodeko akats bat» esan zuten, arkitektura-arazo bat baizik, eta saio bakoitza biltegi bakar batera mugatzea iradoki zuten.
Diseinua azkar egiaztatzeko modu bat Metaren agenteentzako biren araua (Agents Rule of Two) da. Haren arabera, saio berean agente batek ez lituzke hiru gaitasun hauetatik bi baino gehiago konbinatu behar: sarrera ez-fidagarriak prozesatzea, sistema sentikorretara edo datu pribatuetara sartzea, eta egoera aldatzea edo kanpora komunikatzea. Hirurak behar baditu, Metak dio «ez litzaiokeela baimendu behar modu autonomoan jarduten».
Erabili baimen-zerrendak eta eredutik kanpoko politika-egiaztapen bat
Erabaki kodean, ez promptean, zer egin dezakeen agenteak. Sortu baimen-zerrendak zeregin bakoitzeko tresnetarako, agentea irits daitekeen sare-helmugetarako eta galdetu gabe exekuta ditzakeen komandoetarako, eta ukatu gainerako guztia. ASI02k politikak aplikatzeko puntu bat deskribatzen du, planifikatzailearen irteera ez-fidagarritzat hartzen duena eta, tresna bat exekutatu aurretik, asmoa eta argumentuak egiaztatzen dituena, eskemak eta maiztasun-mugak betearazten dituena eta iraupen laburreko kredentzialak igortzen dituena.
Isolatu sandbox batean agenteak exekutatzen duen edozein kode
Agente batek kodea idazten edo exekutatzen badu, kontuan izan haren zati bat maltzurra izango dela (ASI05). OWASPen aholkua: ez exekutatu inoiz root gisa, exekutatu kodea muga zorrotzak dituzten edukiontzi isolatuetan (sare-sarbidearen mugak barne), eta bereizi kodea sortzea eta exekutatzea balidazio-puntuen bidez. Anthropic-ek bere programazio-agentearen sandboxing-ari buruz idatzitako artikuluak gaineratzen du sandboxing eraginkorrak fitxategi-sistemaren isolamendua eta sarearen isolamendua behar dituela, sarearen isolamendurik gabe arriskuan jarritako agente batek «SSH gakoak bezalako fitxategi sentikorrak exfiltra baititzake».
Galdetu pertsona bati ekintza atzeraezinen aurretik
Eskatu onespena desegiten zaila den edo sistematik kanpo ikusten den edozein ekintzaren aurretik: datuak ezabatzea, dirua mugitzea, argitaratzea edo mezuak bidaltzea. ASI02k iradokitzen du ekintzaren simulazio bat (dry run) edo diff bat erakustea onartu aurretik. Egin eskaerak garrantzia izateko bezain gutxitan: OWASPek ohartarazten du onespen-nekeak irizpidea ahultzen duela, eta ASI09k berrikusleak ekintza kaltegarriak onartzera konbentzitzen dituzten agenteak deskribatzen ditu.
Tratatu MCP zerbitzariak eta tresna-deskribapenak ez-fidagarri gisa
MCPri esker erraza da agente bati tresnak konektatzea, eta horrek hornikuntza-katearen arrisku bihurtzen ditu tresnak. MCP zehaztapenak dio bezeroek «tresna-oharpenak ez-fidagarritzat HARTU BEHAR DITUZTELA, konfiantzazko zerbitzarietatik datozenean izan ezik», eta «BETI EGON BEHARKO LUKEELA gizaki bat begiztan, tresna-deiak ukatzeko gaitasunarekin».
Invariant Labs enpresak honela deskribatzen du tresnak pozoitzea (tool poisoning): tresna-deskribapenetan sartutako jarraibideak, «erabiltzaileentzat ikusezinak baina AI ereduentzat ikusgai» daudenak; eta ohartarazten du zerbitzari batek deskribapen bat alda dezakeela zuk onartu ondoren. OWASPen ASI04 kategoriak npm-n argitaratutako MCP zerbitzari maltzur bat aipatzen du, posta elektronikoko integrazio legitimo baten itxura hartu eta mezu elektronikoak ezkutuan erasotzaileari kopiatzen zizkiona.
Urrats praktikoak:
- Instalatu MCP zerbitzariak konfiantzazko iturrietatik, finkatu bertsioak eta egiaztatu hashak.
- Berrikusi tresnen deskribapenak jarraibide ezkutuen bila, eta egin berriro aldatzen direnean.
- Zerbitzari lokaletan, erakutsi komando zehatza exekutatu aurretik, eta abiarazi gutxieneko pribilegioekin sandbox batean, MCP segurtasun-jardunbide egokiek gomendatzen duten bezala.
- Ez birbidali inoiz tokenik: MCP zerbitzariek «EZ DUTE ONARTU BEHAR MCP zerbitzarirako berariaz igorri ez den tokenik».
- Hasi OAuth esparru estuekin, eta gehitu gehiago eragiketa batek behar dituenean bakarrik.
Norberaren erritmoko AI segurtasuna: LLM aplikazioak eta AI agenteak babestea ikastaroaren 4. moduluak AI agenteak, tresnak eta MCP zerbitzariak babestea lantzen du.
Mantendu garbi agentearen memoria
Memoriari esker, eraso batek saio batetik bestera iraun dezake (ASI06). Balidatu memorian idazten dena, bereizi memoria erabiltzaile eta zeregin bakoitzeko, iraungi egiaztatu gabeko sarrerak eta ez utzi agentearen beraren irteerak konfiantzazko memoriara automatikoki itzultzen. OWASPen LLM01:2026 kategoriak gaineratzen du: tratatu memoria-idazketak eragiketa pribilegiatu gisa eta erregistratu bakoitza eragin duen prompta.
Erregistratu agentearen ekintzak eta izan agentea gelditzeko modu bat
Gorde tresna-deien, onespenen eta agenteen arteko mezuen erregistroak, manipulazioak detektatzeko moduan, ikertu eta atzera egin ahal izateko (ASI08, ASI10). Ziurtatu agente bat azkar gelditu dezakezula: OWASPek larrialdi-etengailuak (kill switches) eta kredentzialak baliogabetzea aipatzen ditu kontroletik irtendako agenteetarako, eta urrats-, denbora- eta kostu-mugak dituzten etengailuak (circuit breakers) neurriz kanpoko exekuzioetarako. Probatu gelditzeko bidea behar izan aurretik, eta egin red teaming-a agenteei aldizka, soilik zureak diren sistemetan edo probatzeko idatzizko baimena duzunetan, eta egiaztatu zure eredu-hornitzailearen baldintzek segurtasun-probak baimentzen dituztela.
EBko arauek zer dioten (testuingurua, ez aholkularitza juridikoa)
- EU AI Act-aren arabera, AI sistema guztiak ez dira arrisku handikoak: oro har, III. eranskinean zerrendatutako helburu baterako erabiltzen direnak (salbuespenekin), edo I. eranskinean zerrendatutako EBko legeek hartzen duten produktu baten segurtasun-osagai direnak (edo halako produktu bat beraiek direnak), produktu horrek hirugarren batek egindako adostasun-ebaluazioa behar duenean, besterik ez.
- Arrisku handiko AI sistementzat, 15. artikuluak «zehaztasun-, sendotasun- eta zibersegurtasun-maila egokia» eskatzen du. 15. artikuluaren 5. apartatuak gaineratzen du sistemak baimenik gabeko hirugarrenek haren erabilera, irteerak edo errendimendua aldatzeko egiten dituzten saiakerei aurre egin behar diela, eta, hala dagokionean, neurriak zerrendatzen ditu datuen pozoitzearen, ereduen pozoitzearen, adibide aurkarien (ereduaren saihespena) eta konfidentzialtasunaren aurkako erasoen edo ereduaren akatsen aurka.
- (EB) 2026/1744 Erregelamenduaren, «Digital Omnibus on AI» delakoaren ondoren (2026ko uztailaren 27an sartu zen indarrean), arrisku handiko betebeharrak 2027ko abenduaren 2tik aurrera aplikatzen dira III. eranskineko sistemetarako, eta 2028ko abuztuaren 2tik aurrera I. eranskineko produktuetako sistemetarako.
- Arau batzuk dagoeneko aplikatzen dira: 50. artikuluaren arabera, 2026ko abuztuaren 2az geroztik, pertsonekin zuzenean elkarreragiten duten AI sistemen hornitzaileek ziurtatu behar dute pertsona horiei jakinarazten zaiela AI batekin ari direla, begi-bistakoa denean izan ezik.
- Cyber Resilience Act-a EBko merkatuan jartzen diren elementu digitalak dituzten produktuei aplikatzen zaie, softwarea barne; beraz, egiaztatu zure agentea horrelako produktu gisa banatzen den ala zerbitzu gisa exekutatzen den. 2024ko abenduaren 10ean sartu zen indarrean. Fabrikatzaileek aktiboki ustiatutako ahultasunen eta gertakari larrien berri emateko betebeharrak 2026ko irailaren 11tik aurrera aplikatzen dira, eta betebehar nagusiak 2027ko abenduaren 11tik aurrera.
Horietako zerbait zure agenteari aplikatzen zaion ala ez aholkulari juridiko batek erabaki beharreko kontua da.
Hurrengo urratsak
Agenteak eraikitzen hasi berria bazara, AI agente bat nola eraiki (ingelesez) azaltzen duen gure gidak eta norberaren erritmoko AA Agentikoa: agenteen garapenerako sarrera ikastaroak oinarriak lantzen dituzte.
Gaitasun horiek modu egituratuan garatzeko bide bat AI segurtasuna: LLM aplikazioak eta AI agenteak babestea ikastaroa da: norberaren erritmokoa, tarteko mailakoa eta 40 ordukoa. AIaren hornikuntza-katearen segurtasuna eta EBko arauak lantzen ditu, eta haren azken proiektuan AI agente bat eraso, konpondu eta berriro probatu beharko duzu.

Ikasi trebetasun teknikoak linean Code Labs Academy-rekin
Erregistratu gure komunitateari, desblokeatu zure potentziala eta ekintzarako bide aberasgarria.
Aplikatu orain