AI agentų apsauga: OWASP Agentic Top 10, MCP ir pagrindinės priemonės
Atnaujinta November 19, 20267 Perskaityta minučių
Didžiuoju kalbos modeliu (LLM) paremtas AI agentas daro daugiau nei atsako į klausimus. Jis planuoja, iškviečia įrankius, skaito ir rašo duomenis, o kartais bendrauja su kitais agentais. Todėl kiekviena modelio silpnybė tampa pavojingesnė: prompt injection, kuri pokalbių robote lemtų tik prastą atsakymą, gali priversti agentą išsiųsti el. laišką, pakeisti įrašus ar paleisti kodą. Šiame vadove aptariamas OWASP Top 10 agentinėms programoms ir praktinės kontrolės priemonės, įskaitant Model Context Protocol (MCP) saugumą.
Kodėl agentams reikia atskiro saugumo modelio
NIST AI 100-2e2025 agentą apibūdina kaip programinę įrangą, kuri „iteratyviai teikia modeliui raginimus“, apdoroja jo išvestį, pavyzdžiui, kad iškviestų funkciją, ir rezultatus grąžina į kitą raginimą. OWASP Top 10 LLM programoms 2026 brėžia ribą būtent čia: jis nagrinėja modelį kaip komponentą, o kai modelis veikia su įrankiais, atmintimi ir pasekmėmis kitoms sistemoms, OWASP nukreipia į savo agentinių programų sąrašą.
Tas sąrašas prideda principą, kurį verta įdiegti pirmiausia: mažiausios veiksmų laisvės principą (least agency). OWASP pataria organizacijoms „vengti nereikalingo autonomiškumo“, nes agentinio elgesio diegimas ten, kur jo nereikia, „padidina atakos paviršių nesukurdamas vertės“.
OWASP Top 10 agentinėms programoms
OWASP GenAI Security Project OWASP Top 10 agentinėms programoms paskelbė 2025 m. gruodžio 9 d. Dešimt jo punktų:
- ASI01: Agent Goal Hijack (agento tikslų užgrobimas). Įterptas turinys nukreipia agento tikslus ar planus kita linkme.
- ASI02: Tool Misuse and Exploitation (piktnaudžiavimas įrankiais ir jų išnaudojimas). Agentas teisėtus įrankius naudoja nesaugiai.
- ASI03: Identity and Privilege Abuse (piktnaudžiavimas tapatybe ir privilegijomis). Piktnaudžiaujama deleguotais ar paveldėtais prisijungimo duomenimis.
- ASI04: Agentic Supply Chain Vulnerabilities (agentinės tiekimo grandinės pažeidžiamumai). Įrankiai, MCP serveriai, raginimai ar agentai yra kenkėjiški arba su jais buvo manipuliuota.
- ASI05: Unexpected Code Execution (RCE) (netikėtas kodo vykdymas). Sugeneruotas ar įterptas kodas vykdomas jūsų sistemose.
- ASI06: Memory & Context Poisoning (atminties ir konteksto užnuodijimas). Išsaugota atmintis ar išgautas kontekstas sugadinami.
- ASI07: Insecure Inter-Agent Communication (nesaugus agentų tarpusavio ryšys). Agentų tarpusavio žinutės suklastojamos ar pakeičiamos.
- ASI08: Cascading Failures (kaskadiniai gedimai). Vienas gedimas išplinta per agentus ir darbo eigas.
- ASI09: Human-Agent Trust Exploitation (žmonių pasitikėjimo agentais išnaudojimas). Žmonės per daug pasitiki užtikrintai atrodančiu agentu.
- ASI10: Rogue Agents (nevaldomi agentai). Agentas nukrypsta nuo numatytos funkcijos ar veiklos ribų.
Suteikite agentams mažiausias privilegijas ir apribotus prisijungimo duomenis
OWASP punkte LLM01:2026 pažymima, kad dauguma užfiksuotų didelio poveikio prompt injection incidentų tapo rimti todėl, kad pažeistas modelis per įrankius galėjo veikti naudotojo privilegijų lygiu. ASI03 rekomenduoja kiekvienam agentui atskirą tapatybę ir „trumpalaikius, siaurai apribotus žetonus kiekvienai užduočiai“, o ASI02 – kiekvienam įrankiui atskirus profilius su aprėptimis, užklausų dažnio limitais ir išeinančio srauto leidžiamųjų sąrašais. Įrankius vykdykite paties naudotojo kontekste su mažiausia OAuth aprėptimi, o ne per bendrą didelių privilegijų paskyrą.
Invariant Labs parodė, kodėl aprėptis svarbi: kenkėjiškas GitHub pranešimas apie problemą (issue) galėjo užgrobti agentą, prijungtą prie GitHub MCP serverio, ir atskleisti duomenis iš naudotojo privačių saugyklų. Jie tai įvardijo ne kaip „klaidą pačiame GitHub MCP serverio kode“, o kaip architektūrinę problemą ir pasiūlė kiekvieną sesiją apriboti viena saugykla.
Greita projektavimo patikra – bendrovės Meta Agents Rule of Two: vienoje sesijoje agentas turėtų derinti ne daugiau kaip du iš šių dalykų: nepatikimos įvesties apdorojimą, prieigą prie jautrių sistemų ar privačių duomenų ir būsenos keitimą ar išorinį bendravimą. Jei jam reikia visų trijų, Meta teigimu, jam „neturėtų būti leidžiama veikti autonomiškai“.
Naudokite leidžiamųjų sąrašus ir politikos patikrą už modelio ribų
Kode, o ne raginime, nuspręskite, ką agentui leidžiama daryti. Į leidžiamųjų sąrašus įtraukite kiekvienos užduoties įrankius, tinklo paskirties vietas, kurias agentas gali pasiekti, ir komandas, kurias jis gali vykdyti neklausdamas, o visa kita uždrauskite. ASI02 aprašo politikos vykdymo tašką (policy enforcement point), kuris planuotojo išvestį laiko nepatikima: jis tikrina ketinimą ir argumentus, taiko schemas ir užklausų dažnio limitus bei prieš paleidžiant įrankį išduoda trumpalaikius prisijungimo duomenis.
Bet kokį agento vykdomą kodą paleiskite smėliadėžėje
Jei agentas rašo ar vykdo kodą, numatykite, kad dalis jo bus priešiška (ASI05). OWASP patarimas: niekada nevykdykite kodo kaip root, vykdykite jį smėliadėžės konteineriuose su griežtais apribojimais, įskaitant tinklo prieigą, ir kodo generavimą nuo vykdymo atskirkite patikros vartais. Anthropic straipsnyje apie savo programavimo agento smėliadėžę priduriama, kad veiksmingai smėliadėžei reikia ir failų sistemos, ir tinklo izoliacijos, nes be tinklo izoliacijos pažeistas agentas „galėtų nutekinti jautrius failus, pavyzdžiui, SSH raktus“.
Prieš negrįžtamus veiksmus paklauskite žmogaus
Reikalaukite patvirtinimo prieš bet ką, ką sunku atšaukti ar kas matoma už sistemos ribų: duomenų ištrynimą, pinigų pervedimą, publikavimą ar žinučių siuntimą. ASI02 siūlo prieš patvirtinimą parodyti veiksmo bandomąjį paleidimą (dry run) arba pakeitimų palyginimą (diff). Klauskite pakankamai retai, kad klausimai išliktų reikšmingi: OWASP įspėja, kad patvirtinimų nuovargis silpnina sprendimus, o ASI09 aprašo agentus, kurie įkalba tikrintojus patvirtinti žalingus veiksmus.
MCP serverius ir įrankių aprašus laikykite nepatikimais
MCP leidžia lengvai prijungti įrankius prie agento, todėl įrankiai tampa tiekimo grandinės rizika. MCP specifikacijoje teigiama, kad klientai „PRIVALO laikyti įrankių anotacijas nepatikimomis, nebent jos gautos iš patikimų serverių“ ir kad „visada TURĖTŲ dalyvauti žmogus, galintis atmesti įrankių iškvietimus“.
Invariant Labs įrankių užnuodijimą apibūdina kaip instrukcijas įrankių aprašuose, kurios „nematomos naudotojams, bet matomos AI modeliams“, ir įspėja, kad serveris gali pakeisti aprašą po to, kai jį patvirtinote. OWASP ASI04 mini kenkėjišką MCP serverį npm registre, kuris apsimetė teisėta el. pašto integracija ir slapta kopijavo el. laiškus užpuolikui.
Praktiniai žingsniai:
- MCP serverius diekite iš patikimų šaltinių, fiksuokite versijas ir tikrinkite maišos reikšmes.
- Peržiūrėkite įrankių aprašus, ieškodami paslėptų instrukcijų, ir tai darykite iš naujo, kai jie pasikeičia.
- Vietiniams serveriams prieš paleidimą parodykite tikslią komandą ir paleiskite serverį smėliadėžėje su minimaliomis privilegijomis, kaip rekomenduoja MCP saugumo gerosios praktikos.
- Niekada neperduokite žetonų toliau: MCP serveriai „NEGALI priimti jokių žetonų, kurie nebuvo aiškiai išduoti šiam MCP serveriui“.
- Pradėkite nuo siaurų OAuth aprėpčių ir pridėkite naujų tik tada, kai jų reikia kokiai nors operacijai.
Savo tempu studijuojamo kurso AI saugumas: LLM programų ir AI agentų apsauga 4 modulis skirtas AI agentų, įrankių ir MCP serverių apsaugai.
Palaikykite švarią agento atmintį
Atmintis leidžia atakai išlikti tarp sesijų (ASI06). Tikrinkite, kas įrašoma į atmintį, atskirkite atmintį kiekvienam naudotojui ir kiekvienai užduočiai, leiskite nepatikrintiems įrašams nustoti galioti ir neleiskite paties agento išvesčiai automatiškai patekti atgal į patikimą atmintį. OWASP punkte LLM01:2026 priduriama: įrašymą į atmintį laikykite privilegijuotu veiksmu ir registruokite raginimą, dėl kurio atsirado kiekvienas įrašas.
Registruokite agento veiksmus ir pasilikite galimybę jį sustabdyti
Saugokite žurnalus, kuriuose matyti bet koks klastojimas, apie įrankių iškvietimus, patvirtinimus ir agentų tarpusavio žinutes, kad galėtumėte tirti incidentus ir atšaukti pakeitimus (ASI08, ASI10). Įsitikinkite, kad galite greitai sustabdyti agentą: nevaldomiems agentams OWASP nurodo avarinius išjungiklius (kill switches) ir prisijungimo duomenų atšaukimą, o nekontroliuojamiems paleidimams – grandinės pertraukiklius (circuit breakers) su žingsnių, laiko ir kainos limitais. Išbandykite sustabdymo mechanizmą, kol jo dar neprireikė, ir reguliariai atlikite agentų red teaming, bet tik sistemose, kurios priklauso jums arba kurioms testuoti turite rašytinį leidimą, ir patikrinkite, ar jūsų modelio teikėjo sąlygos leidžia saugumo testavimą.
Ką numato ES taisyklės (bendroji informacija, o ne teisinė konsultacija)
- Ne kiekviena AI sistema pagal ES dirbtinio intelekto aktą yra didelės rizikos: apskritai tik tos, kurios naudojamos III priede išvardytu tikslu (su išimtimis) arba yra gaminio, kuriam taikomi I priede išvardyti ES teisės aktai, saugos komponentas (arba pačios yra toks gaminys), kai tam gaminiui privalomas trečiosios šalies atliekamas atitikties vertinimas.
- Didelės rizikos AI sistemoms 15 straipsnis nustato reikalavimą pasiekti „tinkamą tikslumo, patvarumo ir kibernetinio saugumo lygį“. 15 straipsnio 5 dalyje papildomai reikalaujama atsparumo leidimo neturinčių trečiųjų šalių bandymams pakeisti sistemos naudojimą, išvedinius ar veikimo efektyvumą ir, kai tinkama, išvardijamos priemonės nuo duomenų užnuodijimo, modelio užnuodijimo, priešiškų pavyzdžių (modelio vengimo), konfidencialumo pažeidimo atakų ar modelio trūkumų.
- Pagal Reglamentą (ES) 2026/1744, Bendrąjį skaitmeninės srities dokumentų rinkinį dėl dirbtinio intelekto (galioja nuo 2026 m. liepos 27 d.), didelės rizikos prievolės III priedo sistemoms taikomos nuo 2027 m. gruodžio 2 d., o sistemoms, esančioms I priedui priskiriamuose gaminiuose, – nuo 2028 m. rugpjūčio 2 d.
- Kai kurios taisyklės jau taikomos: pagal 50 straipsnį nuo 2026 m. rugpjūčio 2 d. AI sistemų, kurios tiesiogiai sąveikauja su žmonėmis, tiekėjai turi užtikrinti, kad tie žmonės būtų informuoti, jog bendrauja su AI, nebent tai akivaizdu.
- Kibernetinio atsparumo aktas taikomas ES rinkai pateikiamiems produktams su skaitmeniniais elementais, įskaitant programinę įrangą, todėl patikrinkite, ar jūsų agentas tiekiamas kaip toks produktas, ar veikia kaip paslauga. Aktas įsigaliojo 2024 m. gruodžio 10 d. Gamintojų prievolės pranešti apie aktyviai išnaudojamus pažeidžiamumus ir didelius incidentus taikomos nuo 2026 m. rugsėjo 11 d., o pagrindinės prievolės – nuo 2027 m. gruodžio 11 d.
Ar kas nors iš to taikoma jūsų agentui, turėtų įvertinti teisininkas.
Ką skaityti toliau
Jei agentų kūrimas jums naujas, pagrindus aptaria mūsų vadovas apie tai, kaip sukurti AI agentą (anglų kalba), ir savo tempu studijuojamas kursas Agentinis DI: įvadas į agentų kūrimą.
Vienas struktūruotas būdas įgyti šių įgūdžių – kursas AI saugumas: LLM programų ir AI agentų apsauga: savo tempu, vidutinio lygio, 40 valandų. Jis apima AI tiekimo grandinės saugumą ir ES taisykles, o baigiamajame projekte jūs atakuojate AI agentą, jį ištaisote ir ištestuojate iš naujo.

Išmokite techninių įgūdžių internete su Code Labs Academy
Prisijunkite prie mūsų palaikomosios bendruomenės, atrkite savo galimybes ir pradėkite naudingą karjeros kelią.
Kreipkitės dabar