Lumaktaw sa pangunahing nilalaman
Bumalik sa blog

Paano I-secure ang mga AI Agent: OWASP Agentic Top 10, MCP at Control

Nai-update sa November 19, 20269 minuto basahin


Ang isang AI agent, na binuo sa paligid ng isang large language model (LLM), ay higit pa sa pagsagot sa mga tanong. Nagpaplano ito, tumatawag ng mga tool, nagbabasa at nagsusulat ng data, at kung minsan ay nakikipag-usap sa ibang agent. Pinalalaki nito ang taya sa bawat kahinaan ng model: ang isang prompt injection na sa isang chatbot ay magdudulot lang ng maling sagot ay puwedeng magtulak sa isang agent na magpadala ng email, magbago ng mga record o magpatakbo ng code. Saklaw ng gabay na ito ang OWASP Top 10 para sa Agentic Applications at mga praktikal na control, kasama ang Model Context Protocol (MCP) security.

Bakit Kailangan ng mga Agent ang Sarili Nilang Security Model

Inilalarawan ng NIST AI 100-2e2025 ang agent bilang software na “paulit-ulit na nagpo-prompt sa isang model,” pinoproseso ang mga output nito, halimbawa para tumawag ng function, at ibinabalik ang mga resulta sa susunod na prompt. Doon iginuguhit ng OWASP Top 10 para sa LLM Applications 2026 ang hangganan: saklaw nito ang model bilang component, at kapag kumikilos na ang model gamit ang mga tool, memory at mga kahihinatnan sa downstream, itinuturo ng OWASP ang agentic list nito.

Nagdaragdag ang listahang iyon ng prinsipyong dapat unang i-adopt: least agency. Ipinapayo ng OWASP sa mga organisasyon na “iwasan ang hindi kailangang autonomy,” dahil ang pag-deploy ng agentic na kilos kung saan hindi ito kailangan ay “nagpapalawak sa attack surface nang walang naidaragdag na halaga.”

Ang OWASP Top 10 para sa Agentic Applications

Inilabas ng OWASP GenAI Security Project ang OWASP Top 10 para sa Agentic Applications noong Disyembre 9, 2025. Ang sampung entry nito:

  • ASI01: Agent Goal Hijack. Inililihis ng na-inject na content ang mga layunin o plano ng agent.
  • ASI02: Tool Misuse and Exploitation. Ginagamit ng agent ang mga lehitimong tool sa hindi ligtas na paraan.
  • ASI03: Identity and Privilege Abuse. Inaabuso ang mga delegated o minanang credential.
  • ASI04: Agentic Supply Chain Vulnerabilities. Malicious o binago ang mga tool, MCP server, prompt o agent.
  • ASI05: Unexpected Code Execution (RCE). Tumatakbo sa iyong mga system ang generated o na-inject na code.
  • ASI06: Memory & Context Poisoning. Nasisira ang naka-store na memory o ang retrieved na context.
  • ASI07: Insecure Inter-Agent Communication. Pine-peke o binabago ang mga mensahe sa pagitan ng mga agent.
  • ASI08: Cascading Failures. Kumakalat sa mga agent at workflow ang iisang fault.
  • ASI09: Human-Agent Trust Exploitation. Sobra ang tiwala ng mga tao sa isang agent na mukhang kumpiyansa.
  • ASI10: Rogue Agents. Lumilihis ang isang agent sa nilalayong function o scope nito.

Bigyan ang mga Agent ng Least Privilege at mga Scoped Credential

Napansin ng LLM01:2026 entry ng OWASP na naging seryoso ang karamihan sa mga naitalang high-impact na prompt injection incident dahil kayang kumilos ng na-compromise na model sa pamamagitan ng mga tool gamit ang privilege level ng user. Inirerekomenda ng ASI03 ang per-agent na identity at “mga short-lived at makitid ang scope na token bawat task”; ang ASI02 naman, mga per-tool profile na may scope, rate limit at egress allow-list. Patakbuhin ang mga tool sa sariling context ng user gamit ang pinakamaliit na OAuth scope, hindi sa pamamagitan ng isang shared na account na mataas ang privilege.

Ipinakita ng Invariant Labs kung bakit mahalaga ang scope: kayang i-hijack ng isang malicious na GitHub issue ang isang agent na nakakonekta sa MCP server ng GitHub at ilantad ang data mula sa mga private repository ng user. Tinawag nila itong “hindi depekto sa code ng GitHub MCP server mismo” kundi isang architectural na isyu, at iminungkahi nilang limitahan ang bawat session sa iisang repository.

Isang mabilis na design check ang Agents Rule of Two ng Meta: sa iisang session, hindi dapat pagsamahin ng isang agent ang higit sa dalawa sa mga ito: pagproseso ng mga hindi mapagkakatiwalaang input, pag-access sa mga sensitibong system o pribadong data, at pagbabago ng state o pakikipag-ugnayan sa labas. Kung kailangan nito ang tatlo, sinasabi ng Meta na “hindi ito dapat payagang gumana nang autonomous.”

Gumamit ng mga Allow-List at Policy Check sa Labas ng Model

Sa code, hindi sa prompt, magpasya kung ano ang puwedeng gawin ng agent. I-allow-list ang mga tool para sa bawat task, ang mga network destination na kaya nitong abutin at ang mga command na puwede nitong patakbuhin nang hindi nagtatanong, at tanggihan ang lahat ng iba pa. Inilalarawan ng ASI02 ang isang policy enforcement point na itinuturing na untrusted ang output ng planner at, bago tumakbo ang isang tool, sinusuri ang intent at mga argument, ipinapatupad ang mga schema at rate limit, at nag-iisyu ng mga short-lived na credential.

I-sandbox ang Anumang Code na Pinapatakbo ng Agent

Kung nagsusulat o nagpapatakbo ng code ang isang agent, asahang may bahagi nitong mapanganib (ASI05). Ang payo ng OWASP: huwag kailanman magpatakbo bilang root, patakbuhin ang code sa mga sandboxed na container na may mahigpit na limitasyon, kasama ang network access, at paghiwalayin ang code generation at execution gamit ang mga validation gate. Idinagdag ng write-up ng Anthropic tungkol sa pag-sandbox ng coding agent nito na kailangan ng epektibong sandboxing ang parehong filesystem at network isolation, dahil kung walang network isolation, ang isang na-compromise na agent ay “maaaring mag-exfiltrate ng mga sensitibong file gaya ng mga SSH key.”

Magtanong sa Tao Bago ang mga Hindi na Mababawing Aksyon

Humingi ng approval bago ang anumang mahirap bawiin o nakikita sa labas ng system: pagbura ng data, paglilipat ng pera, pag-publish o pagpapadala ng mga mensahe. Iminumungkahi ng ASI02 na magpakita ng dry-run o diff ng aksyon bago ang approval. Panatilihing madalang ang mga prompt para may saysay ang mga ito: nagbababala ang OWASP na pinahihina ng approval fatigue ang paghuhusga, at inilalarawan ng ASI09 ang mga agent na kinukumbinsi ang mga reviewer na aprubahan ang mga mapaminsalang aksyon.

Ituring na Untrusted ang mga MCP Server at Tool Description

Pinadadali ng MCP ang pagkonekta ng mga tool sa isang agent, kaya nagiging supply-chain risk ang mga tool. Sinasabi ng MCP specification na “DAPAT ituring ng mga client na untrusted ang mga tool annotation maliban kung galing ang mga ito sa mga trusted na server” at na “NARARAPAT na laging may tao sa loop na may kakayahang tanggihan ang mga tool invocation.”

Inilalarawan ng Invariant Labs ang tool poisoning bilang mga instruksyon sa mga tool description na “hindi nakikita ng mga user pero nakikita ng mga AI model,” at nagbababala itong kayang baguhin ng isang server ang isang description pagkatapos mo itong aprubahan. Binabanggit ng ASI04 ng OWASP ang isang malicious na MCP server sa npm na nagpanggap na lehitimong email integration at palihim na kinopya ang mga email papunta sa attacker.

Mga praktikal na hakbang:

  • Mag-install ng mga MCP server mula sa mga source na pinagkakatiwalaan mo, i-pin ang mga version at i-verify ang mga hash.
  • I-review ang mga tool description para sa mga nakatagong instruksyon, at muli kapag nagbago ang mga ito.
  • Para sa mga local server, ipakita ang eksaktong command bago ito tumakbo at i-launch ito nang may minimal na privilege sa isang sandbox, gaya ng inirerekomenda ng MCP security best practices.
  • Huwag kailanman mag-pass through ng mga token: ang mga MCP server ay “HINDI DAPAT tumanggap ng anumang token na hindi tahasang inisyu para sa MCP server.”
  • Magsimula sa makikitid na OAuth scope at magdagdag lang kapag kailangan ito ng isang operasyon.

Saklaw ng Module 4 ng self-paced na kursong AI Security: Pag-secure ng mga LLM App at AI Agent ang pag-secure ng mga AI agent, tool at MCP server.

Panatilihing Malinis ang Memory ng Agent

Hinahayaan ng memory na manatili ang isang atake sa iba't ibang session (ASI06). I-validate ang isinusulat sa memory, paghiwalayin ang memory bawat user at bawat task, hayaang mag-expire ang mga entry na hindi pa na-verify, at huwag hayaang awtomatikong bumalik sa trusted memory ang sariling output ng agent. Idinadagdag ng LLM01:2026 entry ng OWASP: ituring na privileged ang mga memory write at i-log ang prompt sa likod ng bawat isa.

I-log ang mga Aksyon ng Agent at Magtabi ng Paraan para Ihinto Ito

Magtago ng mga tamper-evident na log ng mga tool call, approval at mensahe sa pagitan ng mga agent, para makapag-imbestiga at maka-roll back ka (ASI08, ASI10). Tiyaking kaya mong ihinto agad ang isang agent: inililista ng OWASP ang mga kill switch at credential revocation para sa mga rogue agent, at mga circuit breaker na may limit sa step, oras at gastos para sa mga runaway run. I-test ang paraan ng paghinto bago mo pa ito kailanganin, at regular na i-red team ang mga agent, sa mga system lamang na pag-aari mo o may nakasulat kang pahintulot na i-test, at tiyaking pinapayagan ng mga tuntunin ng iyong model provider ang security testing.

  • Hindi lahat ng AI system ay high-risk sa ilalim ng EU AI Act: sa pangkalahatan, high-risk lamang ang mga ginagamit para sa layuning nakalista sa Annex III (na may mga eksepsiyon), o ang mga safety component ng isang produktong saklaw ng mga batas ng EU na nakalista sa Annex I (o mismong ganoong produkto) kapag kailangan ng produktong iyon ng third-party conformity assessment.
  • Para sa mga high-risk na AI system, hinihingi ng Artikulo 15 ang “angkop na antas ng accuracy, robustness at cybersecurity.” Idinadagdag ng Artikulo 15(5) ang katatagan laban sa mga pagtatangka ng mga hindi awtorisadong third party na baguhin ang paggamit, output o performance ng isang system, at inililista nito, kung naaangkop, ang mga hakbang laban sa data poisoning, model poisoning, adversarial examples (model evasion), at confidentiality attacks o model flaws.
  • Pagkatapos ng Regulation (EU) 2026/1744, ang “Digital Omnibus on AI” (may bisa mula Hulyo 27, 2026), ipinapatupad ang mga high-risk na obligasyon mula Disyembre 2, 2027 para sa mga system sa Annex III at mula Agosto 2, 2028 para sa mga system sa mga produktong saklaw ng Annex I.
  • May mga patakarang ipinapatupad na: sa ilalim ng Artikulo 50, mula Agosto 2, 2026, dapat tiyakin ng mga provider ng mga AI system na direktang nakikipag-ugnayan sa mga tao na nalalaman ng mga taong iyon na AI ang kausap nila, maliban kung halata ito.
  • Ipinapatupad ang Cyber Resilience Act sa mga produktong may digital na elemento, kasama ang software, na inilalagay sa merkado ng EU, kaya suriin kung ang iyong agent ay inilalabas bilang ganoong produkto o tumatakbo bilang isang serbisyo. Nagkabisa ito noong Disyembre 10, 2024. Ipinapatupad mula Setyembre 11, 2026 ang mga obligasyon ng mga manufacturer na mag-report ng mga aktibong ine-exploit na vulnerability at malulubhang insidente, at mula Disyembre 11, 2027 ang mga pangunahing obligasyon.

Tanong para sa isang legal counsel kung naaangkop ang alinman dito sa iyong agent.

Mga Susunod na Hakbang

Kung bago ka sa pagbuo ng mga agent, saklaw ng aming gabay sa kung paano bumuo ng AI agent (sa Ingles) at ng self-paced na kursong Agentic AI: Panimula sa Agent Development ang mga pangunahing kaalaman.

Isang structured na paraan para mabuo ang mga kasanayang ito ang kursong AI Security: Pag-secure ng mga LLM App at AI Agent: self-paced, intermedyo ang antas at 40 oras ang haba. Saklaw nito ang AI supply chain security at ang mga patakaran ng EU, at sa capstone nito, aatakihin, aayusin at ite-test mong muli ang isang AI agent.

Alamin ang mga teknikal na kasanayan sa online gamit ang Code Labs Academy

Alamin ang mga teknikal na kasanayan sa online gamit ang Code Labs Academy

Sumali sa aming suporta sa komunidad, i-unlock ang iyong potensyal, at sumakay sa isang reward na landas sa karera.

Mag-apply ngayon

Mga Madalas Itanong

Ano ang OWASP Top 10 para sa Agentic Applications?

Isa itong listahan ng sampung security risk na may pinakamalaking epekto sa mga AI agent, na inilabas ng OWASP GenAI Security Project noong Disyembre 2025. Mula ASI01 Agent Goal Hijack hanggang ASI10 Rogue Agents ang mga entry nito, at may mga halimbawa at mitigation ang bawat isa.

Ano ang ibig sabihin ng least agency para sa mga AI agent?

Ang least agency ay ang pagpapalawig ng OWASP sa least privilege: ibigay lang sa agent ang autonomy na kailangan ng gawain nito. Pinalalawak ng hindi kailangang agentic na kilos ang attack surface nang walang naidaragdag na halaga.

Ligtas bang gamitin ang mga MCP server?

Ituring ang mga ito gaya ng anumang third-party na code, dahil puwedeng may nakatagong instruksyon ang mga tool ng isang server at ang mga tool description nito. I-install ang mga ito mula sa mga source na pinagkakatiwalaan mo, i-pin at i-verify ang mga version, i-review ang mga tool description, patakbuhin sa sandbox ang mga local server, at panatilihing may taong kayang tumanggi sa mga tool call.

Dapat bang humingi ng approval ang isang AI agent bago ang bawat aksyon?

Hindi. Magtanong muna sa isang tao bago ang mga high-impact o hindi na mababawing aksyon, gaya ng pagbura ng data, paglilipat ng pera o pagpapadala ng mga mensahe, at hayaang tumakbo ang mga low-risk at nababawing aksyon. Humahantong sa approval fatigue ang sobrang daming prompt, at pinahihina nito ang review.

High-risk ba ang bawat AI agent sa ilalim ng EU AI Act?

Hindi. Sa pangkalahatan, high-risk lamang ang mga AI system na ginagamit para sa layuning nakalista sa Annex III ng Act (na may mga eksepsiyon), o ang mga safety component ng isang produktong saklaw ng mga batas ng EU sa Annex I (o mismong ganoong produkto) kapag kailangan ng produktong iyon ng third-party conformity assessment. Tanong para sa isang legal counsel kung pasok ang isang partikular na agent sa alinman sa mga ito.

Mga Serbisyo sa Karera

Personalized na suporta sa karera para makapagsimula sa tech. Kasama ang résumé/CV review, mock interviews, at mga insight sa industriya para maipakita mo ang mga bagong kasanayan nang may kumpiyansa.

Galugarin