Lumaktaw sa pangunahing nilalaman
Bumalik sa blog

OWASP Top 10 para sa LLM Applications 2026: Ipinaliwanag ang 10 Risk

Nai-update sa November 19, 20268 minuto basahin


Ang OWASP Top 10 para sa LLM Applications ay ang listahan ng OWASP GenAI Security Project ng mga pinakakritikal na security risk para sa mga app na binuo sa mga large language model (LLM). Inilathala ang 2026 edition noong Agosto 2026 (may petsang Agosto 3 ang resource page nito) at inanunsyo noong Setyembre 1, 2026. Inililista ng gabay na ito ang lahat ng sampung entry kasama ang kanilang mga opisyal na ID, maikling ipinapaliwanag ang bawat isa, nagbibigay ng isang praktikal na control sa bawat entry at binubuod kung ano ang nagbago mula 2025.

Itinatakda ng pambungad na liham ng mga project lead ang tono: “Tigilan na ang pagsubok na bumuo ng model na hindi malilinlang. Buuin ang system sa paligid nito, para kapag nalinlang ang model, at malilinlang talaga ito, walang mahalagang masisira.”

Paano Binuo ang 2026 na Listahan

Umasa ang mga naunang edition sa paghuhusga ng mga practitioner. Para sa 2026, sinubok din ng OWASP ang boto ng komunidad laban sa isang corpus ng 7,714 na totoong insidente mula sa mga pampublikong vulnerability database at sa isang AI-harm database, kung saan 6,639 ang may sapat na detalye para ma-classify. Tatlong-kapat ng bigat ang boto at isang-kapat ang data ng insidente. Hindi laging nagkakasundo ang dalawa: kapag niraranggo ayon sa raw na bilang ng insidente, hindi na pumapasok sa top 10 ang prompt injection, na iniuugnay ng OWASP sa isang “defense effect,” dahil masigasig itong nilalabanan ng mga team at mas kaunting malinis na exploit ang umaabot sa mga pampublikong database. Kabaligtaran naman ang nangyari sa Misinformation: inilagay ito ng mga botante malapit sa ibaba at ng incident record malapit sa itaas, at itinaas ito ng ebidensya sa pampitong puwesto.

Ang 2026 na Listahan sa Isang Sulyap

Entry sa 2026Posisyon noong 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (bilang System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Ang mga posisyon noong 2025 ay mula sa 2025 list ng OWASP.

LLM01:2026 Prompt Injection

Input na nagbabago sa kilos ng model sa mga paraang hindi sinadya ng developer, galing man ito sa user, sa isang dokumento, sa resulta ng isang tool, sa isang larawan o sa memory. Saklaw na ngayon ng entry ang mga cross-modal attack na nagtatago ng mga instruksyon sa mga larawan o audio. Control: panatilihin ang mga credential at ang mga aksyong nagbabago ng state sa application code, at bigyan ang model ng least privilege sa bawat operasyon. Malalim na tinatalakay ng aming gabay sa prompt injection ang entry na ito.

LLM02:2026 Sensitive Information Disclosure

Pag-leak ng confidential o regulated na data sa anumang channel: ang sagot, mga argument ng tool call, mga reasoning trace, mga retrieved chunk, mga log o mga embedding. Tinutukoy ng OWASP ang oversharing sa upstream, gaya ng mga drive na walang tamang scope na nagpapakain sa isang retrieval-augmented generation (RAG) index, bilang isa sa dalawang pagkakamaling nasa likod ng karamihan ng mga insidente. Control: mag-authorize bago ang retrieval, at ipatupad ang access sa antas ng dokumento at ng chunk sa loob mismo ng index query.

LLM03:2026 Excessive Agency

Mga mapaminsalang aksyong ginagawa bilang tugon sa hindi inaasahan, malabo o minanipulang output ng model. Ang mga ugat na sanhi ay sobrang functionality, permission o autonomy. Sa mga agentic system, ayon sa OWASP, puwede itong lumitaw bilang tool misuse, pag-abuso sa identity at privilege, o mga cascading failure. Control: bawasan ang mga tool at ang kanilang mga permission (ang isang email-summary tool ay kailangan lang magbasa ng mail) at humingi ng pag-apruba ng tao para sa mga high-impact na aksyon.

LLM04:2026 Supply Chain

Mga risk sa mga third-party na model, dataset, adapter gaya ng LoRA, conversion pipeline at package, kasama ang “slopsquatting,” kung saan nirerehistro ng mga attacker ang mga pangalan ng package na hina-hallucinate ng mga coding assistant. Control: i-pin ang mga model artifact gamit ang immutable na digest sa halip na mutable na tag, i-verify ang mga signature at tiyaking umiiral ang mga dependency na iminungkahi ng AI bago i-install ang mga ito.

LLM05:2026 Data and Model Poisoning

Minanipulang data o model artifact na nagtatanim ng mga backdoor o bias sa panahon ng pre-training, fine-tuning, embedding o distribution. Puwedeng mura ang poisoning: natuklasan ng Souly et al. (2025) na sapat ang 250 na na-poison na dokumento para ma-compromise ang mga model mula 600M hanggang 13B na parameter, anuman ang laki ng dataset. Control: subaybayan ang lineage ng data at model, i-version ang iyong mga dataset, at ituring ang mga chat template, tokenizer config at adapter bilang code na dapat i-sign at i-verify.

LLM06:2026 Unbounded Consumption

Hindi kontroladong inference na nagdudulot ng mga outage, lumolobong gastos (“denial of wallet”) o model theft sa pamamagitan ng extraction. Pinalalala ito ng mga reasoning model, multimodal na input at mga tool loop ng agent. Control: mga hard spending cap na humihinto sa inference, kasama ang mga circuit breaker ng agent na may limit sa step, recursion, oras at gastos bawat run.

LLM07:2026 Misinformation

Mali o walang batayang output na mukhang sapat na kapani-paniwala para pagbatayan ng aksyon. Sa mga agentic system, nagiging maling aksyon ang maling sagot, gaya ng isang agent na nag-uulat na tumakbo ang isang backup kahit hindi naman. Control: isang claim-check-act pattern na naghihiwalay sa generation at execution, at nagve-verify ng mga claim at precondition bago kumilos.

LLM08:2026 Hidden Context Exposure

Pag-extract o muling pagbuo ng hidden context: mga system prompt, mga instruksyon ng developer, retrieved na policy text at mga tool schema. Ipinapayo ng OWASP na ipagpalagay na matutuklasan ang hidden context. Control: huwag ilagay dito ang mga credential at secret, at ipatupad ang authorization sa deterministic na code sa labas ng model.

LLM09:2026 Vector and Embedding Weaknesses

Mga atake sa embedding layer sa likod ng RAG, agent memory at mga semantic cache. Sa salita ng OWASP, “ginagawang mali ng poisoning ang system, pinapa-leak ito ng inversion, pinatatahimik ito ng jamming, at ginagawa itong walang pinipili ng access-control failure.” Control: ipatupad ang tenant scoping sa loob ng index query, hindi bilang post-retrieval filter, at ilagay sa magkakahiwalay na index ang content na may iba't ibang antas ng tiwala.

LLM10:2026 Improper Output Handling

Pagpapasa ng output ng model sa downstream nang walang validation, na puwedeng humantong sa XSS, SQL injection, SSRF o remote code execution. Saklaw na rin nito ngayon ang insecure na code na nililikha ng mga assistant nang maramihan. Control: ituring ang output ng model gaya ng input ng user: i-encode ito para sa context nito, gumamit ng mga parameterized query at i-disable ang auto-rendering ng mga Markdown image at link preview.

Ano ang Nagbago Mula sa 2025 Edition

Sinasabi ng OWASP na ang pagkakasunod-sunod ay “mas gumalaw kaysa sa mga nakaraang taon.” Ang mga pangunahing pagbabago:

  • Umakyat ang Excessive Agency mula pang-anim tungo sa pangatlo, na tinatawag ng OWASP na “ang pinakamabigat na paggalaw sa listahan.”
  • Umakyat nang apat na puwesto ang Unbounded Consumption, at ang Improper Output Handling ang bumaba nang pinakamalayo, mula panlima tungo sa pansampu.
  • Napanatili ng Prompt Injection at Sensitive Information Disclosure ang dalawang nangungunang puwesto.
  • Naging Hidden Context Exposure ang System Prompt Leakage, isang mas malawak na entry.
  • Sinaklaw ng mga dati nang entry ang mga mas bagong risk sa halip na magdagdag ng mga bagong kategorya: cross-modal injection, mga model artifact na hindi pala ang inaangkin nila, fine-tuning subversion at insecure na generated code.
  • Inilipat sa iisang appendix ang mga framework mapping (NIST, MITRE ATLAS, CWE at iba pa).

Gumuguhit din ang OWASP ng mas malinaw na hangganan. Saklaw ng listahang ito ang model bilang component ng iyong application. Kapag naging aktor na ang model na may mga tool, memory at mga kahihinatnan sa downstream, sinasabi ng OWASP na ipares ito sa OWASP Top 10 para sa Agentic Applications, na ipinapaliwanag nang hakbang-hakbang ng aming gabay sa kung paano i-secure ang mga AI agent.

Paano Gamitin ang Listahan sa Iyong Team

Ang payo ng OWASP ay “gawin ang lahat ng sampu, simula sa itaas.” Sa praktika:

  • Daanan ang sampung entry kapag nagdidisenyo o nagre-review ka ng LLM feature, at itala kung saan ito exposed.
  • Gawing ticket na may owner ang bawat control, at mag-test muli pagkatapos ng mga ayos.
  • I-tag ang mga finding gamit ang mga entry ID para iisang bokabularyo ang gamit ng mga developer, security engineer at product owner.
  • Mag-test lamang ng mga system na pag-aari mo o may nakasulat kang pahintulot na i-test, at tiyaking pinapayagan ng mga tuntunin ng iyong model provider ang security testing.

Nagtatapos ang capstone ng self-paced na kursong AI Security: Pag-secure ng mga LLM App at AI Agent, ang “Atakihin, Ayusin at I-test Muli ang Isang AI Agent,” sa isang security report na nagma-map ng bawat finding sa mga OWASP list.

Mga Susunod na Hakbang

Magsimula sa entry na nasa itaas: ipinapaliwanag ng aming gabay sa kung ano ang prompt injection ang mga direct at indirect na atake at ang mga layered defense. Kung kumukuha ng mga dokumento ang iyong app, tingnang mabuti ang LLM02 at LLM09, na sumasaklaw sa mga retrieval permission at sa embedding layer; kaugnay na self-paced na kurso ang AI Engineer: Panimula sa RAG & Search.

Isang structured na paraan para mabuo ang mga kasanayang ito ang kursong AI Security: Pag-secure ng mga LLM App at AI Agent: self-paced, intermedyo ang antas at 40 oras ang haba, para sa mga developer, AI engineer at security professional na bumubuo o nagte-test ng mga AI feature.

Alamin ang mga teknikal na kasanayan sa online gamit ang Code Labs Academy

Alamin ang mga teknikal na kasanayan sa online gamit ang Code Labs Academy

Sumali sa aming suporta sa komunidad, i-unlock ang iyong potensyal, at sumakay sa isang reward na landas sa karera.

Mag-apply ngayon

Mga Madalas Itanong

Ano ang OWASP Top 10 para sa LLM Applications 2026?

Ito ang listahan ng OWASP GenAI Security Project ng sampung pinakakritikal na security risk para sa mga application na binuo sa mga large language model, na inilathala noong Agosto 2026. Ipinapaliwanag ng bawat entry ang risk, nagbibigay ito ng mga attack scenario at naglilista ng mga mitigation.

Ano ang nasa unang puwesto ng OWASP LLM Top 10 2026?

Nasa unang puwesto ang LLM01:2026 Prompt Injection, gaya noong 2025. Nananatiling pangalawa ang Sensitive Information Disclosure, at umakyat sa pangatlo ang Excessive Agency.

Ano ang nagbago mula sa OWASP LLM Top 10 ng 2025?

Mas malaki ang pagbabago sa pagkakasunod-sunod kumpara sa mga nakaraang edition: umakyat ang Excessive Agency mula pang-anim tungo sa pangatlo, umakyat nang apat na puwesto ang Unbounded Consumption at bumaba ang Improper Output Handling mula panlima tungo sa pansampu. Naging Hidden Context Exposure ang System Prompt Leakage, at sa unang pagkakataon, isinaalang-alang din sa ranking ang data mula sa mga totoong insidente.

Ano ang nangyari sa System Prompt Leakage noong 2026?

Pinalitan ang pangalan nito at pinalawak bilang LLM08:2026 Hidden Context Exposure. Saklaw na ngayon ng entry ang anumang hidden context na nakikita ng model, kasama ang mga instruksyon ng developer, retrieved na policy text at mga tool schema, hindi lang ang system prompt.

Paano naiiba ang LLM Top 10 sa OWASP Top 10 para sa Agentic Applications?

Saklaw ng LLM Top 10 ang model bilang isang component sa loob ng iyong application. Kapag kumikilos na ang model nang mag-isa gamit ang mga tool, memory at mga epekto sa downstream, ipinapayo ng OWASP na ipares ito sa Top 10 para sa Agentic Applications.

Mga Serbisyo sa Karera

Personalized na suporta sa karera para makapagsimula sa tech. Kasama ang résumé/CV review, mock interviews, at mga insight sa industriya para maipakita mo ang mga bagong kasanayan nang may kumpiyansa.

Galugarin