OWASP Top 10 untuk Aplikasi LLM 2026: Semua 10 Risiko Dijelaskan
Diperbarui pada November 19, 20267 Menit Baca
OWASP Top 10 untuk Aplikasi LLM adalah daftar dari OWASP GenAI Security Project yang memuat risiko keamanan paling kritis untuk aplikasi yang dibangun di atas model bahasa besar (LLM). Edisi 2026 diterbitkan pada Agustus 2026 (halaman sumber dayanya bertanggal 3 Agustus) dan diumumkan pada 1 September 2026. Panduan ini mencantumkan kesepuluh entri beserta ID resminya, menjelaskan masing-masing secara singkat, memberikan satu kontrol praktis per entri, dan merangkum apa yang berubah dari 2025.
Surat pembuka dari para pemimpin proyek menetapkan nadanya: “Berhentilah mencoba membangun model yang tidak bisa ditipu. Bangun sistem di sekelilingnya, sehingga ketika model tertipu, dan itu pasti terjadi, tidak ada hal penting yang rusak.”
Bagaimana Daftar 2026 Disusun
Edisi-edisi sebelumnya mengandalkan penilaian para praktisi. Untuk 2026, OWASP juga menguji hasil voting komunitas terhadap korpus berisi 7714 insiden nyata dari database kerentanan publik dan sebuah database dampak buruk AI, dengan 6639 di antaranya cukup rinci untuk diklasifikasikan. Voting memiliki bobot tiga perempat dan data insiden seperempat. Keduanya tidak selalu sejalan: jika diurutkan berdasarkan jumlah mentah insiden, prompt injection keluar dari top 10, yang oleh OWASP dikaitkan dengan “efek pertahanan”, karena tim-tim melawannya dengan gigih sehingga lebih sedikit eksploit bersih yang masuk ke database publik. Entri Misinformation justru sebaliknya: para pemberi suara menempatkannya di dekat urutan bawah, catatan insiden di dekat urutan atas, dan bukti data menaikkannya ke urutan ketujuh.
Sekilas tentang Daftar 2026
| Entri 2026 | Posisi pada 2025 |
|---|---|
| LLM01:2026 Prompt Injection | 1 |
| LLM02:2026 Sensitive Information Disclosure | 2 |
| LLM03:2026 Excessive Agency | 6 |
| LLM04:2026 Supply Chain | 3 |
| LLM05:2026 Data and Model Poisoning | 4 |
| LLM06:2026 Unbounded Consumption | 10 |
| LLM07:2026 Misinformation | 9 |
| LLM08:2026 Hidden Context Exposure | 7 (sebagai System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses | 8 |
| LLM10:2026 Improper Output Handling | 5 |
Posisi 2025 diambil dari daftar 2025 OWASP.
LLM01:2026 Prompt Injection
Input yang mengubah perilaku model dengan cara yang tidak dimaksudkan pengembang, baik dari pengguna, dokumen, hasil tool, gambar, maupun memori. Entri ini kini mencakup serangan lintas modal yang menyembunyikan instruksi dalam gambar atau audio. Kontrol: simpan kredensial dan tindakan yang mengubah state di kode aplikasi, dan berikan model hak akses minimum untuk setiap operasi. Panduan kami tentang prompt injection membahas entri ini secara mendalam.
LLM02:2026 Sensitive Information Disclosure (pengungkapan informasi sensitif)
Kebocoran data rahasia atau data yang diatur regulasi melalui saluran apa pun: jawaban, argumen panggilan tool, jejak penalaran, potongan hasil retrieval, log, atau embedding. OWASP menyebut berbagi berlebihan di hulu, seperti drive tanpa batasan cakupan yang mengisi indeks retrieval-augmented generation (RAG), sebagai salah satu dari dua kegagalan di balik sebagian besar insiden. Kontrol: lakukan otorisasi sebelum retrieval, dengan menegakkan akses di tingkat dokumen dan potongan (chunk) di dalam kueri indeks itu sendiri.
LLM03:2026 Excessive Agency (otonomi berlebihan)
Tindakan merugikan yang diambil sebagai respons terhadap output model yang tak terduga, ambigu, atau dimanipulasi. Akar penyebabnya adalah fungsionalitas, izin, atau otonomi yang berlebihan. Pada sistem agentik, menurut OWASP, risiko ini bisa muncul sebagai penyalahgunaan tool, penyalahgunaan identitas dan hak akses, atau kegagalan beruntun. Kontrol: minimalkan tool dan izinnya (tool peringkas email hanya perlu membaca email) dan wajibkan persetujuan manusia untuk tindakan berdampak tinggi.
LLM04:2026 Supply Chain (rantai pasok)
Risiko pada model, dataset, dan adapter pihak ketiga seperti LoRA, pipeline konversi, dan paket, termasuk “slopsquatting”, ketika penyerang mendaftarkan nama paket yang dihalusinasikan oleh asisten coding. Kontrol: sematkan (pin) artefak model dengan digest yang tidak dapat diubah, bukan tag yang dapat berubah, verifikasi tanda tangan, dan pastikan dependensi yang disarankan AI benar-benar ada sebelum menginstalnya.
LLM05:2026 Data and Model Poisoning (peracunan data dan model)
Data atau artefak model yang dimanipulasi untuk menanamkan backdoor atau bias selama pra-pelatihan, fine-tuning, embedding, atau distribusi. Peracunan bisa murah: Souly et al. (2025) menemukan bahwa 250 dokumen beracun mampu membobol model berukuran 600 juta hingga 13 miliar parameter, berapa pun ukuran dataset-nya. Kontrol: lacak silsilah (lineage) data dan model, beri versi pada dataset Anda, dan perlakukan template chat, konfigurasi tokenizer, dan adapter sebagai kode yang wajib ditandatangani dan diverifikasi.
LLM06:2026 Unbounded Consumption (konsumsi tanpa batas)
Inferensi tak terkendali yang menyebabkan gangguan layanan, biaya membengkak (“denial of wallet”), atau pencurian model melalui ekstraksi. Model penalaran, input multimodal, dan loop tool pada agen memperparah masalah ini. Kontrol: batas pengeluaran yang ketat yang menghentikan inferensi, ditambah circuit breaker untuk agen dengan batas langkah, rekursi, waktu, dan biaya per eksekusi.
LLM07:2026 Misinformation (misinformasi)
Output yang salah atau tidak berdasar, tetapi tampak cukup meyakinkan untuk dijadikan dasar tindakan. Pada sistem agentik, jawaban yang salah menjadi tindakan yang salah, misalnya agen yang melaporkan bahwa backup sudah berjalan padahal tidak pernah. Kontrol: pola claim-check-act yang memisahkan pembuatan output dari eksekusi serta memverifikasi klaim dan prasyarat sebelum bertindak.
LLM08:2026 Hidden Context Exposure (paparan konteks tersembunyi)
Ekstraksi atau rekonstruksi konteks tersembunyi: system prompt, instruksi pengembang, teks kebijakan hasil retrieval, dan skema tool. OWASP menyarankan untuk mengasumsikan bahwa konteks tersembunyi dapat ditemukan. Kontrol: jauhkan kredensial dan rahasia dari konteks tersebut, dan tegakkan otorisasi dalam kode deterministik di luar model.
LLM09:2026 Vector and Embedding Weaknesses (kelemahan vektor dan embedding)
Serangan pada lapisan embedding di balik RAG, memori agen, dan cache semantik. Dalam kata-kata OWASP, “peracunan membuat sistem salah, inversi membuatnya bocor, jamming membuatnya bungkam, dan kegagalan kontrol akses membuatnya tidak pandang bulu”. Kontrol: tegakkan pembatasan per tenant di dalam kueri indeks, bukan sebagai filter setelah retrieval, dan simpan konten dengan tingkat kepercayaan berbeda di indeks yang terpisah.
LLM10:2026 Improper Output Handling (penanganan output yang tidak tepat)
Meneruskan output model ke sistem hilir tanpa validasi, yang dapat berujung pada XSS, SQL injection, SSRF, atau eksekusi kode jarak jauh. Entri ini kini juga mencakup kode tidak aman yang dihasilkan asisten dalam skala besar. Kontrol: perlakukan output model seperti input pengguna: lakukan encoding sesuai konteksnya, gunakan kueri berparameter, dan nonaktifkan rendering otomatis gambar Markdown dan pratinjau tautan.
Apa yang Berubah dari Edisi 2025
OWASP menyebut urutannya “bergeser lebih banyak dibanding tahun-tahun sebelumnya”. Perubahan utamanya:
- Excessive Agency naik dari urutan keenam ke ketiga, yang disebut OWASP sebagai “pergeseran paling berdampak dalam daftar”.
- Unbounded Consumption naik empat peringkat, dan Improper Output Handling turun paling jauh, dari urutan kelima ke kesepuluh.
- Prompt Injection dan Sensitive Information Disclosure mempertahankan dua posisi teratas.
- System Prompt Leakage menjadi Hidden Context Exposure, entri yang lebih luas.
- Entri yang sudah ada menyerap risiko-risiko yang lebih baru alih-alih menambah kategori baru: injeksi lintas modal, artefak model yang tidak sesuai klaimnya, subversi fine-tuning, dan kode hasil generate yang tidak aman.
- Pemetaan ke berbagai framework (NIST, MITRE ATLAS, CWE, dan lainnya) dipindahkan ke satu lampiran.
OWASP juga menarik batas yang lebih jelas. Daftar ini membahas model sebagai komponen aplikasi Anda. Begitu model menjadi aktor dengan tool, memori, dan konsekuensi hilir, OWASP menyarankan untuk memadukannya dengan OWASP Top 10 untuk Aplikasi Agentik, yang dibahas langkah demi langkah dalam panduan kami tentang cara mengamankan agen AI.
Cara Menggunakan Daftar Ini di Tim Anda
Saran OWASP adalah “kerjakan kesepuluhnya, mulai dari yang teratas”. Dalam praktiknya:
- Telusuri kesepuluh entri saat Anda merancang atau meninjau fitur LLM, dan catat di bagian mana fitur itu rentan.
- Ubah setiap kontrol menjadi tiket dengan penanggung jawab, dan uji ulang setelah perbaikan.
- Tandai temuan dengan ID entri agar pengembang, security engineer, dan product owner memakai kosakata yang sama.
- Uji hanya sistem milik Anda atau sistem yang Anda punya izin tertulis untuk mengujinya, dan pastikan ketentuan penyedia model Anda mengizinkan pengujian keamanan.
Proyek akhir kursus belajar mandiri Keamanan AI: Mengamankan Aplikasi LLM dan Agen AI, “Menyerang, Memperbaiki, dan Menguji Ulang Agen AI”, diakhiri dengan laporan keamanan yang memetakan setiap temuan ke daftar OWASP.
Langkah Selanjutnya
Mulailah dari entri teratas: panduan kami tentang apa itu prompt injection menjelaskan serangan langsung dan tidak langsung serta pertahanan berlapis. Jika aplikasi Anda mengambil dokumen, perhatikan baik-baik LLM02 dan LLM09, yang membahas izin retrieval dan lapisan embedding; AI Engineer: Pengantar RAG & Pencarian adalah kursus belajar mandiri yang terkait.
Salah satu cara terstruktur untuk membangun keterampilan ini adalah kursus Keamanan AI: Mengamankan Aplikasi LLM dan Agen AI: belajar mandiri, level menengah, dan berdurasi 40 jam, untuk pengembang, AI engineer, dan profesional keamanan yang membangun atau menguji fitur AI.

Pelajari Keterampilan Teknis Online dengan Code Labs Academy
Bergabunglah dengan komunitas pendukung kami, buka potensi Anda, dan mulai dari jalur karier yang bermanfaat.
Terapkan sekarang