Langsung ke konten utama
Kembali ke blog

OWASP Top 10 untuk Aplikasi LLM 2026: Semua 10 Risiko Dijelaskan

Diperbarui pada November 19, 20267 Menit Baca


OWASP Top 10 untuk Aplikasi LLM adalah daftar dari OWASP GenAI Security Project yang memuat risiko keamanan paling kritis untuk aplikasi yang dibangun di atas model bahasa besar (LLM). Edisi 2026 diterbitkan pada Agustus 2026 (halaman sumber dayanya bertanggal 3 Agustus) dan diumumkan pada 1 September 2026. Panduan ini mencantumkan kesepuluh entri beserta ID resminya, menjelaskan masing-masing secara singkat, memberikan satu kontrol praktis per entri, dan merangkum apa yang berubah dari 2025.

Surat pembuka dari para pemimpin proyek menetapkan nadanya: “Berhentilah mencoba membangun model yang tidak bisa ditipu. Bangun sistem di sekelilingnya, sehingga ketika model tertipu, dan itu pasti terjadi, tidak ada hal penting yang rusak.”

Bagaimana Daftar 2026 Disusun

Edisi-edisi sebelumnya mengandalkan penilaian para praktisi. Untuk 2026, OWASP juga menguji hasil voting komunitas terhadap korpus berisi 7714 insiden nyata dari database kerentanan publik dan sebuah database dampak buruk AI, dengan 6639 di antaranya cukup rinci untuk diklasifikasikan. Voting memiliki bobot tiga perempat dan data insiden seperempat. Keduanya tidak selalu sejalan: jika diurutkan berdasarkan jumlah mentah insiden, prompt injection keluar dari top 10, yang oleh OWASP dikaitkan dengan “efek pertahanan”, karena tim-tim melawannya dengan gigih sehingga lebih sedikit eksploit bersih yang masuk ke database publik. Entri Misinformation justru sebaliknya: para pemberi suara menempatkannya di dekat urutan bawah, catatan insiden di dekat urutan atas, dan bukti data menaikkannya ke urutan ketujuh.

Sekilas tentang Daftar 2026

Entri 2026Posisi pada 2025
LLM01:2026 Prompt Injection1
LLM02:2026 Sensitive Information Disclosure2
LLM03:2026 Excessive Agency6
LLM04:2026 Supply Chain3
LLM05:2026 Data and Model Poisoning4
LLM06:2026 Unbounded Consumption10
LLM07:2026 Misinformation9
LLM08:2026 Hidden Context Exposure7 (sebagai System Prompt Leakage)
LLM09:2026 Vector and Embedding Weaknesses8
LLM10:2026 Improper Output Handling5

Posisi 2025 diambil dari daftar 2025 OWASP.

LLM01:2026 Prompt Injection

Input yang mengubah perilaku model dengan cara yang tidak dimaksudkan pengembang, baik dari pengguna, dokumen, hasil tool, gambar, maupun memori. Entri ini kini mencakup serangan lintas modal yang menyembunyikan instruksi dalam gambar atau audio. Kontrol: simpan kredensial dan tindakan yang mengubah state di kode aplikasi, dan berikan model hak akses minimum untuk setiap operasi. Panduan kami tentang prompt injection membahas entri ini secara mendalam.

LLM02:2026 Sensitive Information Disclosure (pengungkapan informasi sensitif)

Kebocoran data rahasia atau data yang diatur regulasi melalui saluran apa pun: jawaban, argumen panggilan tool, jejak penalaran, potongan hasil retrieval, log, atau embedding. OWASP menyebut berbagi berlebihan di hulu, seperti drive tanpa batasan cakupan yang mengisi indeks retrieval-augmented generation (RAG), sebagai salah satu dari dua kegagalan di balik sebagian besar insiden. Kontrol: lakukan otorisasi sebelum retrieval, dengan menegakkan akses di tingkat dokumen dan potongan (chunk) di dalam kueri indeks itu sendiri.

LLM03:2026 Excessive Agency (otonomi berlebihan)

Tindakan merugikan yang diambil sebagai respons terhadap output model yang tak terduga, ambigu, atau dimanipulasi. Akar penyebabnya adalah fungsionalitas, izin, atau otonomi yang berlebihan. Pada sistem agentik, menurut OWASP, risiko ini bisa muncul sebagai penyalahgunaan tool, penyalahgunaan identitas dan hak akses, atau kegagalan beruntun. Kontrol: minimalkan tool dan izinnya (tool peringkas email hanya perlu membaca email) dan wajibkan persetujuan manusia untuk tindakan berdampak tinggi.

LLM04:2026 Supply Chain (rantai pasok)

Risiko pada model, dataset, dan adapter pihak ketiga seperti LoRA, pipeline konversi, dan paket, termasuk “slopsquatting”, ketika penyerang mendaftarkan nama paket yang dihalusinasikan oleh asisten coding. Kontrol: sematkan (pin) artefak model dengan digest yang tidak dapat diubah, bukan tag yang dapat berubah, verifikasi tanda tangan, dan pastikan dependensi yang disarankan AI benar-benar ada sebelum menginstalnya.

LLM05:2026 Data and Model Poisoning (peracunan data dan model)

Data atau artefak model yang dimanipulasi untuk menanamkan backdoor atau bias selama pra-pelatihan, fine-tuning, embedding, atau distribusi. Peracunan bisa murah: Souly et al. (2025) menemukan bahwa 250 dokumen beracun mampu membobol model berukuran 600 juta hingga 13 miliar parameter, berapa pun ukuran dataset-nya. Kontrol: lacak silsilah (lineage) data dan model, beri versi pada dataset Anda, dan perlakukan template chat, konfigurasi tokenizer, dan adapter sebagai kode yang wajib ditandatangani dan diverifikasi.

LLM06:2026 Unbounded Consumption (konsumsi tanpa batas)

Inferensi tak terkendali yang menyebabkan gangguan layanan, biaya membengkak (“denial of wallet”), atau pencurian model melalui ekstraksi. Model penalaran, input multimodal, dan loop tool pada agen memperparah masalah ini. Kontrol: batas pengeluaran yang ketat yang menghentikan inferensi, ditambah circuit breaker untuk agen dengan batas langkah, rekursi, waktu, dan biaya per eksekusi.

LLM07:2026 Misinformation (misinformasi)

Output yang salah atau tidak berdasar, tetapi tampak cukup meyakinkan untuk dijadikan dasar tindakan. Pada sistem agentik, jawaban yang salah menjadi tindakan yang salah, misalnya agen yang melaporkan bahwa backup sudah berjalan padahal tidak pernah. Kontrol: pola claim-check-act yang memisahkan pembuatan output dari eksekusi serta memverifikasi klaim dan prasyarat sebelum bertindak.

LLM08:2026 Hidden Context Exposure (paparan konteks tersembunyi)

Ekstraksi atau rekonstruksi konteks tersembunyi: system prompt, instruksi pengembang, teks kebijakan hasil retrieval, dan skema tool. OWASP menyarankan untuk mengasumsikan bahwa konteks tersembunyi dapat ditemukan. Kontrol: jauhkan kredensial dan rahasia dari konteks tersebut, dan tegakkan otorisasi dalam kode deterministik di luar model.

LLM09:2026 Vector and Embedding Weaknesses (kelemahan vektor dan embedding)

Serangan pada lapisan embedding di balik RAG, memori agen, dan cache semantik. Dalam kata-kata OWASP, “peracunan membuat sistem salah, inversi membuatnya bocor, jamming membuatnya bungkam, dan kegagalan kontrol akses membuatnya tidak pandang bulu”. Kontrol: tegakkan pembatasan per tenant di dalam kueri indeks, bukan sebagai filter setelah retrieval, dan simpan konten dengan tingkat kepercayaan berbeda di indeks yang terpisah.

LLM10:2026 Improper Output Handling (penanganan output yang tidak tepat)

Meneruskan output model ke sistem hilir tanpa validasi, yang dapat berujung pada XSS, SQL injection, SSRF, atau eksekusi kode jarak jauh. Entri ini kini juga mencakup kode tidak aman yang dihasilkan asisten dalam skala besar. Kontrol: perlakukan output model seperti input pengguna: lakukan encoding sesuai konteksnya, gunakan kueri berparameter, dan nonaktifkan rendering otomatis gambar Markdown dan pratinjau tautan.

Apa yang Berubah dari Edisi 2025

OWASP menyebut urutannya “bergeser lebih banyak dibanding tahun-tahun sebelumnya”. Perubahan utamanya:

  • Excessive Agency naik dari urutan keenam ke ketiga, yang disebut OWASP sebagai “pergeseran paling berdampak dalam daftar”.
  • Unbounded Consumption naik empat peringkat, dan Improper Output Handling turun paling jauh, dari urutan kelima ke kesepuluh.
  • Prompt Injection dan Sensitive Information Disclosure mempertahankan dua posisi teratas.
  • System Prompt Leakage menjadi Hidden Context Exposure, entri yang lebih luas.
  • Entri yang sudah ada menyerap risiko-risiko yang lebih baru alih-alih menambah kategori baru: injeksi lintas modal, artefak model yang tidak sesuai klaimnya, subversi fine-tuning, dan kode hasil generate yang tidak aman.
  • Pemetaan ke berbagai framework (NIST, MITRE ATLAS, CWE, dan lainnya) dipindahkan ke satu lampiran.

OWASP juga menarik batas yang lebih jelas. Daftar ini membahas model sebagai komponen aplikasi Anda. Begitu model menjadi aktor dengan tool, memori, dan konsekuensi hilir, OWASP menyarankan untuk memadukannya dengan OWASP Top 10 untuk Aplikasi Agentik, yang dibahas langkah demi langkah dalam panduan kami tentang cara mengamankan agen AI.

Cara Menggunakan Daftar Ini di Tim Anda

Saran OWASP adalah “kerjakan kesepuluhnya, mulai dari yang teratas”. Dalam praktiknya:

  • Telusuri kesepuluh entri saat Anda merancang atau meninjau fitur LLM, dan catat di bagian mana fitur itu rentan.
  • Ubah setiap kontrol menjadi tiket dengan penanggung jawab, dan uji ulang setelah perbaikan.
  • Tandai temuan dengan ID entri agar pengembang, security engineer, dan product owner memakai kosakata yang sama.
  • Uji hanya sistem milik Anda atau sistem yang Anda punya izin tertulis untuk mengujinya, dan pastikan ketentuan penyedia model Anda mengizinkan pengujian keamanan.

Proyek akhir kursus belajar mandiri Keamanan AI: Mengamankan Aplikasi LLM dan Agen AI, “Menyerang, Memperbaiki, dan Menguji Ulang Agen AI”, diakhiri dengan laporan keamanan yang memetakan setiap temuan ke daftar OWASP.

Langkah Selanjutnya

Mulailah dari entri teratas: panduan kami tentang apa itu prompt injection menjelaskan serangan langsung dan tidak langsung serta pertahanan berlapis. Jika aplikasi Anda mengambil dokumen, perhatikan baik-baik LLM02 dan LLM09, yang membahas izin retrieval dan lapisan embedding; AI Engineer: Pengantar RAG & Pencarian adalah kursus belajar mandiri yang terkait.

Salah satu cara terstruktur untuk membangun keterampilan ini adalah kursus Keamanan AI: Mengamankan Aplikasi LLM dan Agen AI: belajar mandiri, level menengah, dan berdurasi 40 jam, untuk pengembang, AI engineer, dan profesional keamanan yang membangun atau menguji fitur AI.

Pelajari Keterampilan Teknis Online dengan Code Labs Academy

Pelajari Keterampilan Teknis Online dengan Code Labs Academy

Bergabunglah dengan komunitas pendukung kami, buka potensi Anda, dan mulai dari jalur karier yang bermanfaat.

Terapkan sekarang

Pertanyaan yang sering diajukan

Apa itu OWASP Top 10 untuk Aplikasi LLM 2026?

Ini adalah daftar dari OWASP GenAI Security Project yang memuat sepuluh risiko keamanan paling kritis untuk aplikasi yang dibangun di atas model bahasa besar, yang diterbitkan pada Agustus 2026. Setiap entri menjelaskan risikonya, memberikan skenario serangan, dan mencantumkan mitigasinya.

Apa yang menempati urutan pertama di OWASP LLM Top 10 2026?

LLM01:2026 Prompt Injection menempati urutan pertama, sama seperti pada 2025. Sensitive Information Disclosure (pengungkapan informasi sensitif) tetap di urutan kedua, dan Excessive Agency (otonomi berlebihan) naik ke urutan ketiga.

Apa yang berubah dari OWASP LLM Top 10 2025?

Urutannya berubah lebih banyak dibanding edisi-edisi sebelumnya: Excessive Agency naik dari urutan keenam ke ketiga, Unbounded Consumption naik empat peringkat, dan Improper Output Handling turun dari urutan kelima ke kesepuluh. System Prompt Leakage berganti menjadi Hidden Context Exposure, dan untuk pertama kalinya peringkat ini juga mempertimbangkan data dari insiden nyata.

Apa yang terjadi pada System Prompt Leakage di 2026?

Entri ini diganti namanya dan diperluas menjadi LLM08:2026 Hidden Context Exposure (paparan konteks tersembunyi). Kini entri tersebut mencakup konteks tersembunyi apa pun yang dapat dilihat model, termasuk instruksi pengembang, teks kebijakan hasil retrieval, dan skema tool, bukan hanya system prompt.

Apa bedanya LLM Top 10 dengan OWASP Top 10 untuk Aplikasi Agentik?

LLM Top 10 membahas model sebagai komponen di dalam aplikasi Anda. Ketika model bertindak sendiri dengan tool, memori, dan efek hilir, OWASP menyarankan untuk memadukannya dengan Top 10 untuk Aplikasi Agentik.

Layanan karier

Dukungan karier yang dipersonalisasi untuk memulai karier di bidang teknologi. Termasuk review CV, simulasi wawancara, dan wawasan industri agar Anda dapat menampilkan keterampilan baru dengan percaya diri.

Jelajahi