LLM 애플리케이션을 위한 OWASP Top 10(2026년판): 10가지 위험 총정리
최종 업데이트: November 19, 2026읽는 데 6분 소요
LLM 애플리케이션을 위한 OWASP Top 10은 OWASP GenAI Security Project가 대규모 언어 모델(LLM) 기반 앱의 가장 중대한 보안 위험을 정리한 목록입니다. 2026년판은 2026년 8월에 공개되었고(리소스 페이지의 날짜는 8월 3일), 2026년 9월 1일에 발표되었습니다. 이 가이드에서는 열 가지 항목 전체를 공식 ID와 함께 나열해 각각을 간단히 설명하고, 항목마다 실용적인 통제 방안 하나를 제시한 뒤, 2025년판에서 달라진 점을 정리합니다.
프로젝트 리더들의 서문이 전체 기조를 보여 줍니다. “속지 않는 모델을 만들려는 시도는 그만두세요. 모델을 둘러싼 시스템을 구축해서, 모델이 속더라도(그리고 모델은 반드시 속습니다) 중요한 것은 아무것도 망가지지 않게 하세요.”
2026년판 목록은 어떻게 만들어졌나
이전 판들은 실무자의 판단에 의존했습니다. 2026년판에서 OWASP는 여기에 더해, 커뮤니티 투표 결과를 공개 취약점 데이터베이스와 AI 피해 데이터베이스에서 수집한 실제 사고 7,714건의 코퍼스와 대조했습니다. 이 가운데 6,639건에는 분류할 수 있을 만큼 상세한 정보가 담겨 있었습니다. 가중치는 투표가 사분의 삼, 사고 데이터가 사분의 일입니다. 두 결과가 항상 일치하지는 않았습니다. 원시 사고 건수만으로 순위를 매기면 프롬프트 인젝션은 상위 10위 밖으로 밀려나는데, OWASP는 이를 “방어 효과” 때문이라고 설명합니다. 팀들이 이 위험에 적극적으로 대응하기 때문에 공개 데이터베이스까지 올라오는 깔끔한 익스플로잇이 적다는 것입니다. 잘못된 정보(Misinformation)는 반대 방향으로 움직였습니다. 투표에서는 하위권에, 사고 기록에서는 상위권에 있었고, 결국 근거 데이터가 이 항목을 일곱 번째까지 끌어올렸습니다.
2026년판 목록 한눈에 보기
| 2026년판 항목 | 2025년판 순위 |
|---|---|
| LLM01:2026 Prompt Injection(프롬프트 인젝션) | 1 |
| LLM02:2026 Sensitive Information Disclosure(민감 정보 노출) | 2 |
| LLM03:2026 Excessive Agency(과도한 에이전시) | 6 |
| LLM04:2026 Supply Chain(공급망) | 3 |
| LLM05:2026 Data and Model Poisoning(데이터 및 모델 포이즈닝) | 4 |
| LLM06:2026 Unbounded Consumption(무제한 소비) | 10 |
| LLM07:2026 Misinformation(잘못된 정보) | 9 |
| LLM08:2026 Hidden Context Exposure(숨겨진 컨텍스트 노출) | 7(당시 이름은 System Prompt Leakage) |
| LLM09:2026 Vector and Embedding Weaknesses(벡터와 임베딩의 약점) | 8 |
| LLM10:2026 Improper Output Handling(부적절한 출력 처리) | 5 |
2025년판 순위는 OWASP의 2025년판 목록을 기준으로 합니다.
LLM01:2026 Prompt Injection(프롬프트 인젝션)
사용자, 문서, 도구 결과, 이미지, 메모리 중 어디에서 오든, 개발자가 의도하지 않은 방식으로 모델의 동작을 바꾸는 입력입니다. 이제 이 항목은 이미지나 오디오에 지시를 숨기는 크로스 모달 공격도 다룹니다. 통제 방안: 자격 증명과 상태를 바꾸는 작업은 애플리케이션 코드에 두고, 모델에는 작업별로 최소 권한만 부여하세요. 이 항목은 프롬프트 인젝션 가이드에서 자세히 다룹니다.
LLM02:2026 Sensitive Information Disclosure(민감 정보 노출)
기밀 데이터나 규제 대상 데이터가 답변, 도구 호출 인자, 추론 과정, 검색된 청크, 로그, 임베딩 등 어떤 경로로든 새어 나가는 것입니다. OWASP는 대부분의 사고 뒤에 있는 두 가지 실패 중 하나로 업스트림에서의 과잉 공유를 꼽습니다. 예를 들어 접근 범위를 제한하지 않은 드라이브가 검색 증강 생성(RAG) 인덱스로 그대로 들어가는 경우입니다. 통제 방안: 검색 전에 권한을 확인하고, 인덱스 쿼리 안에서 문서 단위와 청크 단위의 접근 제어를 적용하세요.
LLM03:2026 Excessive Agency(과도한 에이전시)
예상치 못하거나 모호하거나 조작된 모델 출력에 따라 피해를 주는 작업이 실행되는 것입니다. 근본 원인은 과도한 기능, 권한, 자율성입니다. OWASP에 따르면 에이전틱 시스템에서는 도구 오용, ID 및 권한 남용, 연쇄 장애로 나타날 수 있습니다. 통제 방안: 도구와 그 권한을 최소화하고(이메일 요약 도구에는 메일 읽기 권한만 있으면 됩니다), 영향이 큰 작업에는 사람의 승인을 요구하세요.
LLM04:2026 Supply Chain(공급망)
서드파티 모델, 데이터셋, LoRA 같은 어댑터, 변환 파이프라인, 패키지에 존재하는 위험입니다. 코딩 어시스턴트가 환각으로 지어낸 패키지 이름을 공격자가 등록하는 “슬롭스쿼팅(slopsquatting)”도 여기에 포함됩니다. 통제 방안: 모델 아티팩트는 변경 가능한 태그가 아니라 변경 불가능한 다이제스트로 고정하고, 서명을 검증하고, AI가 제안한 의존성은 설치하기 전에 실제로 존재하는지 확인하세요.
LLM05:2026 Data and Model Poisoning(데이터 및 모델 포이즈닝)
사전 학습, 파인튜닝, 임베딩, 배포 과정에서 조작된 데이터나 모델 아티팩트가 백도어나 편향을 심는 것입니다. 포이즈닝은 적은 비용으로도 가능합니다. Souly 외(2025)는 데이터셋 크기와 관계없이 오염된 문서 250개만으로 600M에서 13B 파라미터 규모의 모델이 침해된다는 사실을 발견했습니다. 통제 방안: 데이터와 모델의 계보(lineage)를 추적하고, 데이터셋의 버전을 관리하고, 채팅 템플릿, 토크나이저 설정, 어댑터를 서명과 검증이 필요한 코드로 취급하세요.
LLM06:2026 Unbounded Consumption(무제한 소비)
통제되지 않은 추론으로 서비스 중단, 비용 폭증(“denial of wallet”), 추출을 통한 모델 탈취가 일어나는 것입니다. 추론 모델, 멀티모달 입력, 에이전트의 도구 루프는 이 문제를 더 악화시킵니다. 통제 방안: 추론을 중단시키는 엄격한 지출 상한을 두고, 단계 수, 재귀, 시간, 실행당 비용 한도를 갖춘 에이전트용 서킷 브레이커를 함께 적용하세요.
LLM07:2026 Misinformation(잘못된 정보)
틀렸거나 근거가 없는 출력이 그대로 믿고 행동할 만큼 그럴듯해 보이는 것입니다. 에이전틱 시스템에서는 잘못된 답변이 잘못된 행동이 됩니다. 예를 들어 백업이 한 번도 실행되지 않았는데도 에이전트가 실행되었다고 보고하는 경우입니다. 통제 방안: 생성과 실행을 분리하고 행동하기 전에 주장과 전제 조건을 검증하는 claim-check-act(주장-확인-실행) 패턴을 사용하세요.
LLM08:2026 Hidden Context Exposure(숨겨진 컨텍스트 노출)
시스템 프롬프트, 개발자 지시, 검색된 정책 문서, 도구 스키마 같은 숨겨진 컨텍스트가 추출되거나 재구성되는 것입니다. OWASP는 숨겨진 컨텍스트는 결국 드러날 수 있다고 가정하라고 권고합니다. 통제 방안: 자격 증명과 시크릿은 숨겨진 컨텍스트에 넣지 말고, 권한 부여는 모델 밖의 결정론적 코드에서 강제하세요.
LLM09:2026 Vector and Embedding Weaknesses(벡터와 임베딩의 약점)
RAG, 에이전트 메모리, 시맨틱 캐시를 뒷받침하는 임베딩 계층에 대한 공격입니다. OWASP의 표현을 빌리면 “포이즈닝은 시스템을 틀리게 만들고, 인버전은 정보를 새게 만들고, 재밍은 시스템을 침묵하게 만들고, 접근 제어 실패는 시스템이 가리지 않고 응답하게 만듭니다.” 통제 방안: 테넌트 범위 제한은 검색 후 필터가 아니라 인덱스 쿼리 안에서 적용하고, 신뢰 수준이 다른 콘텐츠는 별도의 인덱스에 보관하세요.
LLM10:2026 Improper Output Handling(부적절한 출력 처리)
모델 출력을 검증 없이 다운스트림으로 넘기는 것으로, XSS, SQL 인젝션, SSRF, 원격 코드 실행으로 이어질 수 있습니다. 이제 이 항목은 어시스턴트가 대량으로 생성하는 안전하지 않은 코드도 다룹니다. 통제 방안: 모델 출력을 사용자 입력처럼 다루세요. 사용되는 맥락에 맞게 인코딩하고, 매개변수화된 쿼리를 사용하고, Markdown 이미지와 링크 미리보기의 자동 렌더링을 끄세요.
2025년판에서 달라진 점
OWASP에 따르면 이번 순위는 “예년보다 크게 움직였습니다”. 주요 변경 사항은 다음과 같습니다.
- Excessive Agency가 여섯 번째에서 세 번째로 올라섰으며, OWASP는 이를 “목록에서 가장 중대한 변화”라고 부릅니다.
- Unbounded Consumption은 네 계단 올랐고, Improper Output Handling은 다섯 번째에서 열 번째로 가장 크게 떨어졌습니다.
- Prompt Injection과 Sensitive Information Disclosure는 상위 두 자리를 지켰습니다.
- System Prompt Leakage는 범위가 더 넓은 항목인 Hidden Context Exposure가 되었습니다.
- 새 카테고리를 추가하는 대신 기존 항목이 새로운 위험을 흡수했습니다. 크로스 모달 인젝션, 겉으로 내세우는 것과 실제가 다른 모델 아티팩트, 파인튜닝을 악용한 무력화, 생성된 안전하지 않은 코드가 그 예입니다.
- 프레임워크 매핑(NIST, MITRE ATLAS, CWE 등)은 하나의 부록으로 옮겨졌습니다.
OWASP는 경계도 더 명확하게 긋습니다. 이 목록은 애플리케이션의 구성 요소로서 모델을 다룹니다. 모델이 도구와 메모리를 갖추고 다운스트림에 영향을 미치는 행위자가 되면, OWASP는 에이전틱 애플리케이션을 위한 OWASP Top 10을 함께 사용하라고 말합니다. 이에 대해서는 AI 에이전트를 보호하는 방법 가이드에서 자세히 다룹니다.
팀에서 목록을 활용하는 방법
OWASP의 조언은 “열 가지 모두 다루되, 맨 위부터 시작하라”는 것입니다. 실제로는 다음과 같이 합니다.
- LLM 기능을 설계하거나 검토할 때 열 가지 항목을 하나씩 짚어 보고, 어디가 노출되어 있는지 기록하세요.
- 각 통제 방안을 담당자가 정해진 티켓으로 만들고, 수정 후 다시 테스트하세요.
- 발견 사항에 항목 ID를 태그로 달아 개발자, 보안 엔지니어, 프로덕트 오너가 같은 용어로 소통하게 하세요.
- 직접 소유한 시스템이나 테스트에 대한 서면 허가를 받은 시스템만 테스트하고, 사용하는 모델 제공업체의 약관이 보안 테스트를 허용하는지 확인하세요.
자기 주도형으로 학습하는 ‘AI 보안: LLM 앱과 AI 에이전트 보호하기’ 코스의 캡스톤인 ‘AI 에이전트를 공격하고, 고치고, 다시 테스트하기’는 각 발견 사항을 OWASP 목록에 매핑한 보안 보고서로 마무리됩니다.
다음 단계
맨 위 항목부터 시작하세요. 프롬프트 인젝션이란 무엇인지 다룬 가이드에서 직접 공격과 간접 공격, 다층 방어를 설명합니다. 앱이 문서를 검색한다면 검색 권한과 임베딩 계층을 다루는 LLM02와 LLM09를 꼼꼼히 살펴보세요. ‘AI 엔지니어: RAG와 검색 입문’이 관련 자기 주도형 코스입니다.
이러한 역량을 체계적으로 쌓는 방법 중 하나는 ‘AI 보안: LLM 앱과 AI 에이전트 보호하기’ 코스입니다. 자기 주도 학습, 중급, 40시간 과정으로, AI 기능을 만들거나 테스트하는 개발자, AI 엔지니어, 보안 전문가를 위한 코스입니다.

Code Labs Academy 온라인 부트캠프로 실무 IT 기술을 배우세요
사이버보안, 데이터 사이언스 & AI, 웹 개발, UX/UI 및 제품 디자인 부트캠프와 함께 글로벌 커뮤니티에 합류하고 잠재력을 키워 새로운 커리어를 시작해 보세요.
지금 부트캠프 지원하기