본문으로 건너뛰기
블로그로 돌아가기

AI 에이전트를 보호하는 방법: OWASP Agentic Top 10, MCP, 핵심 통제 방안

최종 업데이트: November 19, 2026읽는 데 6분 소요


대규모 언어 모델(LLM)을 중심으로 만들어진 AI 에이전트는 질문에 답하는 데 그치지 않습니다. 계획을 세우고, 도구를 호출하고, 데이터를 읽고 쓰며, 때로는 다른 에이전트와 대화합니다. 그만큼 모델의 약점 하나하나가 미치는 영향도 커집니다. 챗봇에서는 엉뚱한 답변 하나로 끝났을 프롬프트 인젝션이 에이전트에서는 이메일 발송, 레코드 변경, 코드 실행으로 이어질 수 있습니다. 이 가이드에서는 에이전틱 애플리케이션을 위한 OWASP Top 10과 Model Context Protocol(MCP) 보안을 포함한 실용적인 통제 방안을 다룹니다.

에이전트에 별도의 보안 모델이 필요한 이유

NIST AI 100-2e2025는 에이전트를 “모델에 반복적으로 프롬프트를 보내고”, 그 출력을 (예를 들어 함수를 호출하기 위해) 처리한 뒤 결과를 다음 프롬프트에 다시 넣는 소프트웨어로 설명합니다. LLM 애플리케이션을 위한 OWASP Top 10(2026년판)은 바로 여기에 선을 긋습니다. 이 목록은 구성 요소로서의 모델을 다루며, 모델이 도구와 메모리를 사용해 행동하고 다운스트림에 영향을 미치게 되면 OWASP는 에이전트용 목록을 참고하라고 안내합니다.

이 에이전트용 목록은 가장 먼저 도입할 만한 원칙을 하나 더합니다. 바로 최소 에이전시(least agency)입니다. OWASP는 조직에 “불필요한 자율성을 피하라”고 조언합니다. 필요하지 않은 곳에 에이전틱 동작을 배포하면 “가치를 더하지 못한 채 공격 표면만 넓히기” 때문입니다.

에이전틱 애플리케이션을 위한 OWASP Top 10

OWASP GenAI Security Project는 2025년 12월 9일 에이전틱 애플리케이션을 위한 OWASP Top 10을 발표했습니다. 열 가지 항목은 다음과 같습니다.

  • ASI01: Agent Goal Hijack(에이전트 목표 탈취): 주입된 콘텐츠가 에이전트의 목표나 계획을 바꿉니다.
  • ASI02: Tool Misuse and Exploitation(도구 오용 및 악용): 에이전트가 정상적인 도구를 안전하지 않은 방식으로 사용합니다.
  • ASI03: Identity and Privilege Abuse(ID 및 권한 남용): 위임받거나 상속된 자격 증명이 악용됩니다.
  • ASI04: Agentic Supply Chain Vulnerabilities(에이전틱 공급망 취약점): 도구, MCP 서버, 프롬프트, 에이전트가 악의적이거나 변조되어 있습니다.
  • ASI05: Unexpected Code Execution (RCE)(예기치 않은 코드 실행): 생성되거나 주입된 코드가 우리 시스템에서 실행됩니다.
  • ASI06: Memory & Context Poisoning(메모리 및 컨텍스트 포이즈닝): 저장된 메모리나 검색된 컨텍스트가 오염됩니다.
  • ASI07: Insecure Inter-Agent Communication(안전하지 않은 에이전트 간 통신): 에이전트 간 메시지가 위조되거나 변조됩니다.
  • ASI08: Cascading Failures(연쇄 장애): 하나의 결함이 여러 에이전트와 워크플로로 번집니다.
  • ASI09: Human-Agent Trust Exploitation(사람과 에이전트 간 신뢰 악용): 사람들이 자신감 있어 보이는 에이전트를 지나치게 신뢰합니다.
  • ASI10: Rogue Agents(통제를 벗어난 에이전트): 에이전트가 본래의 기능이나 범위에서 벗어납니다.

에이전트에 최소 권한과 범위가 제한된 자격 증명 부여하기

OWASP의 LLM01:2026 항목은 기록된 영향이 큰 프롬프트 인젝션 사고 대부분이 심각해진 이유가, 침해된 모델이 사용자의 권한 수준으로 도구를 통해 행동할 수 있었기 때문이라고 지적합니다. ASI03은 에이전트별 ID와 “작업마다 발급하는, 수명이 짧고 범위가 좁은 토큰”을 권장하고, ASI02는 스코프, 속도 제한, 외부 송신 허용 목록을 갖춘 도구별 프로필을 권장합니다. 도구는 공유된 고권한 계정이 아니라 최소한의 OAuth 스코프로 사용자 자신의 컨텍스트에서 실행하세요.

Invariant Labs는 범위가 왜 중요한지 보여 주었습니다. 악의적인 GitHub 이슈 하나로 GitHub의 MCP 서버에 연결된 에이전트를 탈취하고, 사용자의 비공개 저장소에 있는 데이터를 노출시킬 수 있었던 것입니다. 이들은 이 문제가 “GitHub MCP 서버 코드 자체의 결함은 아니며” 아키텍처상의 문제라고 설명하고, 세션마다 하나의 저장소만 다루도록 제한할 것을 제안했습니다.

Meta의 Agents Rule of Two는 간단한 설계 점검 도구입니다. 하나의 세션에서 에이전트는 신뢰할 수 없는 입력 처리, 민감한 시스템이나 비공개 데이터 접근, 상태 변경 또는 외부 통신 가운데 최대 두 가지까지만 결합해야 한다는 것입니다. 세 가지가 모두 필요하다면 Meta는 그 에이전트가 “자율적으로 작동하도록 허용되어서는 안 된다”고 말합니다.

허용 목록과 모델 외부의 정책 점검 사용하기

에이전트가 무엇을 할 수 있는지는 프롬프트가 아니라 코드에서 결정하세요. 작업마다 사용할 수 있는 도구, 접근할 수 있는 네트워크 목적지, 묻지 않고 실행할 수 있는 명령을 허용 목록에 올리고, 나머지는 모두 거부하세요. ASI02는 플래너의 출력을 신뢰할 수 없는 것으로 취급하는 정책 시행 지점(policy enforcement point)을 설명합니다. 이 지점은 도구가 실행되기 전에 의도와 인자를 점검하고, 스키마와 속도 제한을 강제하고, 수명이 짧은 자격 증명을 발급합니다.

에이전트가 실행하는 모든 코드를 샌드박스에 가두기

에이전트가 코드를 작성하거나 실행한다면, 그중 일부는 악의적일 수 있다고 보고 대비하세요(ASI05). OWASP의 조언은 절대 root로 실행하지 말고, 네트워크 접근을 포함해 엄격한 제한을 건 샌드박스 컨테이너에서 코드를 실행하며, 검증 게이트를 두어 코드 생성과 실행을 분리하라는 것입니다. Anthropic은 자사 코딩 에이전트의 샌드박싱에 관한 글에서, 효과적인 샌드박싱에는 파일 시스템 격리와 네트워크 격리가 모두 필요하다고 덧붙입니다. 네트워크가 격리되지 않으면 침해된 에이전트가 “SSH 키 같은 민감한 파일을 유출할 수 있기” 때문입니다.

되돌릴 수 없는 작업 전에는 사람에게 묻기

데이터 삭제, 송금, 게시, 메시지 발송처럼 되돌리기 어렵거나 시스템 밖에서 보이는 작업 전에는 승인을 요구하세요. ASI02는 승인 전에 해당 작업의 드라이런 결과나 diff를 보여 줄 것을 제안합니다. 확인 요청은 하나하나가 의미를 가질 만큼 드물게 유지하세요. OWASP는 승인 피로가 판단력을 떨어뜨린다고 경고하며, ASI09는 검토자를 설득해 해로운 작업을 승인하게 만드는 에이전트를 설명합니다.

MCP 서버와 도구 설명을 신뢰할 수 없는 것으로 다루기

MCP를 사용하면 에이전트에 도구를 손쉽게 연결할 수 있는데, 바로 그 때문에 도구가 공급망 위험이 됩니다. MCP 사양은 클라이언트가 “신뢰할 수 있는 서버에서 온 것이 아닌 한 도구 어노테이션을 신뢰할 수 없는 것으로 간주해야 한다(MUST)”고 명시하며, “도구 호출을 거부할 수 있는 사람이 항상 루프 안에 있어야 한다(SHOULD)”고 말합니다.

Invariant Labs는 도구 포이즈닝을 도구 설명 속에 숨겨진 지시, 즉 “사용자에게는 보이지 않지만 AI 모델에게는 보이는” 지시로 설명하고, 사용자가 승인한 뒤에도 서버가 설명을 바꿀 수 있다고 경고합니다. OWASP의 ASI04는 정상적인 이메일 연동 서비스를 사칭해 이메일을 몰래 공격자에게 복사해 보낸 npm의 악성 MCP 서버를 사례로 듭니다.

실용적인 단계:

  • MCP 서버는 신뢰할 수 있는 출처에서 설치하고, 버전을 고정하고 해시를 검증하세요.
  • 도구 설명에 숨겨진 지시가 없는지 검토하고, 설명이 바뀌면 다시 검토하세요.
  • 로컬 서버는 MCP 보안 모범 사례가 권장하는 대로 실행 전에 정확한 명령을 보여 주고, 샌드박스 안에서 최소 권한으로 실행하세요.
  • 토큰을 절대 그대로 전달(passthrough)하지 마세요. MCP 서버는 “해당 MCP 서버를 위해 명시적으로 발급되지 않은 토큰은 절대 받아들여서는 안 됩니다(MUST NOT)”.
  • 좁은 OAuth 스코프로 시작하고, 작업에 필요할 때만 스코프를 추가하세요.

자기 주도형으로 학습하는 ‘AI 보안: LLM 앱과 AI 에이전트 보호하기’ 코스의 모듈 4에서는 AI 에이전트, 도구, MCP 서버 보호를 다룹니다.

에이전트 메모리를 깨끗하게 유지하기

메모리가 있으면 공격이 세션을 넘어 지속될 수 있습니다(ASI06). 메모리에 기록되는 내용을 검증하고, 메모리를 사용자별, 작업별로 분리하고, 검증되지 않은 항목은 만료시키고, 에이전트 자신의 출력이 신뢰할 수 있는 메모리로 자동으로 흘러 들어가지 않게 하세요. OWASP의 LLM01:2026 항목은 메모리 쓰기를 특권 작업으로 다루고, 쓰기마다 그 배경이 된 프롬프트를 로그로 남기라고 덧붙입니다.

에이전트의 작업을 로그로 남기고 멈출 수단 확보하기

조사하고 롤백할 수 있도록 도구 호출, 승인, 에이전트 간 메시지를 변조 여부를 확인할 수 있는 로그로 남기세요(ASI08, ASI10). 에이전트를 빠르게 멈출 수 있어야 합니다. OWASP는 통제를 벗어난 에이전트에 대해서는 킬 스위치와 자격 증명 폐기를, 폭주하는 실행에 대해서는 단계 수, 시간, 비용 한도를 갖춘 서킷 브레이커를 제시합니다. 중단 경로는 필요해지기 전에 미리 테스트하고, 에이전트를 정기적으로 레드티밍하세요. 단, 직접 소유한 시스템이나 테스트에 대한 서면 허가를 받은 시스템에서만 하고, 사용하는 모델 제공업체의 약관이 보안 테스트를 허용하는지 확인하세요.

EU 규정의 내용(배경지식이며 법률 자문이 아님)

  • EU AI법상 모든 AI 시스템이 고위험인 것은 아닙니다. 대체로 부속서 III에 열거된 목적으로 사용되는 시스템(예외 있음)이거나, 부속서 I에 열거된 EU 법률이 적용되는 제품의 안전 구성요소인 시스템(또는 그 자체가 그러한 제품인 시스템)으로서 해당 제품이 제삼자 적합성 평가를 받아야 하는 경우에만 해당합니다.
  • 고위험 AI 시스템에 대해 제15조는 “적절한 수준의 정확성, 견고성, 사이버 보안”을 요구합니다. 제15조 제5항은 여기에 더해 권한 없는 제삼자가 시스템의 사용, 출력 또는 성능을 변경하려는 시도에 대한 회복력을 요구하고, 적절한 경우 데이터 포이즈닝, 모델 포이즈닝, 적대적 예제(모델 회피), 기밀성 공격이나 모델 결함에 대한 대책을 열거합니다.
  • “AI에 관한 디지털 옴니버스(Digital Omnibus on AI)”로 불리는 규정 (EU) 2026/1744(2026년 7월 27일 발효)에 따라, 고위험 의무는 부속서 III 시스템에는 2027년 12월 2일부터, 부속서 I에 해당하는 제품 속 시스템에는 2028년 8월 2일부터 적용됩니다.
  • 이미 적용되는 규정도 있습니다. 제50조에 따라 2026년 8월 2일부터, 사람과 직접 상호작용하는 AI 시스템의 제공자는 명백한 경우가 아니라면 상대방이 AI와 상호작용하고 있다는 사실을 알 수 있도록 해야 합니다.
  • 사이버 복원력법은 EU 시장에 출시되는, 소프트웨어를 포함한 디지털 요소가 있는 제품에 적용됩니다. 따라서 에이전트가 그런 제품으로 출시되는지, 아니면 서비스로 운영되는지 확인하세요. 이 법은 2024년 12월 10일에 발효되었습니다. 적극적으로 악용되는 취약점과 심각한 사고에 대한 제조업체의 보고 의무는 2026년 9월 11일부터, 주요 의무는 2027년 12월 11일부터 적용됩니다.

이 가운데 어떤 내용이 내 에이전트에 적용되는지는 법률 전문가와 상의해야 할 문제입니다.

다음 단계

에이전트를 처음 만들어 본다면 AI 에이전트를 만드는 방법(영문) 가이드와 자기 주도형 ‘에이전틱 AI: 에이전트 개발 입문’ 코스에서 기초를 익힐 수 있습니다.

이러한 역량을 체계적으로 쌓는 방법 중 하나는 ‘AI 보안: LLM 앱과 AI 에이전트 보호하기’ 코스입니다. 자기 주도 학습, 중급, 40시간 과정입니다. AI 공급망 보안과 EU 규정도 다루며, 캡스톤에서는 AI 에이전트를 공격하고, 고치고, 다시 테스트합니다.

Code Labs Academy 온라인 부트캠프로 실무 IT 기술을 배우세요

Code Labs Academy 온라인 부트캠프로 실무 IT 기술을 배우세요

사이버보안, 데이터 사이언스 & AI, 웹 개발, UX/UI 및 제품 디자인 부트캠프와 함께 글로벌 커뮤니티에 합류하고 잠재력을 키워 새로운 커리어를 시작해 보세요.

지금 부트캠프 지원하기

자주 묻는 질문

에이전틱 애플리케이션을 위한 OWASP Top 10이란 무엇인가요?

OWASP GenAI Security Project가 2025년 12월에 발표한, AI 에이전트에 가장 큰 영향을 미치는 열 가지 보안 위험 목록입니다. 항목은 ASI01 Agent Goal Hijack부터 ASI10 Rogue Agents까지이며, 각 항목에 예시와 완화 방안이 담겨 있습니다.

AI 에이전트에서 최소 에이전시(least agency)란 무엇을 뜻하나요?

최소 에이전시는 OWASP가 최소 권한 원칙을 확장한 개념으로, 에이전트에게 작업에 필요한 만큼의 자율성만 주라는 것입니다. 필요하지 않은 에이전틱 동작은 아무런 가치 없이 공격 표면만 넓힙니다.

MCP 서버는 안전하게 사용할 수 있나요?

서버의 도구와 도구 설명에 숨겨진 지시가 들어 있을 수 있으므로, 다른 서드파티 코드와 똑같이 다루세요. 신뢰할 수 있는 출처에서 설치하고, 버전을 고정해 검증하고, 도구 설명을 검토하고, 로컬 서버는 샌드박스에서 실행하고, 사람이 도구 호출을 거부할 수 있도록 하세요.

AI 에이전트는 모든 작업 전에 승인을 요청해야 하나요?

아닙니다. 데이터 삭제, 송금, 메시지 발송처럼 영향이 크거나 되돌릴 수 없는 작업 전에는 사람에게 확인하고, 위험이 낮고 되돌릴 수 있는 작업은 그대로 실행되게 하세요. 확인 요청이 너무 많으면 승인 피로가 생기고, 그만큼 검토가 약해집니다.

EU AI법에서는 모든 AI 에이전트가 고위험에 해당하나요?

아닙니다. 대체로 고위험에 해당하는 것은 이 법의 부속서 III에 열거된 목적으로 사용되는 AI 시스템(예외 있음)이거나, 부속서 I의 EU 법률이 적용되는 제품의 안전 구성요소인 AI 시스템(또는 그 자체가 그러한 제품인 AI 시스템)으로서 해당 제품이 제삼자 적합성 평가를 받아야 하는 경우뿐입니다. 특정 에이전트가 그중 하나에 해당하는지는 법률 전문가와 상의해야 할 문제입니다.

커리어 서비스

맞춤형 커리어 지원으로 테크 커리어를 시작하세요. 이력서 리뷰, 모의 인터뷰, 업계 인사이트를 통해 새로운 역량을 자신 있게 보여줄 수 있습니다.

자세히 보기