OWASP 에이전트 AI Top 10

OWASP 에이전트형 AI Top 10 설명: ASI01–ASI10

TL; DR

OWASP 에이전트 AI Top 10이 귀사에 의미하는 바는 무엇일까요? pipeline

LLM이 잘못된 내용을 말하는 것은 콘텐츠 문제입니다. 에이전트가 잘못된 동작을 하는 것은 보안 사고입니다. OWASP Agentic AI Top 10은 후자에 대한 지침서입니다.

  • 무엇이다 : OWASP 에이전트 AI Top 10 (공식적으로) OWASP 에이전트 기반 애플리케이션 Top 10 (2026년)이 문서에는 계획을 세우고, 도구를 호출하고, 기억을 유지하고, 사용자를 대신하여 행동하는 AI 에이전트와 관련된 10가지 위험 요소가 나열되어 있습니다. 해당 코드는 ASI01부터 ASI10까지입니다.
  • 관련성: 이는 OWASP LLM Top 10을 대체하는 것이 아니라 확장하는 것입니다. LLM 목록은 모델이 말하는 내용을 다루고, 에이전트 목록은 에이전트가 하는 일을 다룹니다.
  • 진입 지점: 실제에서 pipeline이러한 위험은 IDE, 타사 에이전트 구성 요소, 자체 에이전트 코드 및 프로덕션 런타임이라는 네 가지 경로를 통해 발생합니다.
  • 잡을 수 있는 것: 10개 중 6개는 코드와 구성에 흔적을 남기므로 배포 전에 중지할 수 있습니다. 나머지 4개는 런타임 설계 제어가 필요하며, 이러한 제어는 모두 실행 중인 에이전트를 파악하는 것에서 시작합니다.

첫 번째 단계: 모든 에이전트, 도구, MCP 서버 및 스킬을 목록화한 다음, 발견 사항을 ASI 코드로 태그하여 CI에서 새 에이전트 코드에 대한 승인을 받으십시오.

OWASP 에이전트 AI Top 10이 중요한 이유: pipeline 새로운 commit테르

1년 전만 해도 저장소의 코드는 사람이 작성한 것이었습니다. 하지만 오늘날에는 AI 에이전트가 작성한 코드가 점점 더 많아지고 있습니다. 필요한 라이브러리를 설치해주는 코딩 도우미나 파일을 열어주는 에이전트들이 그 예입니다. pull requests그리고 자체 도구, 메모리 및 자격 증명을 갖춘 에이전트 프레임워크가 제품 내부에 포함되는 방식입니다. 이것이 바로 OWASP Agentic AI Top 10이 만들어진 목적입니다.

이는 위협 모델을 바꿉니다. 잘못된 정보를 전달하는 LLM은 콘텐츠 문제이지만, 잘못된 동작(데이터 삭제, 토큰 유출, 악성 패키지 설치 등)을 하는 에이전트는 보안 사고입니다.

OWASP Agentic AI Top 10은 두 번째 유형의 문제에 대한 최초의 공통 어휘집입니다. 대부분의 설명 도구는 정의에만 머무르지 않지만, 이 도구는 각 위험 요소를 실제로 문제가 발생하는 지점과 연결합니다. pipeline그리고 배포 전에 이를 해결하기 위해 무엇을 할 수 있는지에 대해서도 알아보겠습니다.

OWASP 에이전트 AI Top 10은 무엇인가요?

OWASP Agentic AI Top 10은 AI 에이전트(계획을 세우고, 도구를 호출하고, 메모리를 유지하고, 위임된 권한으로 행동하는 시스템)에서 가장 중요한 10가지 보안 위험을 동료 평가를 통해 정리한 목록입니다. 공식 명칭은 다음과 같습니다. OWASP 에이전트 기반 애플리케이션 Top 10 (2026년)OWASP GenAI 보안 프로젝트는 2025년 12월 9일 에이전트 보안 이니셔티브(Agentic Security Initiative)를 통해 이를 발표했으며, ASI라는 접두사는 여기서 유래했습니다.

아직 어리다 standard이 책은 OWASP의 첫 번째 개정판입니다. 각 항목은 익숙한 OWASP 형식을 따르며, 설명, 일반적인 예시, 공격 시나리오 및 예방 지침을 제공합니다. OWASP의 핵심 설계 지침은 10개 항목 모두에 적용됩니다. 즉, 작업에 필요한 것보다 더 많은 자율성을 에이전트에게 부여하지 말고, 관찰 가능성을 필수적인 요소로 간주해야 합니다.

Agentic Top 10 vs. LLM Top 10

에이전트 목록은 대체하지 않습니다. OWASP LLM 지원자 대상 Top 10이는 기존 내용을 기반으로 하며, 항목들은 LLM 위험을 직접적으로 참조합니다. 간단한 지침은 다음과 같습니다.

외형 치수OWASP LLM 상위 10OWASP 에이전트 AI Top 10
초점모델이 말하는 것에이전트가 하는 일
일반적인 고장조작되거나 유출된 답변조작된 목표, 도구 호출 또는 행동
적용 대상챗봇, RAG 앱, 모든 LLM 기능도구, 메모리, 위임 또는 기타 에이전트를 가진 에이전트
코드LLM01부터 LLM10까지ASI01부터 ASI10까지

신청서에 질문에 대한 답변만 있다면 LLM 목록이 도움이 될 것입니다. 하지만 신청서가 구체적인 조치를 취해야 하는 시점부터는 두 가지 모두 필요합니다. 저희 가이드를 참고하세요. 모델 추출 공격 LLM Top 10 위험 요소 중 하나를 심층적으로 분석합니다.

OWASP 에이전트 AI Top 10 설명: ASI01부터 ASI10까지 실제 적용 사례 pipelines

다음은 OWASP 에이전트형 AI Top 10에 포함된 각 위험 요소를 쉽게 설명한 후, 코드베이스에서 어떻게 나타나는지 보여줍니다. pipeline우리가 매일 보는 것들입니다.

ASI01: 에이전트 목표 탈취

공격자는 문서, 이메일, 웹 페이지 또는 다른 에이전트의 메시지에 명령어를 삽입하여 에이전트가 달성하려는 목표를 변경합니다. 에이전트는 명령어와 콘텐츠를 구분하는 데 어려움을 겪기 때문에, 심어진 텍스트로 인해 여러 단계로 이루어진 전체 계획이 변경될 수 있습니다.

당신의 pipeline: 요약하는 에이전트 pull requests 숨겨진 지침이 포함된 보도자료 설명을 읽고 요약하는 대신 승인하거나 유출하기 시작합니다.

ASI02: 도구 오용 및 악용

해당 에이전트는 사용이 허가된 도구를 악의적인 방식으로 사용합니다. 예를 들어 데이터를 삭제하거나, 비용이 많이 드는 API를 반복적으로 호출하거나, 정보를 외부로 전송하는 등의 행위를 합니다. 권한이 상승된 것은 아니며, 정당한 접근 권한이 잘못된 대상에게 향하게 된 것뿐입니다.

당신의 pipeline: 셸 접근 권한이 있는 코딩 에이전트가 잘못된 디렉터리에 대해 정리 명령을 실행합니다.

ASI03: 신원 및 특권 남용

에이전트는 자격 증명, 세션 및 역할을 상속받으며, 공격자는 이러한 위임 체인을 악용하여 직접 접근할 수 없었던 영역에 접근합니다. 근본적인 원인은 인간을 위해 설계된 ID 시스템을 자율적으로 작동하는 소프트웨어에 적용한 데 있습니다.

당신의 pipeline: 에이전트 구성에는 조직 전체 범위에서 여러 도구에서 공유되는 장기 토큰이 저장됩니다.

ASI04: 에이전트 기반 공급망 취약점

에이전트가 로드하는 모델, 도구, 플러그인, MCP 서버, 스킬 및 프롬프트는 모두 타사에서 제공되며, 이러한 구성 요소는 악의적이거나 변조되었을 수 있습니다. 기존의 종속성과 달리 에이전트는 이러한 구성 요소를 런타임에 조립하는 경우가 많습니다.

당신의 pipeline: 한 개발자가 오타가 있는 에이전트 스킬을 설치했는데, 해당 스킬의 명령어는 에이전트에게 자격 증명을 읽어 외부로 전송하도록 지시합니다.

ASI05: 예기치 않은 코드 실행(RCE)

에이전트는 실행되어서는 안 되는 곳에서 코드를 생성하거나 실행합니다. 예를 들어 셸 명령, 역직렬화된 객체, 템플릿 엔진 등이 있습니다. eval 모델 출력에 대한 문제입니다. 그 결과 호스트 또는 컨테이너 전체가 손상될 수 있습니다.

당신의 pipeline: LLM 출력은 바로 다음 경로로 흐릅니다. eval또는 에이전트가 신뢰할 수 없는 데이터 세트를 로드합니다. pickle.load.

ASI06: 메모리 및 컨텍스트 오염

공격자는 에이전트의 장기 메모리, 요약 또는 RAG 저장소에 악성 데이터를 심어 놓으므로 향후 모든 개발이 악성 데이터로 이어집니다.cis이온이 왜곡됩니다. 일회성으로 즉시 주입하는 것과는 달리, 이러한 왜곡은 세션 전반에 걸쳐 지속됩니다.

당신의 pipeline: RAG 리트리버는 외부 문서를 검증 없이 받아들이며, 오염된 페이지 하나가 이후의 모든 답변에 영향을 미칩니다.

ASI07: 에이전트 간 불안정한 통신

에이전트들은 인증, 무결성 검사 또는 유효성 검사 없이 메시지를 교환하므로 메시지가 위조, 가로채기 또는 변조될 수 있습니다. 또한 동일한 지침이라도 에이전트마다 다르게 해석될 수 있습니다.

당신의 pipeline: 플래너 에이전트는 자체 프로토콜을 사용하는 내부 네트워크의 모든 서비스로부터 작업을 수락합니다.

ASI08: 연쇄적 고장

하나의 오류(환각, 왜곡된 기억, 손상된 도구)가 인간의 대응 속도보다 빠르게 에이전트와 워크플로 전반에 확산됩니다. OWASP는 피해가 최초 침해 지점을 넘어 확산될 때 이 범주를 적용합니다.

당신의 pipeline: 한 담당자가 잘못된 설정을 작성하고, 두 번째 담당자가 이를 배포하고, 세 번째 담당자가 모든 지역에 배포합니다. 우리는 이러한 파급 효과를 어떻게 최소화할지 논의했습니다. 폭발 반경 SafeDev 토크.

ASI09: 인간-에이전트 신뢰 악용

사람들은 신뢰할 수 있고 잘 설명된 에이전트 출력을 신뢰하며, 공격자나 결함 있는 설계는 이러한 신뢰를 악용하여 에이전트의 출력을 조작합니다.cis이온. 사람이 최종 작업을 수행하므로 에이전트의 역할은 감사 추적에서 사라질 수 있습니다.

당신의 pipeline: 심사자가 에이전트를 승인합니다 pull request 차이점을 확인하지 않아도 설명이 맞는 것처럼 들리기 때문입니다.

ASI10: 로그 에이전트

에이전트가 본래의 기능을 벗어나 유해하거나 기만적이거나 범위를 벗어난 행동을 계속할 수 있습니다. 각각의 행동은 합법적으로 보일 수 있지만, 전체적인 행동은 그렇지 않습니다. ASI10은 최초 침입이 아니라, 이러한 기능 이탈이 시작된 후 통제력을 상실하는 것에 관한 것입니다.

당신의 pipeline: 에이전트는 작업이 끝난 후에도 권한을 계속 사용하며, 조용히 자신이 관여하는 영역을 확장합니다.

10가지 위험 요소 중 ASI04는 대부분의 팀이 이미 매일 직면하고 있는 문제입니다. 바로 코딩 에이전트가 패키지를 선택하고 설치하는데, 설치되는 패키지에 대한 검토가 전혀 이루어지지 않는다는 점입니다. 저희는 최근 SafeDev Talk에서 이 문제를 심층적으로 다뤘습니다. 한번 살펴보세요!

OWASP 에이전트 AI Top 10이 귀사에 미치는 영향 pipeline

열 가지 위험은 한 문으로 들어오는 것이 아닙니다. 네 개의 문을 통해 들어오며, 각 문마다 별도의 통제가 필요합니다.

진입 지점들어오는 것ASI 위험어디서 멈춰야 할까요?
개발자 IDE 및 워크스테이션코딩 에이전트, MCP 서버, 스킬, 에이전트가 설치하는 패키지ASI04, ASI05워크스테이션에서 설치하기 전에
타사 에이전트 구성 요소레지스트리에서 가져온 모델, 도구, 플러그인, 프롬프트ASI04, ASI06입양 전 재고 조사 및 검토
본인 에이전트 코드에이전트 프레임워크, 프롬프트, 도구 정의, 자격 증명, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
정적 분석에서, pull requests 그리고 CI
프로덕션 런타임요원들이 행동하고, 서로 대화하고, 사람들과 협력합니다.ASI07, ASI08,
ASI09, ASI10
아키텍처, 모니터링 및 킬 스위치

OWASP 에이전트 기반 AI Top 10을 적용하는 방식에는 패턴이 중요합니다. 처음 세 가지 접근 방식은 코드와 구성에 흔적을 남기므로 배포 전에 찾아 차단할 수 있습니다. 네 번째 접근 방식은 런타임 동작에 따라 달라지므로 설계 선택에 달려 있습니다. 즉, 에이전트의 권한을 최소화하고, 서명된 메시지를 사용하며, 영향력이 큰 작업에 대해서는 사람의 승인을 받고, 에이전트를 신속하게 취소할 수 있어야 합니다.

런타임 제어조차도 이전에 구축한 한 가지 요소, 즉 인벤토리에 의존합니다. 존재 여부를 알 수 없는 에이전트에 킬 스위치를 설치할 수는 없으니까요.

Xygeni는 배포 전에 OWASP 에이전트형 AI 10대 위험 요소를 어떻게 파악하는가

Xygeni AI 보안 애플리케이션 구축에 사용된 AI 구성 요소를 소스 코드에서 직접 검사합니다. 각 발견 사항에는 OWASP LLM Top 10 범주와 해당되는 경우 OWASP Agentic AI Top 10 코드가 함께 표시되므로 팀과 감사자가 동일한 용어로 발견 사항을 이해할 수 있습니다.

OWASP 에이전트 기반 AI Top 10을 다루려면 인벤토리부터 시작해야 합니다. AI 보안은 에이전트, 모델, 도구, MCP 서버, 스킬, 프롬프트 등을 찾아냅니다. guardrails벡터 저장소와 데이터 세트를 저장소 전체에 걸쳐 관리하고, 어떤 에이전트가 어떤 모델을 사용하고, 어떤 도구를 실행하고, 어떤 MCP 서버를 호출하는지 등 연결 방식을 매핑합니다. 인벤토리는 CycloneDX 1.6 ML-BOM 형식으로 내보내집니다.

Xygeni AI 보안

Xygeni가 배포 전에 감지하는 사항(ASI 위험 분석 기준)

모든 발견 사항에는 OWASP 코드가 태그되어 있으므로 팀과 감사자가 동일한 용어로 내용을 이해할 수 있습니다.

ASI01

에이전트 목표 탈취

즉각적인 주입 표면, 살균 없이 외부 내용물을 섭취하는 제제, 부유 라벨에 있는 레지스트리에서 가져온 안내 메시지.

ASI02

도구 오용

입력 없이 도구를 호출하는 에이전트 guardrails또한 코드 실행 및 자동 실행과 같은 기능을 자산별로 확인할 수 있습니다.

ASI03

신분 및 특권 남용

에이전트 구성에 고정된 장기 자격 증명, 범위 축소 없이 공유되는 자격 증명, 상승된 권한을 가진 MCP 및 도구 서버, 프롬프트 파일에 저장된 비밀 키.

ASI04

에이전트 공급망

악성 또는 오타를 이용한 스킬로, 안전/주의/설치 금지 등급이 지정되어 있습니다. 안전하지 않은 모델 로딩입니다.trust_remote_code=True모든 구성 요소의 AI-BOM.

ASI05

예기치 않은 코드 실행

LLM 출력에서 ​​오염물질이 흘러들어갑니다. eval 그리고 신뢰할 수 없는 데이터 세트에서 pickle.load파이썬과 자바스크립트에서 템플릿 삽입으로 인한 원격 코드 실행(RCE) 취약점.

ASI06

기억과 맥락 오염

검증되지 않은 RAG 리트리버, 벡터 및 임베딩 약점(LLM08).

ASI07부터 ASI10까지

런타임 동작

에이전트 간 통신, 연쇄 오류, 인간의 신뢰, 그리고 악의적인 에이전트는 런타임에 발생합니다. Xygeni는 이러한 런타임 제어에 필요한 인벤토리와 관계 그래프를 제공합니다.

그 핵심을 중심으로:

  • 스킬 및 에이전트 지침에 대한 의미론적 검토. 선택 사항이며 재현 가능한 LLM 검토를 통해 의도를 판단합니다. SKILL.md AGENTS.md 파일들을 탐지하여 서명으로는 감지할 수 없는 산문 형식의 악성 명령어를 포착합니다. 자체 호스팅 모델에서도 실행될 수 있습니다.
  • CI에서 게이트를 설정하세요. The xygeni ai 스캐너는 당신의 환경에서 실행됩니다. pipeline 문제가 발견되면 빌드가 실패합니다. 보고서 전용 모드로 시작한 다음 중요도에 따라 빌드를 중지합니다.
  • 에이전트 루프 내부의 보안. DevAI Xygeni 스캔, 분류 및 수정 기능을 IDE와 AI 코딩 에이전트에 통합합니다. Xygeni MCP 서버.
  • 작업 환경을 보호하세요. Shield 개발자 컴퓨터에서 악성 패키지가 다운로드되기 전에 차단하고, 설치를 실행하는 사용자와 관계없이 모든 차단을 트리거한 프로세스와 명령을 추적합니다.
  • 빨리 해결하세요. AI 트리아지는 발견 사항의 우선순위를 정하고, AI 리메이디션은 모든 OWASP LLM 범주에 대한 수정 지침을 생성합니다.

OWASP 에이전트형 AI 준비도 점검표 Top 10

  1. 목록: 저장소에 있는 모든 에이전트, 모델, 도구, MCP 서버 및 스킬 목록을 작성하고, 해당 목록을 항상 최신 상태로 유지하십시오. commit.
  2. 최소 대리인: 각 에이전트에게 작업에 필요한 자율성과 도구만 부여하고, 파괴적인 행동에는 인간의 승인을 요구하십시오.
  3. 범위가 지정된 ID: 장기간 사용 가능한 공유 에이전트 자격 증명을 단기 사용 가능한 에이전트별 토큰으로 교체합니다.
  4. 신뢰할 수 없는 입력: 목표 설정이나 도구 선택에 영향을 미치기 전에 모든 문서, 웹 페이지, 이메일 및 상담원 메시지를 신뢰할 수 없는 것으로 간주하십시오.
  5. 검증된 구성 요소: 도입 전에 기술, MCP 서버 및 모델을 검토하고, 버전을 고정하고, AI-BOM을 유지 관리하십시오.
  6. 안전하지 않은 실행 없음: 반 eval 모델 출력에 대해 샌드박스 코드 실행을 허용하고 에이전트를 루트 권한으로 실행하지 않습니다.
  7. 깨끗한 메모리: RAG 저장소와 장기 메모리에 입력되는 데이터를 검증하고, 사용자와 컨텍스트별로 메모리를 분리합니다.
  8. CI의 게이트: 모든 스캔 에이전트 코드 pull request 그리고 그 결과를 ASI 코드로 변환합니다.
  9. 관찰하고 통제하세요: 모든 상담원 활동과 도구 호출을 기록하고, 상담원 자격을 신속하게 박탈할 수 있도록 하십시오.

요원들이 행동하기 전에 어떤 요원을 운용하고 있는지 파악하세요.

OWASP Agentic AI Top 10은 여러분에게 로드맵을 제공합니다. 10가지 위험 요소 모두에 대한 첫 번째 단계는 동일합니다. 코드 내의 모든 에이전트, 도구 및 스킬을 찾아내는 것입니다. Xygeni AI Security가 에이전트를 어떻게 인벤토리화하고 발견 사항을 ASI 코드로 매핑하는지 확인해 보세요.및 데모 예약.

자주 묻는 질문

OWASP Agentic AI Top 10에서 ASI는 무엇을 의미하나요?

ASI는 Agentic Security Initiative의 약자로, OWASP GenAI 보안 프로젝트 팀에서 작성한 목록입니다. 각 위험 요소에는 ASI01(에이전트 목표 탈취)부터 ASI10(악의적인 에이전트)까지의 코드가 부여되어 있으며, 이는 LLM 목록에서 LLM01부터 LLM10까지 사용하는 방식과 동일합니다.

이미 OWASP LLM Top 10을 수강하고 있는데, OWASP Agentic AI Top 10도 수강해야 할까요?

인공지능이 능동적으로 행동할 수 있는 경우에만 해당됩니다. 단순히 질문에만 답변하는 챗봇이나 RAG 앱은 LLM Top 10에 포함됩니다. 하지만 애플리케이션이 도구를 호출하거나, 메모리를 유지하거나, 다른 에이전트에 위임하거나, 자격 증명을 사용하는 경우, LLM 목록에서 다루지 않는 위험을 다루는 에이전트 기반 위험 목록이 적용됩니다.

정적 분석을 통해 OWASP 에이전트형 AI 10대 위험 요소를 감지할 수 있을까요?

많은 경우 그렇습니다. 목표 탈취 공격, 보호되지 않은 도구, 과도한 권한이 부여된 자격 증명, 악의적인 기술, 안전하지 않은 코드 실행, 검증되지 않은 RAG 입력 등은 모두 코드와 구성에 흔적을 남깁니다. 연쇄 오류 및 악성 에이전트와 같이 실제 동작에서 발생하는 위험에는 런타임 제어가 필요합니다.

sca-tools-software-composition-analysis-tools
소프트웨어 위험을 우선순위화하고, 해결하고, 보호하십시오.
무료 계정을 만드세요.
신용 카드가 필요하지 않습니다.

소프트웨어 개발 및 제공을 안전하게 보호하세요

Xygeni 제품군과 함께