AI 에이전트 보안은 더 이상 모델이 무엇을 말하는지에 관한 것이 아닙니다. 에이전트가 무엇을 하는지, 즉 에이전트가 호출하는 도구, 읽는 데이터, 보유하는 자격 증명, 그리고 자체적으로 설치하는 패키지에 관한 것입니다.
대부분의 팀은 첫 번째 질문, 즉 실제로 어떤 에이전트를 실행하고 있는지조차 답하지 못합니다. 에이전트는 LangChain 그래프, MCP 서버 등의 형태로 저장소에 존재합니다. SKILL.md 개발자들이 금요일 오후에 개별적으로 설정한 파일과 AI 코딩 도구들. 아무도 검토하지 않았고, 악성 스킬은 그냥 일반 텍스트일 뿐입니다.
TL; DR
AI 에이전트 보안을 위한 4단계: 관찰, 평가, 루프 보안, 설치 보호
보이지 않는 에이전트는 보호할 수 없습니다. AI 에이전트 보안은 코드에 있는 모든 에이전트, MCP 서버, 스킬, 모델 및 AI 코딩 도구에 대한 인벤토리를 작성하는 것에서 시작됩니다.
- 에이전트 구축 방식의 위험성: 사용자 입력을 연결하는 프롬프트, 도구 호출 에이전트 없음 guardrails과도한 권한이 부여된 자격 증명과 숨겨진 명령어가 포함된 기술. 대부분은 배포 전에 코드에서 확인할 수 있으며, 다음과 같은 내용과 연결됩니다. OWASP 에이전트 애플리케이션 Top 10.
- 보안 루프 내부: 코딩 에이전트는 루프 내부에 보안이 필요하므로, 작성하는 코드를 실행하기 전에 스캔하고 수정합니다. commit테드는 몇 주 후에 티켓을 받았다.
- 설치물을 보호하세요: 에이전트는 종속성도 설치합니다. 시그니처가 존재하기 전에 작동하는 맬웨어 탐지는 개발자든 에이전트든 누가 설치하든 악성 패키지를 탐지할 수 있습니다.
- 하나의 워크플로우: AI 분석 결과는 다른 애플리케이션 보안 분석 결과와 마찬가지로 동일한 분류, 티켓 발행 및 보고서 작성 과정을 거칩니다.
첫 번째 단계: 저장소에 있는 AI 목록을 작성하고, 이를 AI-BOM으로 내보낸 다음, CI에서 새로운 에이전트 코드에 대한 승인을 진행하세요.
AI 에이전트 보안이 다른 문제와 다른 이유는 무엇일까요?
LLM 기능은 텍스트를 반환하고, 사람이 그 텍스트를 어떻게 처리할지 결정합니다. 에이전트는 이 과정을 스스로 마무리합니다. 계획을 수립하고, 도구를 호출하고, 웹 페이지, 이메일 및 문서를 읽고, 파일을 작성하고, 명령을 실행합니다. 에이전트에 부여하는 모든 기능은 공격자가 악용할 수 있는 기능이 됩니다.
OWASP도 같은 구분을 했습니다. OWASP 에이전트 기반 애플리케이션 Top 10 (2026년) (ASI01부터 ASI10까지)는 다음을 기반으로 합니다. OWASP LLM 지원자 대상 Top 10LLM 목록은 모델이 말하는 내용을 다루고, 에이전트 목록은 에이전트가 하는 일을 다룹니다.
현재 대부분의 조직에서는 두 가지 유형의 에이전트를 운영합니다.
- 애플리케이션에 내장하는 에이전트: LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel 또는 LlamaIndex와 같은 프레임워크를 사용하여 구축된 지원 도우미, 내부 조종사 및 워크플로는 종종 다양한 도구와 연결됩니다. MCP 서버.
- 개발자들이 사용하는 AI 코딩 에이전트: Claude Code, Cursor, GitHub Copilot, Windsurf 등은 코드를 작성하고, 설정을 편집하고, 종속성을 추가하는 도구입니다.
AI 에이전트 보안은 두 가지 모두를 포괄해야 합니다. 왜냐하면 둘 다 사용자의 권한에 따라 작동하기 때문입니다.
1단계: 모든 에이전트, MCP 서버 및 스킬의 목록을 작성합니다.
AI 에이전트 보안은 질문 게시판에서 시작되며, 이제 감사 담당자들은 "우리가 어떤 AI를 실행하고 있는가?"라는 질문을 던집니다. Xygeni AI 보안 코드, 구성, 매니페스트 및 종속성 등 원천적인 관점에서 질문에 답합니다.
모델, 에이전트 및 에이전트 서버, AI 프레임워크, MCP 서버 및 관련 도구, 스킬을 검색합니다.SKILL.md, AGENTS.md), 프롬프트, guardrails벡터 저장소, 데이터 세트, 추론 엔드포인트 및 저장소에 구성된 AI 코딩 도구를 보여줍니다. 또한 이러한 요소들이 어떻게 연결되는지, 즉 어떤 에이전트가 어떤 모델을 사용하고, 어떤 도구를 실행하며, 어떤 MCP 서버를 호출하는지를 보여줍니다.
그 결과, EU AI법 위험 범주 필드가 포함된 자산별 관리 기록이 있는 CycloneDX 형식의 AI-BOM으로 내보낼 수 있는 실시간 AI 인벤토리가 생성됩니다.
내 코드에 이미 어떤 AI 기능이 있는지 확인하고 싶으신가요? 엔지니어와의 상담 세션을 예약하세요. 그러면 저희는 고객님의 저장소 중 하나에 대한 AI 인벤토리를 구축할 것입니다.
2단계: 에이전트 구축 방식의 위험 요소를 파악합니다.
대부분의 에이전트 취약점은 특별하지 않습니다. 문자열 연결로 생성된 프롬프트, 입력값에 대한 안전장치가 없는 도구 호출 에이전트, 에이전트에 필요한 것보다 훨씬 넓은 범위의 자격 증명 등이 그 예입니다. 이러한 취약점들은 모두 코드에 흔적을 남기므로 배포 전에 CI(지속적 통합) 단계에서 발견할 수 있습니다.
코드에서 포착할 수 있는 AI 에이전트 관련 위험 요소
각 위험은 다음과 같이 매핑됩니다. OWASP LLM 지원자 대상 Top 10 또는 그와 관련된 대리인들이 있으므로, 조사 결과는 감사인과 동일한 언어로 전달됩니다.
| 위험 | 코드로 표현하면 다음과 같습니다. | OWASP 매핑 |
|---|---|---|
| 신속한 주입 | 역할 구분, 구분 기호 없이 사용자 콘텐츠를 연결하는 시스템 프롬프트 guardrails | LLM01 |
| 간접 주사 | 입력이 없는 도구 호출 에이전트 guardrails또는 웹 페이지, 이메일 또는 검색된 문서를 검증되지 않은 상태로 수집하는 에이전트 | LLM01 |
| 안전하지 않은 출력 처리 | 모델 출력값이 도달함 eval 또는 기타 위험한 싱크, 기능과 파일 전반에 걸쳐 추적됨 | LLM05 |
| 과도한 권한을 가진 에이전트 신원비인간 정체성 남용 | 고정된 장기 사용 자격 증명, 범위 축소 없이 공유되는 자격 증명, 관리자 권한으로 실행되는 MCP 또는 도구 서버 | ASI03 |
| 악의적이거나 타이포스쿼팅된 스킬에이전트 기술 공급망 | 숨겨진 악의적인 지시사항 SKILL.md or AGENTS.md알려진 기술이나 통합 기능을 사칭하는 기술 이름 | 에이전트 스킬 TOP 10 |
| 프롬프트에 숨겨진 비밀 | 자격 증명은 프롬프트 파일 내에 저장됩니다. | LLM07 |
모든 발견 사항에는 OWASP LLM Top 10 범주와 함께, 적용되는 경우 OWASP 에이전트 응용 프로그램 및 에이전트 기술 태그, 그리고 관련된 레드팀 공격 벡터가 표시됩니다.
스킬 파일에 포함된 악성 명령어는 코드가 아닌 텍스트로 작성되어 있어 어떤 시그니처로도 탐지할 수 없기 때문에 스킬은 특별한 주의가 필요합니다. 사용자가 직접 참여할 수 있는 AI 검토 시스템은 버전 관리가 적용된 결정론적 설정을 통해 플래그가 지정된 스킬 및 에이전트 명령어 파일의 의도를 판단합니다. 따라서 동일한 파일은 항상 동일한 결과를 얻습니다. 이 시스템은 사용자가 직접 호스팅하는 모델에서 실행되므로 코드와 프롬프트가 사용자 환경을 벗어날 필요가 없습니다. 스킬 레벨 점수는 이러한 신호들을 종합하여 안전, 주의 또는 설치 금지라는 세 가지 결과 중 하나를 제공합니다.
더 깊이 들어가십시오. 저희 세션을 시청하세요 폭발 반경: 요원이 당신이 원하지 않는 것을 건드렸을 때에이전트의 권한이 담당 업무 범위를 넘어설 때 어떤 일이 발생하는지에 대한 내용입니다.
3단계: 코딩 에이전트의 루프 안에 보안 기능을 추가합니다.
AI 코딩 에이전트가 작성하고 commit 코드를 검토하기도 전에 너무 빨리 작성해 버립니다. 2주 후에 티켓으로 접수되는 문제점은 거의 수정되지 않습니다. 따라서 담당자가 아직 업무를 진행 중일 때 수정이 이루어져야 합니다.
Xygeni MCP 서버는 로컬에서 실행되며, MCP를 지원하는 모든 AI 코딩 에이전트와 호환됩니다. 에이전트는 방금 작성한 코드를 스캔하고, 새로운 문제를 나열하고, AI Triage 판정을 받고, 수정 요청을 할 수 있습니다. SAST SCA 발견 사항입니다. 변경 사항이 깔끔해질 때까지 반복하며, 그 후에야 비로소 모든 것이 완료됩니다. commit테드, 당신 팀에서 설정한 승인 절차를 거치면 됩니다.
이 시스템은 사용자의 시스템과 동일한 엔진, 정책 및 음소거 규칙을 사용합니다. pipeline따라서 에이전트와 CI 간에 의견 충돌이 발생하지 않습니다. 에이전트와 함께 작업하는 개발자에게는 다음과 같은 이점이 있습니다. IDE 플러그인 동일한 결과와 수정 사항을 에디터에 적용합니다.
4단계: 에이전트가 설치하는 항목을 보호하십시오.
AI 코딩 에이전트는 자체적으로 종속성을 추가할 수 있으며, 익숙한 이름을 가진 완전히 새로운 패키지가 합법적인지 여부를 확인하지 않습니다. 공격자들은 이러한 사실을 알고 있으며, 오픈 소스 레지스트리를 기점으로 삼고 있습니다.
악성코드 방어 서명이 생성되기 전에 악성 패키지를 표시합니다. 설치자가 개발자이든 에이전트이든 상관없습니다. 개발자 컴퓨터에서는 Shield 실행 전에 정책을 적용합니다. 새 패키지의 최소 사용 기간, IDE 확장 프로그램 및 플러그인에 대한 적용 범위, 악성 표시 및 위험 지역 차단, 그리고 시스템을 격리해야 할 때 엔드포인트 격리 기능 등이 포함됩니다.
더 깊이 알아보고 싶으신가요?
핸들러의 결함과 해당 핸들러에 도달하는 노출된 엔드포인트는 하나의 문제이며, 그 책임은 하나뿐입니다. 이미 다른 DAST 도구를 실행 중인 경우, Xygeni는 해당 도구를 교체할 필요 없이 결과를 동일한 위험 보기로 가져옵니다.
두 레이어가 함께 작동하는 모습을 보고 싶으신가요? 저희 세션을 시청하세요 코드에서 런타임까지: 그 이유는 무엇일까요? SAST + DAST는 모두 최신 애플리케이션 보안에 필수적입니다.코드 분석 결과와 런타임 테스트 결과가 서로를 어떻게 확인하는지 살펴보겠습니다.
하나의 워크플로우, 또 다른 콘솔이 아닙니다.
AI 에이전트 보안은 AI 에이전트가 자체적인 대기열을 가진 별도의 도구가 될 때 실패합니다. Xygeni에서는 AI 분석 결과가 동일한 프로세스를 거칩니다. AI 분류티켓 및 보고서와 같은 기타 조사 결과도 포함됩니다. AI Remediation은 OWASP LLM의 10개 범주 모두에 대해 상황 인식을 기반으로 한 수정 지침을 제공합니다. ASPM AI 위험을 코드, 의존성 및 기타 요소와 함께 다룹니다. pipeline 위험을 한 관점에서 본다.
AI 에이전트 보안 및 규정 준수
규제 기관, 감사 기관 및 고객은 기업이 운영하는 AI 목록과 해당 AI의 위험 분류 방식에 대한 정보를 점점 더 많이 요구하고 있습니다. EU AI 법 ISO / IEC 42001는 둘 다 그 방향으로 나아가고 있으며, AI-BOM이 점차 대두되고 있습니다. standard 조달 설문지의 항목.
자산별 위험 범주 필드가 포함된 AI 인벤토리는 거버넌스 팀에 필요한 근거 자료를 제공합니다. 이는 EU AI법 준수 준비를 지원하는 도구이며, 적합성 평가가 아니거나 법률 검토를 대체하는 것은 아닙니다.
또는 중규모 팀의 경우 간단합니다.
- 매번 pull request: CI 환경에서 변경된 코드에 대한 API 보안을 강화하고, 증분 DAST 스캔을 수행합니다.
- 전 commit: 등 pre-commit 준비된 파일에 대한 게이트.
- 매일 밤 또는 병합 시: 전체 DAST 스캔.
- 주요 릴리스 이전: AI 침투 테스트를 스테이징 환경에 적용하여 백로그를 검증하고 각 수정 사항이 취약점을 해결했는지 확인합니다.
API 보안 스캐너는 에어갭 환경을 포함한 모든 곳에서 실행되며 Xygeni SaaS 또는 귀사의 시스템에 보고합니다. on-premises 플랫폼입니다. 결과는 JSON 형식으로 출력됩니다. 사리프 2.1.0CSV 및 Markdown용 pull request 댓글이 있습니다.
API 보안 테스트 및 규정 준수
은행, 보험 또는 공공 부문 팀의 경우 API 보안 테스트는 증거 자료로도 활용됩니다. 모든 발견 사항에는 규정 준수 태그가 부착됩니다. GDPR 제32조, PCI DSS 4.0 (요건 3.4, 6.4.3, 7.1, 7.2 및 8) 및 NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5)는 플랫폼과 JSON 및 SARIF 출력에서 확인할 수 있습니다.
귀하의 조직이 다음 범주에 속하는 경우 도라 or 국정원2런타임 테스트는 규제 기관에서 여전히 요구하는 수동 침투 테스트 사이에 지속적인 증거를 제공합니다.
AI 에이전트 보안을 7단계로 구현하는 방법
다음은 실제 개발팀에서 AI 에이전트 보안을 가장 빠르게 구현할 수 있도록 정리된 실용적인 체크리스트입니다.
- 발견하다
저장소에 있는 모든 AI 자산을 목록화하세요.
에이전트, MCP 서버, 스킬, 모델, 프롬프트 및 AI 코딩 도구에 대한 모든 저장소를 스캔하고 결과를 AI-BOM으로 내보냅니다. 이것이 기준 목록이며, 이후 모든 단계의 기본이 됩니다.
- 분류
각 에이전트에 담당자와 위험 수준을 지정하세요.
모든 에이전트에 대해 소유자, 접근 가능한 데이터 및 도구, 그리고 EU 인공지능법 위험 등급을 기록해야 합니다. 소유자가 없는 에이전트는 아무도 수정하지 않을 것입니다.
- 감지
CI에서 모든 스캔 에이전트 코드를 검사합니다. pull request
다른 스캔과 함께 AI 위험 탐지 기능을 실행하세요. 기준선을 확인하기 위해 비차단 모드로 시작한 다음, 팀에서 정리를 완료한 후에는 중요 발견 사항에 대해 병합을 차단하세요.
- 검토
설치하기 전에 필요한 기능을 검토하세요.
스캔 스킬 및 에이전트 지침 파일 등
SKILL.mdAGENTS.mdAI 의도 검토 기능을 활성화하고 "설치하지 않음"이라는 판단을 절대적인 중단으로 간주하십시오. - 제한
축소 에이전트 권한
고정된 장기 자격 증명을 범위가 지정된 자격 증명으로 교체하고, 에이전트 간 자격 증명 공유를 중지하며, MCP 또는 도구 서버를 불필요한 높은 권한으로 실행하지 마십시오.
- 루프 내 수정
코딩 에이전트의 루프 안에 보안 기능을 넣으세요
AI 코딩 에이전트를 보안 MCP 서버에 연결하여 에이전트가 코드를 배포하기 전에 자체적으로 코드를 검사하고 수정하도록 하세요. commit테드, 당신과 동일한 정책을 가지고 있습니다. pipeline.
- 보호
개발자 컴퓨터에 저장되는 파일을 보호하세요.
새로운 패키지에 최소 사용 기간을 적용하고, 서명이 생성되기 전에 악성 패키지를 탐지하며, 개발자든 에이전트든 누가 설치하든 관계없이 IDE 확장 프로그램 및 플러그인을 보호합니다.
다음 : 모든 발견 사항을 나머지 애플리케이션 보안과 동일한 분류, 티켓팅 및 보고 워크플로로 처리하여 AI 위험이 별도의 대기열에 쌓이지 않도록 합니다.
한 번도 만나보지 못한 에이전트를 확보할 수는 없습니다.
AI 에이전트 보안은 단순히 또 다른 스캐너를 추가하는 것이 아닙니다. 실행하는 에이전트를 파악하고, 에이전트 구축 방식의 위험 요소를 찾아내고, 에이전트 코딩 과정 자체에 보안을 적용하고, 에이전트가 설치하는 콘텐츠를 보호하는 것입니다. 에이전트 인벤토리부터 시작하세요. 모든 것은 인벤토리에 달려 있습니다.
코드에 있는 모든 에이전트, MCP 서버 및 스킬을 확인하고 싶으신가요? 엔지니어와의 상담 세션을 예약하세요 저장소의 AI 인벤토리를 구축하고 그 결과를 검토합니다. 또는 무료로 시작하다 AI로 SAST, SCA비밀 정보 탐지, IDE 플러그인 및 오픈 소스 패키지의 악성코드 탐지 기능을 제공합니다. 신용 카드 정보는 필요하지 않습니다.
AI 에이전트 보안 관련 FAQ
AI 에이전트 보안은 LLM 보안과 어떻게 다른가요?
LLM 보안은 모델의 발언 내용, 즉 데이터 유출, 조작된 답변, 안전하지 않은 출력에 관한 것입니다. 반면 AI 에이전트 보안은 에이전트가 도구, 메모리, 자격 증명 및 다른 에이전트와 관련하여 수행하는 작업에 관한 것입니다. 이것이 바로 OWASP가 LLM Top 10 외에도 에이전트 기반 애플리케이션에 대한 별도의 Top 10(ASI01~ASI10)을 발표하는 이유입니다.
조직 내 AI 에이전트와 MCP 서버는 어떻게 찾을 수 있나요?
코드부터 시작하세요. Xygeni AI Security는 저장소에 있는 에이전트, MCP 서버, 스킬, 모델, 프롬프트 및 AI 코딩 도구를 검색하고, 이러한 요소들의 연결 방식을 파악한 후, 결과를 CycloneDX 형식의 AI-BOM으로 내보냅니다. 이 도구는 CI 환경에서 다른 스캔 작업과 함께 실행됩니다.
악성 스킬이나 MCP 서버가 내 개발자들을 공격할 수 있나요?
예: 스킬의 지침은 일반 텍스트이며, 에이전트는 개발자의 허가를 받아 해당 지침을 따릅니다. Xygeni는 숨겨진 악성 지침과 스킬 이름을 사칭하는 것을 감지하고, 사용자가 선택적으로 AI 검토를 통해 스킬의 의도를 판단하며, 각 스킬을 안전, 주의 또는 설치 금지로 분류합니다. 맬웨어 방어 및 Shield 담당자들이 가져오는 패키지와 확장 프로그램을 포함합니다.







