TL; DR
ENISE 2026에서 AI 코딩 에이전트 보안에 대해 배운 점
AI는 이미 여러분의 코드를 작성합니다. 하지만 어떤 코드를 실제 서비스에 배포할지는 여전히 여러분의 결정에 달려 있습니다.
- 한 문장이면 충분했다. GitHub 이슈 제목에 숨겨진 프롬프트로 인해 AI 분류 에이전트가 일련의 과정을 시작했고, 그 결과는 다음과 같습니다. 클라인의 무단 공개500만 명 이상의 사용자를 보유한 코딩 도우미입니다.
- 이번 사건은 CVE와 관련이 없습니다. 이번 공격은 일반적인 취약점이 아닌 누락된 제어 장치 5개를 악용한 것이므로 기존 스캐너에서는 경고할 내용이 없었습니다.
- 병목 현상이 다른 곳으로 옮겨갔습니다. AI는 코드를 작성하고 취약점을 빠르게 찾아냅니다. 이제 어려운 부분은 코드를 안전하게 통합하고 어떤 발견이 실제인지 검증하는 것입니다.
- 코딩 에이전트는 귀사의 공급망의 일부입니다. 공격자는 코드를 작성하는 모든 것을 표적으로 삼습니다. 임의로 만든 패키지 이름, 변조된 종속성, 심지어 개발자 노트북에 있는 AI 비서까지 공격 대상이 될 수 있습니다.
첫 번째 단계: 다음 네 가지 질문에 답하십시오. 개발 과정에 어떤 주체들이 관여하는지, 그들이 무엇을 가져올 수 있는지, 그리고 당신의 개발 과정은 어떻게 되는지. pipeline어떤 작업을 실행할 수 있는지, 그리고 실제로 어떤 결과를 검증할 수 있는지 알려주세요.
2026년 레온에서 열린 ENISE 컨퍼런스에서 저희 CEO인 헤수스 쿠아드라도는 AI 코딩 에이전트 보안에 대한 발표를 통계 자료 슬라이드가 아닌 이야기로 시작했습니다. 그가 청중에게 들려준 이야기와 그가 남긴 네 가지 질문을 소개합니다. CIS오와 함께.
한 문장이면 충분했다.
올해 초, 한 보안 연구원은 익스플로잇이나 제로데이 취약점, 또는 도난당한 비밀번호 없이도 수백만 명의 개발자가 사용하는 코딩 도우미의 가짜 버전을 게시할 수 있음을 보여주었습니다. 필요한 것은 GitHub 이슈 제목에 있는 한 문장뿐이었습니다.
해당 도구는 인기 있는 오픈 소스 코딩 도우미인 클라인(Cline)이었습니다. 오늘날 많은 프로젝트처럼, 클라인 개발팀은 AI를 활용하여 작업의 일부를 자동화했습니다. 에이전트가 새로 올라오는 모든 GitHub 이슈를 읽고 분류한 후 답변을 달았습니다. 이 에이전트는 작업을 수행하기 위해 터미널 접근 권한을 가지고 있었으며, 인터넷상의 누구든 제기한 이슈에 대해 실행되었습니다. 연구원 아드난 칸(Adnan Khan)은 이 공격 방식을 "클라인젝션(Clinejection)"이라고 명명했고, 사이먼 윌리슨(Simon Willison)이 이를 분석했습니다. 작동 방식에 대한 명확한 요약.
사슬이 다섯 군데에서 끊어졌습니다.
- 외부 텍스트가 지침으로 바뀌었습니다. 문제 제목이 상담원 프롬프트에 바로 표시되었기 때문에 도구 설치 요청이 명령처럼 보였습니다.
- 그 요원은 필요 이상으로 많은 권한을 가지고 있었다. 그 시스템은 문제를 분류하기 위해 존재했지만, 명령어를 실행할 수도 있었기 때문에 실제로 실행했습니다.
- 분류 및 해제는 공유 캐시를 사용합니다. 설치된 도구가 CI 캐시를 오염시켰고, 릴리스 워크플로가 이를 그대로 이어받았습니다.
- 릴리스에는 수명이 긴 토큰이 사용되었습니다. 캐시가 오염되자 npm 게시 토큰을 손에 넣을 수 있게 되었습니다.
- 누구도 출시를 승인하지 않았습니다. 출시 전에 사람이 버전을 검증할 필요는 없었습니다.
몇 주 후, 누군가가 이를 실제로 악용하여 무단 버전인 cline@2.3.0을 배포했습니다. 이 악성코드는 약 8시간 동안 온라인에 남아 있었고 약 4천 번 설치되었습니다. 이번에는 단순히 또 다른 AI 에이전트만 설치했습니다. 만약 설치되었다면 자격 증명 탈취 악성코드나 랜섬웨어였을 수도 있습니다.
무엇이 없었는지 주목해 보세요. SQL 인젝션도 없고, CVE도 없고, 일반적인 스캐너가 탐지할 만한 것도 없었습니다. 그렇다면 누가 그 버전을 출시해도 된다고 결정했을까요?
아무도.
누락된 컨트롤 5개와 각 컨트롤을 완료하는 방법
클라인젝션(Clinejection) 체인의 모든 연결 고리는 존재하지 않는 제어였습니다. 그 어떤 것도 악용하기 위해 CVE가 필요하지 않았습니다.
| 사슬의 연결 고리 | 무엇이 빠졌나요? | 그것을 닫는 제어 |
|---|---|---|
| 1. 문제 제목 | 신뢰할 수 없는 텍스트가 상담원 안내 메시지로 바로 전송되었습니다. | 모든 외부 입력은 신뢰할 수 없는 것으로 간주하고 에이전트 지침에서 제외하십시오. |
| 2. 분류 담당자 | 분류 담당자는 어떤 명령이든 실행할 수 있습니다. | 최소 권한 원칙: 각 에이전트에게 해당 작업에 필요한 도구만 제공합니다. |
| 3. 공유 캐시 | 분류 및 릴리스 워크플로는 동일한 캐시 키를 사용했습니다. | 워크플로를 분리하고 검토합니다. pipeline 코드로 구성하기 |
| 4. npm 토큰 | 릴리스는 수명이 긴 게시 토큰에 의존했습니다. | 출판을 위한 단기적이고 범위가 한정된 자격증 |
| 5. 해제 | 출판 전 사람의 승인이나 검증 절차 없음 | 모든 릴리스에 대해 승인 및 서명된 출처 증명이 필요합니다. |
코딩은 더 이상 병목 현상이 아닙니다.
클라인은 예외적인 사례가 아닙니다. 오히려 미리보기일 뿐입니다. 이제 AI 코딩 에이전트는 코드를 작성하고, 설치하고, 배포합니다. commit 코드 검토 프로세스가 예상하지 못한 속도로 코드가 작성되고 있으며, 심지어 AI 연구소조차 자체 도구가 처리할 수 있는 속도보다 더 빠르게 변경 사항을 통합하고 있다고 보고합니다.
병목 현상이 옮겨갔습니다. 코드를 작성하는 것은 비용이 적게 들지만, 안전하게 통합하는 것은 그렇지 않습니다.
취약점을 찾는 것은 비용이 적게 들지만, 어떤 취약점이 실제로 존재하는지 아는 것은 그렇지 않습니다.
AI는 취약점을 찾아내는 데 매우 뛰어납니다. 하지만 AI 스스로는 어떤 취약점이 실제로 존재하는지 판단할 수는 없습니다.
수십억 대의 기기에서 실행되는 라이브러리인 curl의 관리자들은 이 문제를 뼈아프게 드러냈습니다. 그들이 받은 보안 보고서 대부분은 실제 취약점이 아니었지만, 각각의 보고서 때문에 소규모 자원봉사팀 구성원들이 몇 시간씩이나 시간을 허비해야 했습니다. 2026년 1월, curl은 버그 현상금 프로그램을 종료했습니다.AI가 생성한 저품질 보고서가 쏟아져 나오는 것을 지적하며.
인공지능 기반 탐색이라는 동일한 기능은 수백 건의 실제 결과를 도출할 수도 있고, 엄청난 양의 잡음을 쏟아낼 수도 있습니다. 차이점은 누가 그 결과를 검증하는지, 그리고 그 비용이 얼마인지에 있습니다.
이제 코딩 에이전트가 귀사의 공급망의 일부가 되었습니다.
공격자들은 다음과 같은 논리적 결론을 내렸습니다. 에이전트가 코드를 작성한다면, 왜 코드를 공격해야 할까요? 코드를 작성한 사람을 공격해야죠.
- 쪼그려 앉기. AI가 생성한 코드에 대한 연구에 따르면, 모델은 존재하지 않는 패키지를 추천하는 경우가 많으며, 종종 동일한 가상의 이름을 반복해서 사용하는 것으로 나타났습니다. 공격자는 이러한 패키지 중 하나만 등록하고 기다리면 됩니다.
- 인공지능 비서가 주인에게 등을 돌렸다. 널리 사용되는 Nx 빌드 도구를 대상으로 한 s1ngularity 공격에서 악성 프로그램은 개발자 컴퓨터에서 AI 코딩 도우미를 찾아 .env 파일, SSH 키, 클라우드 토큰과 같은 비밀 정보를 찾도록 요청했습니다. 피해자의 AI가 공격자의 작업을 수행한 것입니다.
공격 대상은 더 이상 여러분의 코드에만 국한되지 않습니다. 코드를 작성하는 모든 것이 공격 대상이 됩니다. 이러한 위험 요소들은 이제 대부분 다음과 같은 곳에 매핑되어 있습니다. OWASP LLM 지원자 대상 Top 10 또한 OWASP 에이전트 기반 애플리케이션 Top 10에도 포함되어 있으며, 이에 대한 자세한 내용은 저희 가이드에서 설명합니다. OWASP 에이전트 AI Top 10.
AI 코딩 에이전트 보안: 매번 네 가지 질문 CISO는 대답할 수 있어야 합니다.

헤수스는 이 모든 것을 네 가지 질문으로 정리했습니다. 여러분의 조직에 대해서도 이 질문들에 답해 보세요.
- 오늘날 우리의 발달에 작용하는 요인과 모델은 무엇일까요? 당신이 승인한 것들이 아니라, 이미 존재하는 것들 말입니다. IDE 도우미, GitHub 봇, 누군가가 시간을 절약하기 위해 설정한 에이전트 같은 것들 말이죠.
- 그들이 우리 소프트웨어에 어떤 기여를 할 수 있을까요? 인위적으로 만들어낸 패키지, 미끼 의존성, IDE 확장 기능 MCP 서버어디에서든 다운로드한 모델.
- 우리가 할 수 있는 일은 무엇일까요? pipelines를 실행할 수 있는 권한은 무엇입니까? Cline에서는 공유 캐시만으로도 게시 토큰에 접근할 수 있었습니다.
- 우리가 듣는 모든 정보 중에서 실제로 검증할 수 있는 것은 무엇일까요?
네 번째 질문은 겉보기보다 훨씬 중요합니다. 요원이 직접 작성한 진술에만 의존할 수는 없습니다. 독립적인 증거가 필요합니다.
Xygeni는 이러한 질문에 어떻게 답할까요?
저기 뭐가 있는지 봐봐. Xygeni AI 보안 저장소에 있는 모델, 에이전트, MCP 서버 및 AI 코딩 도구의 목록을 구축하고, OWASP Top 10 LLM 애플리케이션 위험 요소에 매핑하여 위험도를 분석합니다. 존재 여부를 알지 못하면 관리할 수 없습니다.

들어오면 안 되는 것을 막으세요. 악성코드 조기 경보 서명이 생성되기 전에 악성 패키지를 탐지하며, 이 기능은 무료 플랜에 포함되어 있습니다. 제니 Shield 개발자 워크스테이션에 악성 패키지가 설치되기 전에 차단하고 패키지, IDE 확장 프로그램 및 플러그인에 최소 사용 기간을 적용하여 이러한 공격이 의존하는 취약점을 차단합니다.

보호 pipeline. CI/CD 보안 검사는 워크플로, 권한 및 비밀 정보를 확인합니다. Build Security 서명된 내용을 추가합니다. SLSA 증거 자료를 통해 여러분이 게시한 내용이 여러분이 개발한 것임을 증명할 수 있습니다. 클라인 사건에서 바로 그 부분이 실패의 원인이었습니다.
의견이 아닌 증거로 검증하십시오. 인공지능이 가장 큰 가능성을 보여주면서도 가장 자주 오류를 범하는 부분이 바로 이 지점입니다. 실행할 때마다 결과가 바뀌는 것은 감사관에게 증거로 제시하거나 보안 검색의 기준으로 삼을 수 없습니다. pipelineXygeni에서는 AI가 결정을 내리지 않습니다. AI 침투 테스트에서 LLM(법률 실무 관리자)은 침투 테스터처럼 공격 계획을 세우지만, 결정론적 오라클이 실제적이고 안전한 신호를 기반으로 공격 성공 여부를 판단합니다. 모든 판정은 악용 가능, 악용 불가능 또는 불확실한 결과를 포함하며, 감사 또는 이사회에 제시할 수 있는 재실행 가능한 개념 증명(Proof of Concept)이 함께 제공됩니다.

인공지능이 제안하고, 결정론적 엔진이 결정하며, 당신은 증거를 보관합니다.
드cis이온은 여전히 당신의 것입니다
헤수스는 처음 시작했던 곳에서 마무리를 지었습니다. 클라인의 한 버전이 누구의 승인도 없이 배포되었는데, 이는 팀의 부주의 때문이 아니라 아무도 제때 적절한 질문을 하지 않았기 때문입니다. 이것이 바로 AI 코딩 에이전트 보안의 핵심입니다. 에이전트가 무언가를 배포하기 전에 이러한 질문들을 던지는 것이죠.
AI는 이미 여러분의 코드를 작성합니다. 하지만 어떤 코드를 실제 서비스에 배포할지는 여전히 여러분의 결정에 달려 있습니다.
자, 오늘 당신이 답할 수 없는 네 가지 질문은 무엇입니까?
저희는 부스 62에서 3일 동안 보안 및 개발 팀과 바로 이러한 질문들에 대해 이야기를 나누었습니다. 방문해 주신 모든 분들께 감사드립니다.

ENISE 2026에 참가한 Xygeni 팀 (왼쪽부터): 예수 광장, 마르코스 마틴, 아구스틴 산체스 폰세카.
Xygeni가 여러분의 환경에서 이러한 질문에 어떻게 답하는지 보고 싶으신가요? 무료로 시작하세요 or 데모 예약.
자주 묻는 질문
AI 코딩 에이전트 보안이란 무엇인가요?
AI 코딩 에이전트 보안은 소프트웨어 개발 수명주기에서 AI 코딩 도우미 및 에이전트가 보고, 설치하고, 실행하고, 게시할 수 있는 내용을 제어하는 방식입니다. 이는 에이전트 자체, 에이전트가 가져오는 구성 요소 등을 모두 포함합니다. pipeline그것들이 어떤 반응을 일으킬 수 있는지, 그리고 그 결과물을 신뢰할 수 있는 증거가 필요합니다.
클라인젝션 공격이란 무엇이었습니까?
클라인젝션(Clinejection)은 클라인(Cline) 저장소를 대상으로 한 공격으로, GitHub 이슈 제목에 숨겨진 프롬프트를 이용해 AI 분류 에이전트가 명령어를 실행하도록 유도했습니다. 캐시 포이즈닝을 통해 공격자는 npm 게시 토큰에 접근하여 승인되지 않은 클라인 버전을 배포했고, 이 버전은 약 4천 번 설치되었습니다.
슬롭스쿼팅이란 무엇인가요?
슬롭스쿼팅은 공격자가 AI 모델이 만들어내는 경향이 있는 패키지 이름을 등록하는 공급망 공격입니다. 개발자나 코딩 에이전트가 허구의 패키지를 설치하면 공격자의 코드가 설치됩니다.
인공지능이 보안 발견 사항을 스스로 검증할 수 있을까요?
신뢰할 수 있는 방법은 아닙니다. AI는 취약점을 찾아 설명할 수 있지만, 실행 결과가 매번 달라질 수 있어 증거로서의 신뢰도가 떨어집니다. 더 안전한 접근 방식은 AI가 해결책을 제안하고, 결정론적 엔진이 최종 결정을 내리도록 하는 것입니다. 이렇게 하면 동일한 입력값이 항상 동일하고 검증 가능한 결과를 도출할 수 있습니다.







