통제된 연구에서 발표된 내용에 따르면 USENIX 보안 2025연구진은 16개의 대형 언어 모델에 576,000개의 코드 샘플을 생성하도록 요청했습니다. 이 모델들이 추천한 오픈 소스 패키지 중 거의 5분의 1이 존재하지 않는 것으로 나타났습니다. 즉, 205,474개의 고유한 가짜 패키지 이름이 허구로 만들어진 것입니다. 만약 이것이 무작위였다면 흥미로운 현상이었겠지만, 그렇지 않습니다. 만들어진 이름의 43%는 반복적인 프롬프트에서 계속해서 나타났습니다. 공격자는 코딩 도우미가 어떤 이름을 만들어낼지 추측할 필요가 없습니다. 그들은 지켜보고, 기다리고, 먼저 이름을 기록할 수 있습니다.
그것이 바로 핵심적인 문제입니다. AI 공급망 보안 한 실험에서 소프트웨어 개발 속도를 높이는 바로 그 AI가 예측 가능하고 악용 가능한 침입 경로가 되었다는 사실이 드러났습니다. 보안 팀에게 중요한 질문은 더 이상 AI가 소프트웨어 공급망에 영향을 미치는지 여부가 아닙니다. 핵심은 AI가 코드를 작성하는 쪽과 시스템을 방어하는 쪽, 즉 양측에서 무엇을 하고 있는지 파악할 수 있는지 여부입니다. pipeline그리고 AI 공격자는 두 대상을 모두 지목하고 있습니다.
AI 기반 공급망 보안이란 무엇인가요?
AI 공급망 보안은 인공지능으로 인해 발생하거나 증폭되는 위험으로부터 소프트웨어 공급망을 보호하고, 동시에 AI를 활용하여 해당 공급망을 방어하는 것을 의미합니다. 이는 대부분의 보안 프로그램에서 여전히 별도로 다루는 두 가지 추세, 즉 코드베이스에 유입되는 AI 생성 코드와 종속성, 빌드 등을 표적으로 삼는 AI 기반 공격이 교차하는 지점에 있습니다. pipelines와 그와 관련된 개발자 도구들.
기존 애플리케이션 보안은 알려진 취약점이 알려진 구성 요소에 존재하는지 여부를 묻습니다. 반면 AI 공급망 보안은 더 어렵고 신속한 질문을 던집니다. AI 에이전트가 방금 설치한 이 종속성이 실제로 존재하는지, 아니면 허구인지? 아직 시그니처가 존재하지 않더라도 새로 게시된 이 패키지가 악의적으로 동작할 가능성이 있는지? 소프트웨어 개발 수명주기 전반에 걸쳐 어떤 AI 모델, 에이전트 및 연결이 실행되고 있으며, 이들은 어디에 접근할 수 있는지?
그러한 질문에 대한 답을 코드 실행 속도에 맞춰 제시하는 것이 바로 이 분야의 핵심입니다.
AI가 공급망 공격 표면이 된 방법
공격자들은 이미 오래전에 AI를 이용한 실험을 멈췄습니다. 이제 그들은 단순히 메일함을 공격하는 것이 아니라, 코드와 그 종속성을 직접적으로 노리는 공격에 AI를 통합하고 있습니다. login
슬롭스쿼팅: AI가 발명한 것을 무기화하기
이제 그 기술에 이름이 생겼습니다. 엉거주춤 앉기이 용어는 파이썬 소프트웨어 재단의 보안 개발자인 세스 라슨이 2025년 4월에 처음 사용했습니다. 작동 방식은 간단하면서도 잔인합니다. AI 코딩 도우미가 존재하지 않는 패키지 이름을 반복적으로 제안합니다. 이러한 잘못된 제안이 계속 반복되기 때문에 공격자는 만들어낸 이름을 실제 악성 패키지로 등록하고 다음 개발자(또는 다음 자율 에이전트)가 이를 설치할 때까지 기다릴 수 있습니다.
이미 선례가 있습니다. 2023년에 보안 연구원 바르 라냐도 모델들이 자주 떠올리는 이름으로 빈 플레이스홀더 패키지를 게시했습니다. 포옹얼굴-cli3개월 만에 3만 회 이상 다운로드되었고, 심지어 그 허구의 설치 명령어가 유명 IT 기업의 공개 저장소 README 파일에까지 등장했습니다. 이는 비교적 무해한 테스트였습니다. 하지만 이제 공격자들은 실제 악성 코드를 이용해 똑같은 방식으로 반복 공격을 감행하는 사업 모델을 구축했습니다.
자율 코딩 에이전트는 마지막 인간 검토 단계를 제거함으로써 이러한 문제를 더욱 악화시킵니다. 검토 없이 종속성을 설치하는 에이전트는 개발자가 패키지가 잘못되었다는 것을 알아차릴 수 있는 유일한 순간을 없애버립니다.
산업 규모의 악성 패키지
슬롭스쿼팅은 훨씬 더 큰 변화의 한 전략입니다. 2025년에는, 대량 악성 패키지 캠페인 Xygeni의 사례처럼 이는 공급망 공격의 기본 운영 모델이 되었습니다. 2026년 새로운 앱 보안 공격 트렌드 공격자들은 스팸 경제학을 채택했습니다. 즉, 악성 패키지를 수천 개씩 배포하고, 빠른 제거를 감수하며, 지속성보다는 확률에 의존하는 것입니다. 이제 공개 레지스트리에는 매년 수십만 개의 새로운 악성 패키지가 등록되고 있으며, 짧은 노출 기간만으로도 하위 빌드를 오염시킬 수 있습니다.
MCP: 새롭고 보안 수준이 낮은 연결 계층
모델 컨텍스트 프로토콜(MCP)은 AI 에이전트가 도구 및 데이터 소스에 연결할 수 있도록 해줍니다. 하지만 이는 대부분의 스캐너가 검사하지 않는 새로운 공격 표면을 만들어냅니다. 악의적인 MCP 서버는 정상적인 서버와 함께 보이지 않게 존재할 수 있으며, 접근 권한이 있는 모든 에이전트가 접근할 수 있습니다. OWASP는 2025년 MCP Top 10을 발표했습니다. 이러한 위험 요소들을 목록화하기 위해, 즉각적인 공격과 도구 오염부터 네트워크상의 모든 에이전트가 접근할 수 있는 인증되지 않은 서버에 이르기까지 다양한 위험 요소를 다룹니다.
인공지능이 생성한 코드를 통해 비밀이 유출되고 있다
체크포인트 외부 위험 관리(구 Check Point External Risk Management)에 따르면, 2025년 계정 정보 유출 사고는 2024년 대비 약 160% 급증했습니다. 사이버린트이는 부분적으로 AI 기반 피싱 및 정보 탈취 악성코드에 의해 발생합니다. 소프트웨어 환경에서 이는 AI가 생성한 코드에 하드코딩된 키와 토큰에 직접적으로 연결됩니다. 코딩 도우미는 이러한 정보를 입력받았습니다. .env 파일을 컨텍스트에 삽입하면 제안에 비밀 정보를 복제할 수 있으며, 공격자는 바로 그러한 패턴을 찾아 스캔합니다.
인간적인 측면도 사라지지 않았습니다. IBM의 '2025년 데이터 침해 비용 보고서'에 따르면 AI 관련 침해 사례 중 37%는 AI 기반 피싱을, 35%는 딥페이크를 이용한 사칭을 사용했는데, 이러한 기법은 가짜 채용 담당자 연락이나 관리자 사칭 계정을 통해 개발자를 표적으로 삼는 경우가 점점 늘어나고 있습니다.
인공지능이 공급망을 보호하는 방법
인공지능을 위험하게 만드는 능력은 바로 방어자에게 유용하게 만드는 능력이기도 합니다. 공급망에서 이러한 상충 관계는 네 곳에서 가장 구체적으로 드러납니다.
시그니처보다 앞선 악성코드 탐지
이것이 바로 핵심적인 기능입니다. 기존 스캐닝 방식은 알려진 악성 시그니처가 나타날 때까지 패키지에 플래그를 지정하지 않기 때문에, 패키지 게시 후 몇 시간 만에 수천 건의 다운로드를 발생시키는 공격에는 구조적으로 너무 느립니다. 반면 행동 기반 탐지는 새로 게시된 패키지가 나타나는 순간 설치 시 동작, 네트워크 호출, 난독화 패턴, 메타데이터 이상 징후 등을 분석하여 점수를 매깁니다. 이는 슬롭스쿼팅(slopsquatting)과 타이포스쿼팅(typosquatting) 공격이 의존하는 공격 시점을 차단합니다. 시그니처 기반 탐지기가 완전히 놓쳤던 2025년 말의 Shai-Hulud 및 GlassWorm npm 공격은 이러한 공격에 효과적으로 대응할 수 있습니다.cis행동 분석은 바로 이러한 사례를 포착하기 위해 만들어졌습니다.
활용 가능성을 기준으로 우선순위를 정하고, 양적인 측면을 기준으로 하지 않습니다.
AI가 현대 애플리케이션 보안에 가장 실질적으로 기여하는 부분은 단순히 더 많은 문제를 찾아내는 것이 아니라, 이미 발견된 문제들 중에서 불필요한 정보를 걸러내는 것입니다. 도달 가능성 분석은 취약한 코드 경로가 실제로 실행되는지 여부를 판단합니다. 악용 가능성 점수 산정은 실제 공격 데이터를 CVSS(Clinical Vaccine Security Score) 수치와 비교하여 가중치를 부여합니다. 이 두 가지를 통해 팀은 수천 건의 의미 없는 경고를 수동으로 분류하는 대신, 실제로 악용 가능한 위험을 나타내는 소수의 문제에 집중할 수 있습니다.
이상 탐지 pipeline 수평
In Darktrace의 2026년 AI 사이버 보안 현황 조사보안 책임자들은 AI가 가장 큰 영향을 미치는 분야로 위협 탐지 및 이상 징후 감지(72%)를 꼽았으며, 자동화된 대응(48%)과 취약점 관리(47%)가 그 뒤를 이었습니다. CI/CD이는 이전에는 볼 수 없었던 방식으로 작동하는 설치 스크립트를 표시하는 것을 의미합니다. pipeline또는 예상치 못한 네트워크 호출을 유발하는 종속성 업데이트일 수도 있습니다.
자동화되고 검토 가능한 개선 조치
AI는 위험을 찾아내고 순위를 매기는 것을 넘어, 이제 해결책까지 생성합니다. 즉, 안전하고 프레임워크에 특화된 코드 변경 사항을 제출하는 것입니다. pull request 처리되지 않고 묵혀두는 티켓보다는 훨씬 낫습니다. IBM AI와 자동화를 보안 운영 전반에 걸쳐 광범위하게 사용하는 조직은 침해 사고 처리 주기를 평균 204일로 단축한 반면, 그렇지 않은 조직은 284일로 단축하여 약 80일 더 빠른 효과를 보였습니다. 또한 침해 사고당 평균 1.9만 달러의 비용을 절감하는 것으로 나타났습니다. 위험을 감지만 하고 해결하지 않으면 문제가 다른 곳으로 옮겨갈 뿐이지만, AI를 활용한 문제 분류와 AI 기반 해결책을 결합하면 문제 해결 과정을 완료할 수 있습니다.
대부분의 팀이 아직 해소하지 못한 거버넌스 격차
불편한 점은 다음과 같습니다. 다크트레이스의 2026년 조사에 따르면 현재 조직의 77%가 보안 스택에 생성형 AI를 사용하고 있지만, AI를 안전하게 사용하기 위한 공식 정책을 보유한 곳은 37%에 불과합니다. 이 수치는 전년도의 45%에서 감소한 것입니다. AI 도입 속도가 거버넌스 체계 구축 속도를 앞지르고 있으며, 공격자들은 이러한 격차를 악용하고 있습니다.
소프트웨어 팀의 경우, 이는 구체적으로 나타납니다. AI 코딩 도우미, 에이전트 및 MCP 연결이 이미 여러 곳에서 실행되고 있습니다. SDLC대부분의 조직은 클라우드 제공업체는 알지만, 개발자 컴퓨터에서 접근 가능한 모든 AI 모델, 에이전트, MCP 서버를 나열할 수 있는 경우는 드뭅니다. 이러한 AI 구성 요소 목록(AI-BOM)은 AI 공급망 보안의 기반이 됩니다. 목록을 작성하지 않으면 보안을 확보할 수 없습니다.
앱 보안 팀이 지금 해야 할 일
The 평균 데이터 유출 2025년에는 4.44만 달러(IBM 기준)의 비용이 소요될 것으로 예상되며, 공급망은 점점 더 중요한 진입점이 되고 있습니다. 실질적인 대응책은 추상적으로 "AI를 도입하라"는 것이 아닙니다. 구체적인 실행 방안 목록은 다음과 같습니다.
- 현재 실행 중인 AI를 목록화하세요. SDLC. 모델, 에이전트, MCP 서버 및 AI 코딩 도구는 자산입니다. AI BOM을 먼저 구축하십시오.
- AI가 생성한 코드를 사람이 작성한 코드처럼 다루세요. 컴파일이 된다고 해서 자동으로 안전한 것은 아니며, 코드의 종속성 또한 다른 모든 것과 마찬가지로 검토되어야 합니다.
- 악성코드를 시그니처가 아닌 동작 기반으로 탐지합니다. 서명 기반 스캔 방식은 대량 발송 및 단기 캠페인과 같은 대규모 마케팅 활동에는 구조적으로 너무 느립니다.
- 경고량보다 악용 가능성을 기준으로 우선순위를 정하십시오. 인공지능의 방어적 가치는 실제 위험을 잡음에서 구분해내는 데 있지, 더 많은 위험을 만들어내는 데 있는 것이 아닙니다.
- 탐지뿐 아니라 문제 해결까지 자동화하세요. 해결책 없이 문제만 발견할 뿐입니다.
AI 기반 공급망 보안의 미래는?
향후 몇 년을 규정짓는 두 가지 패턴이 있습니다. 첫째, 공격이 무작위적이기보다는 대규모로 예측 가능해지고 있습니다. 슬롭스쿼팅은 이러한 예측 가능한 패턴을 활용합니다.cis첫째, AI가 만들어내는 환영은 일관성이 있기 때문에 방어는 일회성 특징에서 확장 가능한 패턴 인식으로 전환해야 합니다. 둘째, 방어는 "인간에게 알리기"에서 "티켓이 생성되기 전에 식별, 평가 및 대응"으로 나아가고 있습니다. 이러한 추세에서 앞서 나가는 조직들은 CVE가 작성될 때까지 기다리지 않고 악성 패키지가 배포되는 시점에 그 동작을 포착합니다.
AI는 새로운 위험 요소인 동시에 최고의 방어 수단이며, 이 두 가지가 종종 같은 시스템 내에 공존합니다.
AI는 두 가지 방향으로 동시에 작용합니다. 공격자에게는 확장 가능하고 자동화된 도구를 제공하고, 방어자에게는 수동 검토로는 결코 불가능했던 규모의 탐지 및 대응 능력을 제공합니다. 바로 이러한 양면성 때문에 AI 기반 공급망 보안을 단순히 나중에 덧붙이거나 아예 금지할 수 없는 것입니다.
이것이 격차입니다 제니 폐쇄를 목적으로 지어졌습니다. 악성코드 조기경보(MEW) 이 시스템은 공개 및 비공개 레지스트리를 지속적으로 모니터링하고, 서명이 생성되기 전인 게시되는 즉시 AI 판단을 사용하여 악성 패키지를 탐지하며, 이 판단은 인간 연구팀에 의해 검증됩니다. 제니 Shield 이러한 인텔리전스를 개발자 엔드포인트에서 활용합니다. 악성 패키지가 스크립트 실행 전에 설치 시점에 차단하고, 모든 머신의 AI 도구, 에이전트 및 MCP 서버를 목록화합니다. 이 모든 기능은 이 글에서 설명하는 위협, 즉 슬롭스쿼팅, 타이포스쿼팅, 종속성 혼란 및 관리자 권한 침해 등을 방지하기 위해 특별히 설계되었습니다. 샤이후루드 GlassWorm 공격 유형은 시그니처 기반 도구로는 탐지하지 못했습니다. 접근성 기반 우선순위 지정과 결합된 AI-BOM은 전체 시스템에 걸쳐 이러한 문제를 탐지합니다. SDLC자동화된 풀 리퀘스트 수정, AI 생성 코드 및 AI 기반 공격 개발자들의 작업 속도를 늦추지 않으면서도 동일한 수준의 검토를 받을 수 있습니다.
무료로 시작하세요. Xygeni의 개발자 플랜은 0유로입니다. 저장소 10개, 월 스캔 200회, 기여자 최대 5명, 신용카드 정보 필요 없음. Sign up with GitHubGitLab이나 Google을 사용하여 10분 이내에 첫 번째 스캔을 실행해 보세요. Shield 엔드포인트 보호 기능이 곧 개발자 플랜에 추가될 예정입니다.
FAQ
AI 기반 공급망 보안이란 무엇인가요?
AI 공급망 보안은 AI가 도입하거나 증폭시키는 위험, 예를 들어 잘못된 종속성, 취약점을 포함하는 AI 생성 코드, 악의적인 MCP 연결 등으로부터 소프트웨어 공급망을 보호하는 동시에, 행동 기반 악성코드 탐지, 악용 가능성 우선순위 지정, 자동화된 복구를 통해 AI를 활용하여 공급망을 방어합니다.
인공지능은 소프트웨어 공급망을 보호하는 데 어떻게 활용됩니까?
AI는 시그니처 기반 도구로는 따라잡을 수 없는 방어 기능을 제공합니다. 예를 들어 새로 게시된 패키지의 동작을 나타나는 순간 점수화하고, 취약한 코드 경로에 실제로 도달 가능한지 판단하며, 이상 징후를 표시합니다. pipeline 활동을 수행하고 프레임워크별 수정 사항을 생성합니다. pull requests 밀린 티켓이 아니라.
기존 스캐너는 왜 AI 기반 공급망 공격을 탐지하지 못하는 걸까요?
기존 도구는 알려진 시그니처와 공개된 CVE에 의존하기 때문에 악성 패키지로 이미 식별된 후에야 플래그를 지정합니다. 대량으로 유포되고 수명이 짧은 패키지 캠페인은 게시 후 몇 시간 만에 다운로드 횟수를 급증시키기 때문에(시그니처가 존재하기 훨씬 전) 시그니처 이전 단계의 행동 기반 탐지가 필요합니다.
AI-BOM이란 무엇이며 왜 중요한가요?
AI BOM(인공지능 구성 요소 목록)은 소프트웨어 개발 수명 주기 전반에 걸쳐 실행되는 모든 AI 모델, 에이전트 및 MCP 연결의 목록입니다. 목록을 작성하지 않으면 보안을 확보할 수 없기 때문에 AI BOM은 매우 중요하며, 대부분의 조직은 개발자 컴퓨터에서 어떤 AI에 접근할 수 있는지에 대한 중앙 집중식 가시성을 확보하지 못하고 있습니다.







