HalluSquatting(적대적 환각 스쿼팅)은 누군가가 AI 모델이 만들어낼 가능성이 높은 저장소, 패키지 또는 스킬 이름을 등록한 다음, 에이전트가 이를 검색하도록 유도하는 공격입니다. 에이전트는 실제 프로젝트를 가져오는 것으로 착각하지만, 공격자가 조작한 콘텐츠를 받게 되며, 이 콘텐츠에는 에이전트가 자신의 터미널을 통해 실행할 명령어가 포함되어 있습니다. 이러한 공격은 대규모로 효과적일 수 있는데, 그 이유는 환각이 무작위가 아니기 때문입니다. 동일한 조작된 이름이 여러 모델과 실행 과정에서 반복적으로 나타나므로 사전에 예측하고 등록할 수 있습니다. HalluSquatting은 타이포스쿼팅과 유사한데, 에이전트가 개발자에게 하는 역할과 같습니다. 타이포스쿼팅은 사람의 오타를 기다리는 것이고, 타이포스쿼팅은 기계가 상상해내는 것을 기다리는 것입니다.
할루스쿼팅이란 무엇일까요? 실무적인 정의 #
공급망 공격은 항상 실수를 노려야 했습니다. 타이포스쿼팅은 누군가가 패키지 이름을 잘못 입력하는 실수를 필요로 하고, 종속성 혼동은 리졸버가 비공개 레지스트리보다 공개 레지스트리를 우선시하는 실수를 필요로 합니다. 이 모든 공격은 결국 누군가가 저지르는 오류를 기다립니다.
HalluSquatting은 오류를 기다리지 않습니다. 발명을 기다립니다.
할루스쿼팅(HalluSquatting)은 공격자가 대규모 언어 모델이 통계적으로 생성할 가능성이 높은 리소스 식별자를 미리 등록하여 AI 에이전트가 조작된 리소스를 가져오도록 하는 공급망 공격입니다. 이렇게 하면 AI 에이전트가 정상적인 프로젝트 대신 공격자가 제어하는 콘텐츠를 가져오게 됩니다. 해당 리소스는 GitHub 저장소, 공개 레지스트리의 패키지, 플러그인 또는 에이전트 스킬일 수 있습니다. 공통점은 에이전트가 특정 이름으로 무언가를 요청했고, 그 이름이 요청을 기다리고 있던 주체의 소유였다는 것입니다.
해당 기술은 공식적으로 다음과 같이 기술되었습니다. 에이전트형 봇넷을 조심하세요: 범용적이고 전송 가능한 적대적 HalluSquatting을 통한 확장 가능하고 표적화되지 않은 Promptware 공격텔아비브 대학교, 테크니온 공과대학교, 인튜이트의 연구진이 2026년 7월 8일에 발표한 논문은 공격 메커니즘만큼이나 논문의 틀을 제시하는 방식이 중요하다는 점을 강조합니다. 이 논문은 표적을 지정하지 않은 공격을 설명합니다. 공격자는 특정 피해자에게 접근할 채널이 전혀 필요하지 않습니다. 이메일도, 메시지도, 접근 권한도 필요 없습니다. 공격자는 이름만 등록해 놓고 생태계가 전달을 돕도록 합니다.
환각 속 웅크린 자세, 세 부분으로 나뉘어져 있음 #
정식 명칭이 약식 명칭보다 작동 방식을 더 잘 설명해 주므로, 분해해 볼 가치가 있습니다.
- 환각. 모델은 익숙하지 않은 요청을 받으면 모른다고 말하지 않습니다. 그럴듯한 답변을 제시합니다. 예를 들어, 처음 보는 도구의 저장소를 요청받으면 일반적으로 그러한 식별자가 사용하는 형식에 맞춰 그럴듯한 소유자 이름과 프로젝트 이름을 생성합니다.
- 쪼그려 앉기. 타이포스쿼팅이나 사이버스쿼팅과 같은 논리입니다. 정당한 소유자가 등록하기 전에, 또는 누군가가 해당 도메인이 애초에 소유자가 없었다는 사실을 알아차리기 전에 도메인을 선점하는 것입니다.
- 적대적. 이것이 성가신 존재를 공격으로 바꾸는 요인입니다. 단순한 환각적 도메인 점유는 기회주의적입니다. 모델이 선호하는 경향이 있는 도메인 이름을 등록한 다음, 그 결과가 좋기를 바라는 식입니다. 하지만 적대적 버전은 의도적이며, 보편적이고 전이 가능한 트리거를 사용하여 모델을 공격자가 선택한 특정 도메인으로 유도합니다. 이렇게 하면 기다리는 시간이 없어지고 공격이 반복 가능해집니다.
HalluSquatting의 의미를 한 줄로 요약하면 다음과 같습니다. 모델이 이미 소유하고 있는 이름을 만들어내도록 한 다음, 에이전트가 그 이름을 기반으로 행동하도록 하는 것입니다.
두 가지 패턴이 피해를 야기합니다. 첫째, 최근성이 조작을 부추깁니다. 모델은 오랫동안 확립된 프로젝트의 식별자를 안정적으로 재현하는 반면, 최근 프로젝트의 식별자는 거의 확실하게 만들어냅니다. 학습 종료 시점 이후에 나타난 것은 모델이 채워 넣는 빈칸이 됩니다. 둘째, 허위 정보가 전이됩니다. 동일하게 조작된 이름이 서로 다른 기반 모델과 반복 실행에서 반복적으로 나타나므로 공격자는 대상이 어떤 어시스턴트를 사용하는지 알 필요가 없습니다. 하나의 등록된 이름으로 여러 어시스턴트를 포괄할 수 있습니다.
그러한 조합이 바로 특이한 점을 인프라로 바꾸는 것입니다. 한 모델이 한 번 만들어낸 이름은 그저 흥미로운 요소일 뿐입니다. 하지만 여러 모델이 유행하는 도구에 대해 누군가 물어볼 때마다 일관되게 만들어내는 이름은 유통 채널이 됩니다.
할루스쿼팅 공격은 어떻게 작동하나요? #
이 사슬은 다섯 개의 연결 고리로 이루어져 있으며, 주목할 만한 점은 공격자가 설정 후 하는 일이 거의 없다는 것입니다.
1. 예측하세요. 공격자는 특정 유형의 요청에 대해 어떤 식별자 모델이 생성하는지 프로파일링합니다. 이 저장소를 복제하고, 이 스킬을 설치하고, 이 패키지를 추가하세요. 최근 인기 있는 리소스가 가장 높은 결과를 제공합니다.
2. 등록합니다. 그들은 실제 플랫폼에서 해당 이름을 사용하고 있습니다. 저장소도 존재하고, 패키지도 제대로 해석됩니다. 리소스가 실제로 존재하기 때문에 기본적인 존재 여부 검사에서 실패하는 부분은 없습니다.
3. 씨앗. 해당 리소스는 모델이 지침으로 읽도록 작성된 콘텐츠로 채워져 있습니다. 예를 들어 README 파일의 공격자 프롬프트, 구성 파일, 문서 또는 리소스 설명 등이 있습니다. 이는 프롬프트웨어이며, 간접 공격과 밀접한 관련이 있습니다. 즉각적인 주사페이로드는 주로 코드가 아니라, 다음에 그것을 읽는 주체를 염두에 두고 작성된 언어입니다.
4. 가져오기. 개발자가 에이전트에게 저장소를 복제하거나 스킬을 설치하도록 요청합니다. 에이전트는 해당 이름을 잘못 인식하고 공격자의 리소스에 접근하여 그 내용을 마치 요청받은 자료인 것처럼 자신의 컨텍스트로 가져옵니다.
5. 실행합니다. 내장된 명령어가 에이전트의 실행을 가로챕니다. 현재 에이전트에는 통합 터미널이 포함되어 있으므로, 시연 결과 원격 도구 실행 및 원격 코드 실행이 가능해졌고, 최종적으로 호스트에 봇이 설치되었습니다.
마지막 링크가 연구 제목의 유래가 되었습니다. 감염된 각 기기는 에이전트 기반 봇넷에 합류하게 되는데, 이 네트워크는 취약점이나 취약한 자격 증명을 통해서가 아니라, 아무도 직접 표적으로 삼지 않은 기기에서 에이전트가 원래 따르도록 의도되지 않은 명령을 읽으면서 확산됩니다.
슬롭스쿼팅(Slopsquatting)은 가장 가까운 친척이자 공통 조상입니다. 패키지 이름을 등록하고, 모델을 조작하고, 누군가가 설치를 실행하기를 기다리는 방식이죠. 할루스쿼팅(HalluSquatting)은 이를 두 방향으로 발전시킵니다. 목표가 개발자에서 에이전트로 옮겨가면서 사람의 검증 과정이 완전히 사라집니다. 또한, 단순히 이름 등록을 바라는 것이 아니라 조작할 수 있게 되므로 기회주의적인 태도에서 적대적인 태도로 바뀝니다.
이러한 변화는 이미 활동 중인 팀들에게 가장 큰 영향을 미칩니다. 에이전트 코딩, de가 있는 곳cision의 경우, 조회와 실행은 개발자가 요청하고 더 이상 모니터링하지 않는 프로세스 내에서 한 단계로 이루어집니다.
기존 제어 방식이 이를 간과하는 이유는 무엇일까요? #
기존 공급망 심사 방식의 근간을 이루는 모든 가정이 여기서는 완전히 뒤집히는데, 이것이 바로 불편한 부분입니다.
공통점은 이러한 모든 검사에서 "이전에 이 계정을 본 사람이 있습니까?"라는 질문을 한다는 것입니다. 4시간 전에 등록된 계정에 대해 솔직하게 대답하자면 "아니요"일 것이고, "아니요"는 차단 사유가 되지 않습니다.
상담원이 창을 열기 전에 창을 닫는 것 #
유용한 질문은 개발자들이 만들어낸 패키지 이름에 속아 넘어갈지 여부가 아닙니다. 오히려 여러분의 시스템에 어떤 요소가 있는지가 중요합니다. pipeline 4시간 전에 생성되었고, 이력도 없으며, 사람이 아닌 에이전트가 추가한 종속성을 알아차릴 수 있을 것입니다.
세 가지 제어 조치를 통해 해당 취약점을 대부분 해결할 수 있으며, 이 중 어느 것도 공격자가 어떤 이름을 등록했는지 추측할 필요가 없습니다.
생성 시기와 출처를 기준으로 접근을 제한하세요. 몇 시간 전에 생성되어 에이전트가 가져온 리소스는 5년의 이력을 가진 리소스와는 완전히 다릅니다. 패키지 생성 시기는 아무도 읽지 않는 메타데이터보다는 정책 입력값으로 활용하는 것이 훨씬 효과적입니다. 평판보다는 동작을 기준으로 필터링하세요. 새로 등록된 이름은 "누군가 이 이름을 본 적이 있나요?"라는 질문은 항상 통과하지만 "이 이름이 실제로 무슨 역할을 하나요?"라는 질문은 절대 통과하지 못하기 때문입니다. 또한 설치 위치를 엄격하게 관리하세요. 설치 위치가 중요하기 때문입니다.cision point는 개발자 컴퓨터와 에이전트 터미널로 이동했으며, CI에서만 실행되는 컨트롤은 로컬에서 이미 실행된 코드 이후에 도착합니다.
제니 해당 계층에서 작동합니다. 악성코드 조기 경보 이 시스템은 평판보다는 동작을 기준으로 패키지를 검사하여 서명이 생성되기 전에 악성 패키지를 식별합니다. 이는 오늘 아침에 등록된 이름이 오늘 아침에 탐지되는 유일한 조건입니다. 주간 결과는 공개적으로 게시됩니다. 악성 코드 요약. Shield 개발자 엔드포인트 자체에서 정책을 시행하며, 패키지의 최소 사용 기간 요구 사항 및 악성 설치 차단 등을 포함하여 에이전트가 원하는 순간에 악성 패키지를 다운로드할 수 없도록 합니다. DevAI 적용하다 guardrails IDE 내부와 코딩 에이전트 내부에서 에이전트가 실행되기 전에 추가하는 내용을 검토합니다. commit그리고 지속적인 AI 기반 자산 검색 이 공격은 저장소에서 이미 실행 중인 에이전트, 스킬 및 MCP 서버를 매핑합니다. 왜냐하면 이 공격이 제기하는 첫 번째 질문은 대부분의 팀이 답할 수 없는 질문이기 때문입니다. 즉, 무엇이 우리를 대신하여 데이터를 가져오고 있으며, 누구의 권한으로 가져오고 있는가 하는 질문입니다.
데모 예약 담당 에이전트들이 얼마나 벌어들이는지 확인해 보세요.
FAQ: 할루스쿼팅이란 무엇인가요? (간단한 답변) #
공격자는 AI 모델이 만들어내는 가짜 이름을 등록해 둡니다. 그러면 에이전트가 해당 이름을 검색할 때 실제 프로젝트 대신 공격자의 콘텐츠를 찾게 됩니다. 모델의 오류가 공격 전달 메커니즘으로 활용되는 것입니다.
대부분 그렇습니다. LLM 레드팀은 언어 모델과 그 위에 구축된 애플리케이션에 초점을 맞춥니다. AI 레드팀은 단순히 악용하는 것이 아니라, 상황을 조종하는 것입니다. 모델이 선호하는 이름을 등록하고 기다리는 대신, 연구진은 에이전트가 공격자가 선택한 특정 이름을 필요에 따라 생성하도록 하는 트리거를 개발했으며, 이러한 트리거는 여러 모델에서 작동합니다.
아니요. 타이포스쿼팅은 사람의 실수, 즉 오타나 잘못 기억한 이름을 악용하는 것입니다. 반면, 홀루션 스쿼팅은 기계가 만들어낸 이름, 즉 실존하지도 않고 사람이 입력한 적도 없는 이름을 악용하는 것입니다. 이름 유사성 탐지는 이러한 경우에 아무런 도움이 되지 않습니다. 왜냐하면 조작된 이름은 어떤 실명과도 유사하지 않기 때문입니다.
이 두 가지는 겹치는 부분이 있으며, 슬롭스쿼팅이 먼저 등장했습니다. 슬롭스쿼팅은 일반적으로 가상의 패키지 이름을 등록하고, 개발자가 어시스턴트의 추천에 따라 해당 패키지를 설치하기를 기다리는 것을 의미합니다. 할루스쿼팅은 에이전트 기반의 권한 상승 단계로, 에이전트가 자율적으로 패키지를 가져와 실행하고, 가상 패키지를 유도할 수 있으며, 원격 코드 실행 및 봇넷 설치를 목표로 합니다.
에이전트가 사람의 개입 없이 어떤 항목을 가져오고 설치할 수 있는지 파악한 다음, 그 전에 사용 기간 및 행동 검사를 추가하세요. 두 가지 모두 이번 주 안에 해결할 수 있는 구성 관련 질문이며, 공격자가 이미 등록한 도메인 이름을 알 필요도 없습니다.
