카테고리: AI

GitHub Copilot 보안

GitHub Copilot 보안: AI가 작성한 코드의 실제 위험과 이를 제어하는 ​​방법

GitHub Copilot은 점점 더 많은 코드 작성 작업을 대신 수행하며, 이제는 명령어 실행, 파일 열기 기능까지 제공합니다. pull requests GitHub Copilot은 패키지를 설치합니다. 프롬프트 주입, 비밀 키 유출, 가짜 패키지 생성 등 GitHub Copilot의 실제 보안 위험, GitHub의 내장 보안 제어 기능, 그리고 AI가 작성한 코드를 안전하게 관리하는 7가지 단계를 살펴보겠습니다.
포옹 얼굴 보안 사건

허깅 페이스 보안 사고: AI 에이전트가 플랫폼을 어떻게 침해했는지, 그리고 여러분의 플랫폼에서 무엇을 개선해야 할까요? Pipeline

인공지능 에이전트가 악의적인 데이터셋을 이용해 허깅페이스의 내부 클러스터에 접근 권한을 획득했습니다. 이 공격에는 인간의 개입이 전혀 없었습니다. 허깅페이스 보안 사고의 전말과 AI를 운영하는 모든 팀에게 이 사건이 중요한 이유를 살펴보겠습니다. pipeline인공지능 에이전트 또는 가상현실의 문제점과, 여러분 환경에서도 동일한 문제점을 해결하기 위한 6단계 방안을 소개합니다.
AI 에이전트 보안

AI 에이전트 보안: 모든 에이전트를 파악하고, 위험을 감지하고, 에이전트가 설치하는 콘텐츠를 보호하세요.

AI 에이전트는 단순히 답변만 하는 것이 아니라, 직접 행동합니다. 도구를 호출하고, 자격 증명을 관리하며, 패키지를 스스로 설치합니다. 코드에 있는 모든 에이전트의 목록을 작성하는 것부터 에이전트가 설치하는 항목을 보호하는 것까지, AI 에이전트 보안은 네 단계로 이루어집니다.
Xygeni, ENISE 2026에서 AI 코딩 에이전트 보안 발표

누가 릴리스를 결정했는가? ENISE 2026에서 배우는 AI 코딩 에이전트 보안 교훈

ENISE 2026에서 Xygeni CEO인 헤수스 쿠아드라도는 GitHub 이슈의 한 문장이 어떻게 무단 배포로 이어졌는지 보여주었습니다. CISAI 코딩 에이전트에 대한 네 가지 질문이 있습니다.
OWASP 에이전트 AI Top 10

OWASP 에이전트형 AI Top 10 설명: ASI01–ASI10

OWASP 에이전트 AI Top 10은 AI 에이전트가 실패하는 10가지 방식을 나열합니다. ASI01부터 ASI10까지가 실제 상황에서 무엇을 의미하는지 살펴보겠습니다. pipeline각 위험 요소가 어디에서 발생하는지, 그리고 배포 전에 어떤 위험 요소를 차단할 수 있는지 파악합니다.
모델 추출 공격

모델 추출 공격: 인벤토리가 우선시되는 이유

모델 추출 공격은 공격자가 시스템 침해나 파일 탈취 없이 쿼리별로 모델을 복사할 수 있도록 하는 공격입니다. 모델 탈취 공격의 작동 방식과 모든 추론 엔드포인트를 파악하는 것이 첫 번째 방어 수단인 이유를 설명합니다.
에이전트형 AI 위험 및 폭발 반경

에이전트형 AI의 위험성과 파급 효과: 에이전트의 활동을 제한할 것인가, 아니면 더 빠른 복구를 추구할 것인가?

에이전트를 제한하고, 더 빠르게 회복시키고, 아래에서부터 억제하는 것? 세 명의 실무자가 세 가지 답을 내놓았지만, 모두 동의한 최소한의 해결책은 하나뿐이었다.
에이전트 하네스 엔지니어링

에이전트 하네스 엔지니어링: 모델 자체가 공격 표면이 아니라, 하네스가 공격 표면이다.

에이전트 하네스 엔지니어링은 모델을 유용한 에이전트로 변환합니다. 하지만 이 과정은 공격자에게 새로운 공격 목표를 제공합니다. 바로 에이전트의 기능을 알려주는 파일들입니다.
AI 애플리케이션 보안

AI 애플리케이션 보안: OWASP 포르투 및 카를스루에에서 들은 내용

OWASP 포르투와 카를스루에에서 열린 컨퍼런스는 AI 애플리케이션 보안이 주도했습니다. 무엇이 중요했을까요? ASPM 실제로 어떤 점이 다른지, 그리고 어떻게 다른지 SAST그리고 AI 기반 분류 및 문제 해결 기능이 도움이 되는 곳입니다.
AI 위험 관리

AI 위험 관리: 두 가지 분야, 하나의 목록

네 개의 검색어, 완전히 다른 두 가지 직무. AI 위험 관리와 AI를 활용한 위험 관리는 전혀 다른 분야이며, 대부분의 조직은 한쪽 분야에 인력을 배치해 놓고 다른 쪽을 홍보하는 데 현혹됩니다. 흥미로운 점은 이 두 가지가 사실상 동일한 프로그램이라는 사실을 깨달았을 때 어떤 일이 벌어지는가 하는 것입니다.
AI 위험 지표

AI 리스크: 에이전트 기반 AI 전략의 효과를 알려주는 지표

이제 모든 이사회는 똑같은 질문을 던집니다. "우리의 AI 위험은 무엇인가?" 대부분의 팀은 형용사로 대답합니다. 여기서는 수치로 표현되는 AI 위험 지표와 각 지표의 출처, 그리고 이러한 지표들이 의미를 갖기 전에 에이전트 기반 AI 전략이 다뤄야 할 사항들을 살펴보겠습니다.
AI 보안 위협

인공지능 보안 위협 10가지와 이를 파악하는 방법

두 가지가 같은 범주에 속하지만, 엄연히 다른 문제입니다. AI 시스템에 대한 공격과 AI를 이용한 공격은 각각 다른 통제, 책임자, 그리고 증거가 필요합니다. 10가지 위협을 두 가지 유형으로 나누어 살펴보고, 그 모든 위협에 앞서 발생하는 한 단계를 분석합니다.