인공 지능 SDLC인공지능은 이미 여기에 있습니다. 인공지능은 더 이상 미래에 오는 것이 아닙니다. 이미 우리 곁에 있습니다. 인공지능은 IDE에서 코드를 작성하고, 라이브러리를 선택하고, 앱을 엽니다. pull requests그것은 우리 안에서 단계를 실행합니다. pipeline이제 문제는 개발자들이 AI를 사용할지 여부가 아니라, 조직이 개발자들이 AI를 사용하는 동안 어떻게 가시성, 통제력, 그리고 신뢰를 유지할 것인가입니다.
현대 소프트웨어 개발은 이미 인공지능 시대에 접어들었다.
엔지니어링 조직 전반에서 개발자들은 이미 코파일럿, 코딩 어시스턴트, AI 기반 IDE, 내부 에이전트, MCP 연결 도구, 그리고 점점 더 자율화되는 워크플로우를 일상적인 개발 작업의 일부로 활용하고 있습니다. 실험으로 시작된 이러한 기술들은 이제 소프트웨어 개발 수명주기 자체에 빠르게 자리 잡았습니다. Xygeni가 주최한 최신 SafeDev Talk의 핵심 주제는 바로 이것이었습니다.인공 지능 SDLC이미 현실이 되었습니다. 이제 어떻게 해야 할까요?"
이번 회의에는 여러 사람이 참석했습니다. 샘 스테파냔OWASP 글로벌 이사회 위원 및 OWASP 런던 지부장; 아슈위니 시디OWASP 글로벌 이사회 멤버이자 AI 기반 환경에 중점을 둔 사이버 보안 리더; 예수 쿠아드라도Xygeni의 CEO가 사회를 맡았습니다. 루이스 로드리게스Xygeni의 연구원.
이번 논의를 통해 분명해진 메시지는 애플리케이션 보안(AppSec)에 대한 논의가 근본적으로 바뀌었다는 것입니다. 보안 팀은 더 이상 소프트웨어 개발 과정에서의 AI 도입을 준비하는 것이 아니라, 이미 AI를 다루고 있습니다.
AI 기반 솔루션의 핵심 요약 SDLCs
- 인공지능은 이미 현대 사회 곳곳에 스며들어 있습니다. SDLC조종사 보조, 코딩 도우미, 자율 에이전트 및 AI 기반 개발 도구를 통해 가능합니다.
- 기존의 애플리케이션 보안 모델은 AI가 생성한 코드, 허구적인 의존성, 자율적인 워크플로 또는 기계 속도의 개발을 위해 설계되지 않았습니다.
- 섀도우 AI는 가시성 및 거버넌스 측면에서 주요 과제로 떠오르고 있습니다. CISOS 및 애플리케이션 보안 팀.
- AI 기반 개발은 프롬프트 주입, 악성 종속성, MCP 악용 및 에이전트 워크플로를 포함한 새로운 공격 표면을 만들어냅니다.
- 조직은 가시성, 귀속, 최소 권한 및 지속적인 검증을 기반으로 구축된 AI 기반 거버넌스 모델이 필요합니다.
- 업계는 에이전트 방식(agentic)으로 빠르게 나아가고 있습니다. SDLC인공지능 시스템이 개발 작업을 적극적으로 수행하는 곳.
SafeDev Talk의 AI 기반 프레젠테이션 전체 영상을 시청하세요. SDLCs는 이미 여기에 있습니다
다음은 세션에서 논의된 주요 내용 중 일부입니다. 여기에는 AI가 앱 보안 위협 모델을 어떻게 재편하고 있는지, 그리고 그 이유 등이 포함됩니다. CIS운영 체제가 개발 환경 전반에 걸쳐 가시성을 잃어가고 있는 상황에서 조직이 우선적으로 고려해야 할 실질적인 제어 사항은 무엇일까요?
AI 기반인 이유는 무엇일까요? SDLC 지금은 보안이 가장 중요합니다
소프트웨어 개발 분야에서 인공지능 도입은 대부분의 거버넌스 프로그램이 적응할 수 있는 속도보다 훨씬 빠르게 진행되고 있습니다. 조직들이 보조 조종사에서 점점 더 자율적인 에이전트로 나아가면서, SDLC 점점 더 기계 중심적이고 역동적이 되어가고 있으며, 기존의 애플리케이션 보안 접근 방식으로는 모니터링하기가 어려워지고 있습니다.
다수를 위해 CIS운영 체제 및 애플리케이션 보안 책임자 여러분, 이제 과제는 AI가 개발 환경에 진입할지 여부가 아닙니다. 진정한 과제는 AI가 이미 진입한 후 가시성, 원인 규명, 운영 통제를 어떻게 유지할 것인가입니다.
이러한 변화는 이미 여러 조직들이 생각을 바꾸도록 강요하고 있습니다. software supply chain security현대 소프트웨어 개발 환경에서 거버넌스 모델, 개발자 가시성, 그리고 신뢰의 역할에 대해 살펴봅니다.
AI 도입 속도가 보안 거버넌스보다 훨씬 빠르다
이번 대화에서 가장 두드러진 주제 중 하나는 속도였습니다. 루이스 로드리게스가 서두에서 설명했듯이, AI는 더 이상 실험이나 생산성 향상 도구로만 국한되지 않습니다. 이미 개발 워크플로에 직접 참여하여 코드를 작성하고, 라이브러리를 선택하고, 다른 도구와 상호 작용하는 등 다양한 역할을 수행하고 있습니다. pipeline그리고 점점 더 소프트웨어 인프라 자체 전반에 걸쳐 작동하고 있습니다.
패널들이 가장 놀랐던 점은 AI 도입 자체의 존재가 아니라, 공식적인 가시성이나 관리 체계 없이 이미 널리 보급되어 있다는 사실이었습니다. 샘 스테파냔은 공식적인 보안 정책과 엔지니어링 팀 내부에서 실제로 벌어지는 일, 특히 규제가 엄격한 산업 분야에서 벌어지는 일 사이의 괴리가 점점 커지고 있다고 지적했습니다. 일부 조직은 여전히 "AI를 사용하지 않는다"고 주장하지만, 개발자들은 이미 코파일럿, 어시스턴트, AI 도구를 일상적인 업무 흐름에 통합하고 있습니다.
동시에 그는 많은 조직들이 여전히 받아들이기 어려워하는 현실을 지적했습니다. 즉, AI 도입을 피하려는 기업조차도 이미 AI를 적극적으로 활용하는 경쟁자들과 맞서 싸워야 한다는 것입니다. 그러한 긴장감은 많은 보안 책임자들이 소프트웨어 개발 환경 내에서 '섀도우 AI'라고 부르는 현상, 즉 기존 거버넌스 모델 외부에서 작동하는 AI 시스템을 만들어내고 있습니다.
아슈위니 시디는 또 다른 중요한 관점을 제시했습니다. 그녀가 우려하는 것은 단순히 AI 도입 속도뿐만 아니라 AI 생성 코드와 관련된 운영상의 문제점입니다. 그녀는 논의 과정에서 조직들이 AI가 어떤 코드 생성에 기여했는지, 왜 특정 코드를 생성했는지, 그리고 그 코드가 어떻게 사용되었는지에 대한 신뢰할 만한 출처를 파악하지 못하는 경우가 많다고 지적했습니다.cis이온은 추후 검토 및 검증되어야 합니다. 이는 중요한 의미를 내포합니다. 개발팀이 인간이 아닌 기여자를 개발 과정에 도입하고 있다는 것입니다. SDLC하지만 대부분의 관리 및 검토 모델은 여전히 전적으로 인간의 저작물을 전제로 합니다.
AI는 개발 속도를 높일 뿐만 아니라 위험이 유입되는 방식까지 변화시킵니다. SDLC
AI가 소프트웨어 개발 워크플로 전반에 통합됨에 따라 공격 표면은 기존 애플리케이션 보안 가정을 훨씬 뛰어넘어 확장되고 있습니다. 패널 토론에서는 대부분의 보안 프로그램이 인간의 속도로 작동하는 알려진 위험을 기반으로 구축되었다는 핵심 아이디어가 반복적으로 제기되었습니다. AI는 이 두 가지 조건을 동시에 변화시킵니다.
보안 팀은 더 이상 사람이 작성한 코드만 검토하지 않습니다. AI가 생성한 종속성, 프롬프트 주입 위험, 자율 워크플로, MCP 연결 도구, AI 플러그인, 기계 속도 등 점점 더 다양한 요소를 다루고 있습니다. CI/CD 실행.
아슈위니 시디는 가장 먼저 무너지기 시작하는 개념 중 하나가 바로 전통적인 신뢰 경계 자체라고 설명했습니다. AI 시스템은 방대한 양의 공개 코드를 기반으로 학습되는데, 이 코드들 중 상당수는 보안에 취약하거나, 오래되었거나, 완벽하게 검증하기 어렵습니다. 결과적으로 조직들은 무엇이 신뢰의 경계 안에 있고 무엇이 경계 밖에 있는지 명확하게 정의하는 능력을 잃게 됩니다.
그녀는 또한 AI 시스템이 정적인 것이 아니기 때문에 위협 모델링의 본질을 근본적으로 바꾼다고 강조했습니다. AI 시스템이 지속적으로 진화하고 적응하며 동적으로 행동을 최적화하는 환경에서는 기존의 특정 시점 보안 검토 방식은 더 이상 유효하지 않습니다.
헤수스 쿠아드라도는 소프트웨어 공급망 관점에서 이 문제에 접근했습니다. 세션에서 논의된 가장 명확한 사례 중 하나는 AI가 제안하는 종속성 문제였습니다. 개발자들은 AI가 생성한 패키지 추천을 검증 과정 없이 자동으로 수용하는 경우가 점점 늘어나고 있습니다. 이는 완전히 새로운 공격 경로를 만들어냅니다.
패널 토론에서 논의된 바와 같이, 공격자는 대규모 언어 모델이 생성한 가짜 패키지 이름을 식별하고, 해당 패키지를 공개 저장소에 등록한 다음, 개발자나 AI 에이전트가 자동으로 설치할 때까지 기다릴 수 있습니다.
이는 전통적인 전제에 깔린 가정을 극적으로 변화시킵니다. SCA 프로그램. 보안 팀은 더 이상 알려진 취약한 종속성만 다루는 것이 아닙니다. 그들은 인공지능 기반 워크플로를 위해 특별히 설계된 악성 동작을 포함하고 있을 수 있는, 불과 몇 분 전에 나타났을 수도 있는 종속성을 점점 더 많이 다루고 있습니다.
이번 논의에서는 개발 환경 내에서 완전히 새로운 공격 대상을 겨냥하는 방식에 대해서도 살펴보았습니다. 주석 내 프롬프트 삽입, 에이전트용 변조된 명령어 파일, 악의적인 MCP 상호 작용, 조작된 AI 워크플로우 등이 현실적인 공격 벡터로 떠오르고 있습니다. 그 결과, 기존 애플리케이션 보안 프로그램이 원래 설계되었던 것보다 훨씬 더 광범위하고, 빠르며, 역동적인 위협 모델이 탄생했습니다.
CISOS는 전반적인 가시성을 잃어가고 있습니다. SDLC
가시성은 논의 전반에 걸쳐 주요 주제 중 하나였습니다. 루이스 로드리게스가 세션에서 요약했듯이, 많은 보안 책임자들은 개발자들이 어떤 AI 도구를 사용하는지, 어떤 AI 생성 코드가 저장소에 들어가는지, 또는 어떤 에이전트가 상호 작용하는지조차 알지 못합니다. pipeline및 인프라.
패널들은 이를 섀도우 IT가 섀도우 AI로 진화한 것이라고 설명했습니다. 하지만 이전의 승인되지 않은 도구들과는 달리, 이러한 시스템들은 개발 과정에 적극적으로 참여합니다.cis이온은 코드를 생성하고, 종속성을 선택하고, 인프라와 상호 작용하며, 개발자를 대신하여 운영상의 결정을 내리는 등 점점 더 많은 역할을 수행합니다.
샘 스테파냔은 또 다른 중요한 과제인 귀속 문제를 강조했습니다. AI가 생성한 코드가 더욱 보편화됨에 따라 조직은 특정 작업을 누가(또는 무엇이) 수행했는지 명확하게 파악하는 능력을 잃어가고 있습니다.
추적성 상실은 거버넌스와 운영 모두에 문제를 야기합니다. 팀이 사람의 행동과 AI가 생성한 행동을 확실하게 구분할 수 없다면, 사고 대응, 감사 및 보안 검토가 훨씬 더 복잡해집니다.
이번 논의에서는 AI가 생성한 결과물을 지나치게 신뢰하는 경향이 커지고 있다는 점도 다뤄졌습니다. 개발자들은 AI가 생성한 코드가 자신감 있고 정상적으로 작동하는 것처럼 보이면 안전하다고 생각하는 경우가 많습니다. 하지만 샘이 지적했듯이, 이러한 시스템은 보안에 취약한 공개 예제를 기반으로 학습되는 경우가 많아, 취약하거나 완전히 잘못된 결과를 높은 신뢰도로 생성할 수 있습니다. 이는 가시성 부족, 원인 규명 어려움, 그리고 조직이 완전히 이해하지 못하는 시스템에 대한 신뢰 증가라는 위험한 조합을 초래합니다.
업계는 조용히 에이전트 중심적인 방향으로 나아가고 있다 SDLCs
이번 논의에서 가장 중요한 부분 중 하나는 부조종사에서 자율 에이전트로의 전환에 관한 것이었습니다. 패널들은 업계가 점차 에이전트 기반 시스템으로 발전해 나가고 있다는 데 동의했습니다. SDLC인공지능 시스템이 단순히 코드를 제안하는 데 그치지 않고 소프트웨어 수명주기 전반에 걸쳐 적극적으로 조치를 취하는 환경입니다.
AI 시스템이 개방되기 시작했습니다 pull requests테스트를 실행하고, 외부 도구를 호출하고, 인프라를 수정하고, API와 상호 작용하고, 개발 환경 전반에서 자율적으로 운영할 수 있게 되었습니다. 다시 말해, AI는 보조자에서 운영자로 진화하고 있습니다.
이러한 변화는 보안 모델을 근본적으로 바꿉니다. 논의에서 살펴본 바와 같이, 조직은 AI 에이전트의 ID 관리, 최소 권한 접근, 감사 가능성, 인간의 감독, 서명된 작업, 그리고 AI 동작에 대한 지속적인 가시성을 중심으로 하는 완전히 새로운 거버넌스 접근 방식이 필요할 가능성이 높습니다.
이번 세션에서 논의된 특히 인상적인 사례 중 하나는 AI 시스템이 할당된 목표를 달성하기 위해 개발자 워크스테이션의 엔드포인트 보안 보호 기능을 비활성화하려고 시도한 것이었습니다.
이 예시는 AI 기반 환경에 대한 중요한 현실을 보여줍니다. 이러한 시스템은 보안 경계보다는 목표 달성에 최적화되어 있다는 것입니다. 기존의 애플리케이션 보안은 사람의 실수를 감시하는 데 초점을 맞췄습니다. 하지만 차세대 애플리케이션 보안은 자율적인 행동을 통제하는 데 더욱 집중해야 할 것입니다.
AI 기반 앱 보안에 제로 트러스트 접근 방식이 필요한 이유
SafeDev Talk에서 논의된 많은 주제들은 더 광범위한 변화 추세와 밀접하게 연관되어 있습니다. 제니 AI 시대의 제로 트러스트(Zero Trust)를 정의합니다. SDLC: 아무것도 믿지 말고, 인공지능 자체를 포함하여 모든 것을 검증하라. Xygeni의 플랫폼 접근 방식에서 설명한 바와 같이, AI는 공격 표면을 여러 계층에 걸쳐 동시에 확장합니다.
- 자사 코드,
- 의존성,
- CI/CD pipelines,
- AI 모델 및 에이전트,
- 및 개발자 환경.
이러한 영역 중 상당수는 기존 애플리케이션 보안 도구로는 거의 파악할 수 없습니다. 이제는 단순히 코드의 취약점을 스캔하는 것만으로는 충분하지 않습니다. 조직은 AI가 생성하는 종속성, 개발 환경 내 AI 활동, 에이전트 동작, AI 연결 인프라, 그리고 기계 속도로 발생하는 소프트웨어 공급망 상호 작용에 대한 가시성을 점점 더 필요로 합니다.
그렇기 때문에 AI 인벤토리, AI 인식과 같은 개념이 존재하는 것입니다. ASPMAI-SPM 및 개발자 환경 거버넌스는 현대 애플리케이션 보안 논의의 핵심으로 빠르게 자리 잡고 있습니다.
The SDLC 이미 변경되었습니다
SafeDev Talk에서 한 가지 사실이 매우 분명해졌습니다. AI는 이미 내부에 내장되어 있습니다. SDLC. 업계에서는 더 이상 AI 기반 개발이 실현될지 여부를 논의하는 단계가 아닙니다. 규모에 상관없이 모든 엔지니어링 조직에서 이미 그러한 전환이 진행되고 있습니다.
현재 진정한 과제는 점점 더 자율화되는 개발 환경 전반에 걸쳐 가시성, 거버넌스, 출처 표기 및 운영 제어를 유지하는 것입니다.
AI 도입이 가속화됨에 따라 신뢰 경계, 인간 작성자, 소프트웨어 출처 및 고정된 거버넌스 모델과 관련된 기존 애플리케이션 보안 가정은 계속해서 무너질 것입니다.
가장 빠르게 적응하는 조직이 반드시 AI 도입 속도를 늦추는 조직은 아닐 것입니다. 오히려 AI 기반 소프트웨어 개발이 이미 진행되고 있는 속도에 맞춰 이를 이해하고, 관리하고, 보안을 유지할 수 있는 조직이 될 것입니다.
OWASP Global AppSec EU 비엔나에서 대화를 이어가세요
AI 기반에 대한 대화 SDLC 보안은 이제 막 시작일 뿐입니다. Xygeni는 비엔나에서 열리는 OWASP Global AppSec EU에서 이러한 주제를 계속해서 탐구할 예정이며, 해당 컨퍼런스에서 AI 기반 앱 보안에 대해 논의할 것입니다. software supply chain security인공지능 거버넌스 및 에이전트 기반 개발 환경의 새로운 위험에 대해 논의합니다.
참석하시는 경우 OWASP 글로벌 AppSec EU비엔나에서 열리는 전시회 G-08 부스에서 Xygeni 팀을 만나보세요!
