AI 거버넌스 프레임워크 구축

TL; DR

정책 문서는 AI 거버넌스 프레임워크가 아닙니다. "우리는 AI를 책임감 있게 사용합니다"라고 적힌 PDF 파일만으로는 실제로 어떤 AI가 실행되고 있는지, 누가 승인했는지, 정책이 제대로 준수되고 있는지 등을 증명할 방법이 없습니다. 거버넌스는 말뿐인 약속이 아니라 그 이면에 탄탄한 구조를 갖춰야 합니다.

실제에서 차용한 네 가지 기능 standard틀을 하나로 묶어줍니다. NIST AI RMF의 통치, 지도, 측정, 관리 이는 안정적이고 인용 가능한 구조입니다. 통치(govern)는 정책을 수립하고, 지도(map)는 재고를 구축하며, 측정(measure)은 위험을 평가하고, 관리(manage)는 시행 및 시정 조치를 담당합니다.

인벤토리 관리는 대부분의 프레임워크에서 생략되는 기능이며, 가장 먼저 오류가 발생하는 기능이기도 합니다. 존재조차 모르는 AI 자산에 대해서는 관리, 측정, 정책 시행이 불가능합니다. 섀도우 AI는 보안 문제라기보다는 거버넌스 실패입니다.

Standard그들은 당신에게 어휘를 제공할 뿐, 도구를 제공하지 않습니다. An AI 거버넌스 프레임워크 NIST AI RMF, ISO/IEC 42001 및 EU AI 법을 기반으로 구축된 이 표준은 프로그램이 입증해야 할 사항에 대한 용어를 제공합니다. 하지만 이러한 표준들은 목록, 증거 또는 집행 방법을 제공하지 않으며, 이는 조직이 여전히 구축해야 하는 부분입니다.

오늘날 기업들이 내놓을 수 있는 대부분의 "AI 거버넌스"는 문서 한 장에 불과합니다. 원칙 목록, 승인된 도구 목록, 책임 있는 사용에 대한 단락, 법무팀의 서명, 그리고 아무도 두 번 읽지 않는 어딘가에 보관된 문서 말입니다. 이는 "우리가 무엇을 한다고 말하는가"라는 질문에는 답하지만, 감사나 사고 발생 시 실제로 중요한 질문, 즉 현재 어떤 AI가 실행되고 있는지, 누가 승인했는지, 그리고 어떻게 알 수 있는지에 대한 질문에는 답하지 못합니다. 정책과 증거 사이의 이러한 간극이 대부분의 AI 거버넌스 노력이 조용히 실패하는 지점입니다. 진정한 AI 거버넌스는 바로 이러한 간극에서 비롯됩니다. AI 거버넌스 프레임워크 그것을 닫는 구조입니다.

정책 문서만으로는 효과가 없는 이유

책임감 있는 AI 정책은 필수적이지만, 그것만으로는 충분하지 않습니다. 그 이유는 더 나은 정책을 만드는 문제가 아니라 구조적인 문제입니다.

정책은 의도를 명시합니다. 개발자는 승인된 AI 코딩 도구를 사용해야 하고, 개인 데이터를 처리하는 모델은 개인정보 보호 검토를 거쳐야 하며, AI가 생성한 코드는 사람이 작성한 코드와 동일한 수준의 검토를 받아야 한다고 명시합니다. 하지만 이러한 정책은 요청 시 세 가지 질문에 답할 수 있는 기반이 없으면 강제할 수 없습니다.

실제로 어떤 AI가 사용되고 있나요? 승인된 내용이 아니라 실제로 실행 중인 내용, 즉 어떤 모델, 어떤 에이전트, 어떤 MCP 서버, 어떤 AI 코딩 도우미가 어떤 저장소에 있고 무엇에 연결되어 있는지에 대한 것입니다.
현실이 정책과 일치하는가? 스크립트에서 조용히 호출되는 승인되지 않은 모델, 설정 파일에 저장된 개발자의 개인 API 키, 아무도 검토하지 않은 MCP 서버 등은 문서 자체만으로는 감지할 수 없는 정책 위반 사항입니다.
주장만 하지 말고, 증명할 수 있습니까? 감사자, 규제 기관 또는 고객의 보안 질문서에서 증거를 요구할 때, "정책이 있습니다"는 증거가 될 수 없습니다. 날짜가 기재된 재고 목록, 서명된 AI 자재 명세서, 그리고 매핑된 통제 체계가 증거가 됩니다.

이 세 가지 요소가 없다면, 거버넌스 프로그램은 단순히 가치 선언문에 불과합니다. 하지만 이 세 가지 요소가 있다면, 그것은 감사 가능한 시스템이 됩니다.

모든 AI 거버넌스 프레임워크에 필요한 네 가지 기능

새로운 구조를 발명하기보다는, 가장 견고한 틀은 이미 안정적이고 널리 인정받는 구조를 차용합니다. NIST AI 위험 관리 프레임워크네 가지 기능을 중심으로 구축되었으며, 이러한 기능은 실용적인 AI 관리 프로그램으로 명확하게 전환될 수 있습니다.

함수	실제로	일반적인 실패 지점
정부	정책, 역할 및 책임: 누가 AI 사용 사례를 승인하고, 누가 위험을 부담하며, "허용 가능한 사용"이란 실제로 무엇을 의미하는가?	한 번 작성되었지만, 그 이후로 누구도 매일 따르는 프로세스로 실행된 적이 없습니다.
지도	실제 사용 중인 모든 AI 자산(모델, 데이터셋, 에이전트, MCP 서버, AI 코딩 도구)의 실시간 목록입니다.	설문조사를 바탕으로 한 번 만들어졌지만 한 달 만에 쓸모없어졌고, 아무도 직접 보고하지 않은 모든 정보가 누락되었습니다.
캠페인 측정	각 자산에 대한 위험 평가: 즉시 주입 노출, 데이터 처리, 모델 출처, 구성 취약점	인수 시 평가되며, 자산 또는 구성이 변경되더라도 재평가되지 않습니다.
관리	Measure 보고서의 결과에 따른 조치: 시정 조치, 집행 및 감사관과 규제 기관을 위한 증거 생성	조사 결과들이 담당자도 마감일도 없는 스프레드시트에 쌓여간다.

Shadow AI가 기존 체계를 무너뜨리는 지점

섀도우 AI, 보안이나 거버넌스 체계에서 감지되지 않은 채 실행되는 모델, 에이전트, AI 코딩 도구는 결코 부차적인 문제가 아닙니다. 이는 Map 기능이 실패하는 가장 흔한 원인이며, Map 기능이 실패하면 전체 프레임워크가 함께 실패합니다. 개발자가 승인되지 않은 모델을 스크립트에 연결하거나, 문제를 신속하게 해결한다는 이유로 MCP 서버를 프로젝트에 추가하거나, 무료라는 이유로 AI 코딩 도우미를 설치하는 경우가 있습니다. 이러한 행위는 설문 조사에 나타나지 않으며, 자체 보고에 의존하는 거버넌스 프레임워크는 항상 실제 발생 건수를 과소평가할 수밖에 없습니다.

해결책은 사람들이 더 나은 정보를 직접 보고하도록 요구하는 더 엄격한 정책이 아닙니다. 진정한 해결책은 누군가가 무엇을 보고해야 하는지 기억하는 것에 의존하지 않고, AI 도구가 코드, 설정, 종속성에 실제로 남기는 정보를 기반으로 구축되는 발견 방식입니다.

이것을 실제로 만드는 방법 (순서대로)

이 네 가지 기능은 프레임워크에 필요한 요소를 설명합니다. 이는 아무것도 없는 상태에서 시작하거나, 기본 구조가 없는 정책 문서에서 시작할 때 실제로 효과적인 순서입니다.

정책이 아닌 발견부터 시작하세요.

AI가 실제로 무엇을 실행하는지 알기 전에 정책을 작성하는 것은 보유하지 않은 목록에 대한 규칙을 작성하는 것과 같습니다. 먼저 탐색 작업을 수행하세요. 비록 대략적인 첫 시도일지라도, 그래야만 이후의 정책이 추측이 아닌 현실에 기반하여 작성될 수 있습니다.

찾은 내용을 실제 위험도에 따라 분류하세요.

모든 모델이나 에이전트에 동일한 수준의 검토가 필요한 것은 아닙니다. 민감한 데이터에 접근하는 항목, 고객 대면 항목, 그리고 아직 실험 단계에 있는 항목으로 인벤토리를 분류하면, Measure가 획일적이고 구분되지 않은 목록 대신 시작점을 찾을 수 있습니다.

실제로 가지고 있는 것에 맞춰 정책을 작성하세요.

이제 정부는 추측이 아닌 구체적인 대응 방안을 갖게 되었습니다. 발견 이후 작성된 정책은 실제로 사용되는 AI의 범주를 명시하고, 누구도 현실과 비교하여 검증할 수 없는 일반적인 원칙이 아닌, 해당 범주에 부합하는 규칙을 설정합니다.

첫 번째 문제가 발생하기 전에 관리자 권한을 부여하세요.

담당자가 지정되지 않은 문제는 스프레드시트에 무기한으로 남아 있게 됩니다. Measure에서 첫 번째 결과가 나오기 전에, 즉 업무 적체가 시작된 후에 결정하지 말고, 누가 문제를 해결하고, 누가 위험을 감수하고, 누가 증거를 승인할지 결정해야 합니다.

일회성 이벤트가 아닌 정기적인 검토 주기를 설정하세요.

새로운 모델이나 에이전트가 등장하는 순간, 발견, 분류, 위험 평가 기능은 모두 그 효력을 잃게 됩니다. 따라서 처음부터 각 기능에 대해 정기적인 평가 주기를 설정하여, 조직의 AI 현황을 마지막 감사 시점이 아닌 현재 시점에서 정확하게 파악할 수 있도록 해야 합니다.

뭐 Standard실제로 당신에게 주는 것과 주지 않는 것

현재 인공지능 거버넌스의 용어는 몇 가지 프레임워크와 규정으로 정의되어 있습니다. 하지만 이러한 프레임워크와 규정들은 구체적인 도구를 제공하지는 않습니다. 프로그램이 무엇을 입증해야 하는지 정의할 뿐, 이를 입증하는 데 필요한 기본 시스템을 어떻게 구축해야 하는지는 제시하지 않습니다.

뼈대	그것의 실제 본질은 무엇일까요?	Status
NIST AI RMF	자발적 위험 관리 프레임워크(거버넌스, 매핑, 측정, 관리)와 생성형 AI 프로필. 자격증이 아닌 용어집입니다.	게시됨, 안정적
ISO / IEC 42001는	첫 번째 국제 standard AI 관리 시스템용. NIST 프레임워크와 달리 인증 가능합니다.	2023년 발간, 활발한 인증 시장
OWASP LLM 상위 10	커뮤니티 구성원들이 함께 만든 LLM 지원 시 가장 중요한 위험 요소 목록입니다. 인증서가 아닙니다.	게시됨, 안정적, 커뮤니티에서 유지 관리됨
EU AI 법	고위험 인공지능 시스템에 대한 구속력 있는 법률로서, 제11조 및 부록 IV에 따라 기술 문서화 및 위험 관리를 의무화합니다.	시행 중이며, 디지털 옴니버스 법안에 따라 고위험 의무는 2027년 12월(부록 III) 및 2028년 8월(부록 I)로 연기되었습니다.

EU 인공지능법과 관련해서, 마감일이 자주 잘못 인용되는 점을 고려하여 특별히 언급합니다. 2026년 7월 27일부터 시행되는 디지털 옴니버스고위험 의무의 대부분은 2027년 12월과 2028년 8월로 연기되었습니다. 제50조 투명성 의무는 2026년 8월부터 유효합니다. 지금부터 나중 기한을 대비하는 것은 여전히 올바른 방향입니다. AI 기반 인벤토리와 그 근거 자료를 구축하는 데는 시간이 걸리기 때문입니다. 하지만 시간이 이미 다 되었다고 단정 지을 수는 없습니다.

AI 거버넌스 도구 및 소프트웨어가 실제로 해야 할 일은 무엇인가?

"AI 거버넌스 소프트웨어"라는 용어는 정책 관리 위키부터 완벽한 위험 관리 플랫폼까지 모든 것을 포괄하는 데 사용됩니다. 어떤 소프트웨어를 평가하든 다음 네 가지 조건을 충족해야 합니다. 그렇지 않으면 제대로 된 거버넌스가 아니라 단순히 의도를 문서화하는 것에 불과합니다.

자기 보고에 의존하지 않고 발견하세요. AI 자산이 인벤토리에 추가되는 유일한 방법이 누군가가 양식을 작성하는 것이라면, 그 인벤토리는 본질적으로 잘못된 것입니다. 코드, 구성 및 종속성을 통한 발견은 설문 조사에서 놓치는 부분을 찾아낼 수 있습니다.
기계 판독이 가능한 AI-BOM을 생성합니다. AI 자재 명세서를 실제 형식으로 나타낸 것, 예를 들어 CycloneDX의 ML-BOM 또는 SPDX 3.0 AI 프로파일은 감사자가 실제로 입력하고 검증할 수 있는 데이터이며, 특정 상황을 위해 내보낸 스프레드시트가 아닙니다.
결과를 명명된 프레임워크에 매핑합니다. 위험 분석 결과는 다음을 참조합니다. OWASP LLM 상위 10 NIST AI RMF와 같은 검증 가능한 프레임워크를 활용하세요. 하지만 근거 프레임워크가 없는 모호한 "위험 점수"는 검증할 수 없습니다.
특정 시점에 얽매이지 말고, 최신 트렌드를 따라가세요. 지난 감사 주기에서 작성된 재고 목록이나 위험 평가는 새로운 모델이 추가되는 순간 이미 구식이 되어버립니다. 거버넌스는 지속적이어야 하며, 그렇지 않으면 타임스탬프만 찍힌 보여주기식 행사에 불과합니다.

인공지능 거버넌스 프레임워크 구축: 실용적인 구조

꼭 읽어야 할 게시글

TL; DR

정책 문서만으로는 효과가 없는 이유

모든 AI 거버넌스 프레임워크에 필요한 네 가지 기능

Shadow AI가 기존 체계를 무너뜨리는 지점

이것을 실제로 만드는 방법 (순서대로)

뭐 Standard실제로 당신에게 주는 것과 주지 않는 것

AI 거버넌스 도구 및 소프트웨어가 실제로 해야 할 일은 무엇인가?

거버넌스 체계를 약화시키는 일반적인 실수

정책에서 증거로

FAQ: AI 거버넌스 프레임워크 구축

소프트웨어 개발 및 제공을 안전하게 보호하세요

Xygeni 제품군과 함께