인공지능 안전 및 사이버보안의 지형을 재편하다
백악관은 최근 인공지능(AI)의 안전하고, 보안이 유지되며, 신뢰할 수 있는 개발 및 사용에 관한 행정명령을 발표했습니다. 이 행정명령은 AI가 혁신의 강력한 동력이 되는 동시에 안전하고, 보안이 유지되며, 신뢰할 수 있는 기술로 자리매김할 수 있는 미래를 위한 토대를 마련합니다. 이 행정명령은 AI의 다양한 측면을 다루고 있지만, 특히 AI 안전 및 사이버 보안 분야를 획기적으로 변화시킬 것으로 기대되는 조치들에 초점을 맞추겠습니다.
차례
안전성 테스트 결과를 미국 정부와 공유합니다
가장 과감한 조치 중 하나는 가장 강력한 AI 시스템 개발업체들이 안전성 테스트 결과와 핵심 정보를 미국 정부와 공유하도록 요구하는 것입니다. 이 의무 사항은 특히 국가 안보, 국가 경제 안보 또는 국가 공중 보건 및 안전에 중대한 위험을 초래할 수 있는 AI 모델에 초점을 맞추고 있습니다. 국방생산법에 따라 기업들은 이러한 모델을 훈련시킬 때 연방 정부에 통보하고 모든 레드팀 안전성 테스트 결과를 공유해야 합니다.
목표는 AI 시스템이 공개되기 전에 안전하고, 보안이 강화되었으며, 신뢰할 수 있는지 확인하는 것입니다. 이 조치는 AI 개발의 투명성과 책임성을 위한 강력한 선례를 만들고, AI 생태계에서 엄격한 테스트와 평가의 필요성을 강조합니다.
엄격한 개발 StandardAI 안전을 위한 도구 및 솔루션
안전성 시험 결과 공유를 보완하기 위해, 행정명령은 엄격한 안전성 검증 절차 개발을 강력히 강조합니다. standard인공지능 시스템의 안전성, 보안성 및 신뢰성을 보장하기 위한 시스템, 도구 및 테스트. 국립연구소 Standard미국 국립표준기술연구소(NIST)는 이러한 높은 기준을 설정하는 임무를 맡고 있습니다. standards.
AI 안전 프레임워크의 필수 구성 요소인 레드팀 테스트는 AI 시스템이 대중에게 공개되기 전에 안전성을 확보하는 데 중추적인 역할을 할 것입니다. 이러한 엄격한 테스트는 특히 AI 사용이 증가하고 있는 중요 인프라 부문에서 필수적입니다. 국토안보부는 이러한 테스트를 적용할 것입니다. standard또한 인공지능 안전보안위원회를 설립해야 합니다.
이러한 공동의 노력은 인공지능 안전 분야를 발전시키기 위해 정부가 취한 조치 중 가장 중요한 의미를 지닙니다. 이는 다음과 같은 점을 강조합니다. commit혁신적일 뿐만 아니라 안전하고 보안이 철저한 AI 시스템을 구축하여 AI 기술에 대한 대중의 신뢰와 확신을 확보하는 것을 목표로 합니다.
AI를 활용한 사이버 보안 강화
인공지능 시대에 사이버 보안은 매우 중요한 문제입니다. 소프트웨어와 네트워크의 취약점은 광범위한 결과를 초래할 수 있기 때문입니다. 이번 행정명령은 핵심 소프트웨어의 취약점을 식별하고 수정하도록 특별히 설계된 인공지능 도구를 개발하는 것을 목표로 하는 첨단 사이버 보안 프로그램을 수립합니다.
이 계획은 바이든-해리스 행정부가 추진 중인 AI 사이버 챌린지를 기반으로 하며, 사이버 보안 분야에서 AI의 잠재력을 더욱 활용하는 것을 목표로 합니다. AI의 혁신적인 기능을 활용하여 소프트웨어와 네트워크를 강화하고, 진화하는 사이버 위협에 더욱 안전하게 대응할 수 있도록 지원합니다.
이러한 구체적인 조치 외에도, 행정명령은 책임감 있는 AI 혁신을 촉진하기 위한 포괄적인 전략을 요구하고 있으며, 여기에는 다음 사항들이 포함됩니다.
- 미국 국민의 개인정보 보호. 대통령은 의회에 초당적인 데이터 개인정보 보호 법안 통과를 촉구하고, 연방 정부에 개인정보 보호 기술 지원을 우선시하도록 지시합니다.
- 평등과 시민권 증진. 대통령은 연방 정부가 임대인, 연방 복지 프로그램 및 연방 계약업체에 인공지능 알고리즘이 차별을 악화시키는 데 사용되지 않도록 명확한 지침을 제공하도록 지시합니다. 또한 법무부와 기타 연방 시민권 관련 기관이 협력하여 알고리즘 차별 문제를 해결하도록 지시합니다.
- 소비자, 환자, 그리고 학생들을 위해 목소리를 높입니다. 대통령은 연방 정부에 의료 및 교육 분야에서 인공지능(AI)의 책임 있는 사용을 증진하도록 지시합니다. 또한 보건복지부에 AI 관련 피해 또는 안전하지 않은 의료 행위에 대한 보고를 접수하고 시정 조치를 취하는 안전 프로그램을 수립하도록 지시합니다.
- 노동자 지원. 대통령은 연방 정부가 인공지능(AI)이 노동자에게 미치는 해악을 완화하고 이점을 극대화하기 위한 원칙과 모범 사례를 개발하도록 지시한다. 또한, 연방 정부는 AI가 노동 시장에 미칠 수 있는 잠재적 영향에 대한 보고서를 작성하고, AI를 포함한 노동 시장 혼란에 직면한 노동자들을 위한 연방 정부의 지원을 강화할 수 있는 방안을 연구하고 모색하도록 지시한다.
- 혁신과 경쟁 촉진. 대통령은 연방 정부에 미국 전역의 인공지능 연구를 활성화하고 공정하고 개방적이며 경쟁적인 인공지능 생태계를 조성하도록 지시한다.
전반적으로, 안전하고 신뢰할 수 있는 인공지능에 관한 행정명령은 인공지능이 직면한 과제와 위험을 해결하는 데 있어 중요한 진전입니다. 이 명령에 명시된 구체적인 조치와 포괄적인 전략은 인공지능이 책임감 있고 안전하며 보안이 유지된 방식으로 개발되고 사용되도록 보장하는 데 도움이 될 것입니다.
행정명령 전문과 자세한 내용은 다음을 참조하십시오. 여기를 읽어.
