Remodelando o cenário da segurança da IA e da cibersegurança
A Casa Branca publicou recentemente uma Ordem Executiva sobre o Desenvolvimento e Uso Seguro, Protegido e Confiável da Inteligência Artificial (IA). Esta Ordem Executiva prepara o cenário para um futuro em que a IA é um poderoso impulsionador da inovação, ao mesmo tempo em que garante que ela permaneça segura, protegida e confiável. Embora a ordem cubra vários aspectos da IA, vamos nos concentrar nas medidas que prometem transformar o cenário da segurança da IA e da cibersegurança.
Conteúdo
Compartilhando resultados de testes de segurança com o governo dos EUA
Uma das medidas mais ousadas tomadas é a exigência de que os desenvolvedores dos sistemas de IA mais poderosos compartilhem seus resultados de testes de segurança e informações críticas com o governo dos EUA. Este mandato é particularmente focado em modelos de IA que podem representar um risco significativo para a segurança nacional, segurança econômica nacional ou saúde e segurança pública nacional. De acordo com o Defense Production Act, as empresas devem notificar o governo federal ao treinar esses modelos e compartilhar os resultados de todos os testes de segurança da equipe vermelha.
O objetivo é garantir que os sistemas de IA sejam seguros, protegidos e confiáveis antes de serem tornados públicos. Esta medida estabelece um precedente poderoso para transparência e responsabilidade no desenvolvimento de IA, reforçando a necessidade de testes e avaliações rigorosos no ecossistema de IA.
Desenvolvendo Rigoroso Standards e ferramentas para segurança de IA
Para complementar a partilha dos resultados dos testes de segurança, a Ordem Executiva coloca uma forte ênfase no desenvolvimento de rigorosos standards, ferramentas e testes para garantir a segurança e a confiabilidade dos sistemas de IA. O Instituto Nacional de Standards and Technology (NIST) é incumbido da tarefa de definir esses altos standards.
Os testes de equipe vermelha, um componente essencial da estrutura de segurança da IA, desempenharão um papel fundamental para garantir a segurança dos sistemas de IA antes de serem disponibilizados ao público. Esses testes rigorosos são essenciais, especialmente em setores de infraestrutura crítica, onde a IA é cada vez mais utilizada. O Departamento de Segurança Interna aplicará essas medidas. standards e também estabelecer o Conselho de Segurança da IA.
Este esforço combinado representa as ações mais significativas já tomadas por qualquer governo para avançar o campo da segurança da IA. Ele ressalta a commitmento para criar sistemas de IA que não sejam apenas inovadores, mas também seguros e protegidos, garantindo assim a confiança do público nas tecnologias de IA.
Avançando a segurança cibernética com IA
A segurança cibernética é uma preocupação crítica na era da IA, onde vulnerabilidades em software e redes podem ter consequências de longo alcance. A Ordem Executiva estabelece um programa avançado de segurança cibernética voltado para o desenvolvimento de ferramentas de IA projetadas especificamente para identificar e retificar vulnerabilidades em software crítico.
Esta iniciativa se baseia no AI Cyber Challenge em andamento pela Administração Biden-Harris, aproveitando ainda mais o potencial da IA no campo da segurança cibernética. Ao alavancar os recursos de mudança de jogo da IA, o programa busca fortalecer softwares e redes, tornando-os mais seguros diante das ameaças cibernéticas em evolução.
Além dessas ações específicas, a Ordem Executiva também exige uma estratégia abrangente para promover a inovação responsável da IA, incluindo:
- Protegendo a privacidade dos americanos. O presidente pede ao Congresso que aprove uma legislação bipartidária de privacidade de dados e direciona o governo federal a priorizar o suporte para técnicas de preservação de privacidade.
- Promovendo a equidade e os direitos civis. O Presidente orienta o governo federal a fornecer orientação clara aos proprietários, programas de benefícios federais e contratantes federais para impedir que algoritmos de IA sejam usados para exacerbar a discriminação. Ele também orienta o Departamento de Justiça e outros escritórios federais de direitos civis a trabalharem juntos para abordar a discriminação algorítmica.
- Defendendo consumidores, pacientes e estudantes. O Presidente orienta o governo federal a promover o uso responsável de IA em saúde e educação. Ele também orienta o Departamento de Saúde e Serviços Humanos a estabelecer um programa de segurança para receber relatórios e agir para remediar danos ou práticas de saúde inseguras envolvendo IA.
- Apoiando trabalhadores. O Presidente orienta o governo federal a desenvolver princípios e melhores práticas para mitigar os danos e maximizar os benefícios da IA para os trabalhadores. Ele também orienta o governo federal a produzir um relatório sobre os potenciais impactos da IA no mercado de trabalho e estudar e identificar opções para fortalecer o apoio federal aos trabalhadores que enfrentam interrupções trabalhistas, incluindo da IA.
- Promovendo inovação e competição. O Presidente direciona o governo federal a catalisar a pesquisa de IA nos Estados Unidos e promover um ecossistema de IA justo, aberto e competitivo.
No geral, a Ordem Executiva sobre Inteligência Artificial Segura, Protegida e Confiável é um passo significativo para abordar os desafios e riscos da IA. As ações específicas e a estratégia abrangente delineadas na ordem ajudarão a garantir que a IA seja desenvolvida e usada de forma responsável, segura e protegida.
Para o texto completo da Ordem Executiva e suas implicações detalhadas, você pode lê-lo aqui.
