Remodelando el panorama de la seguridad y la ciberseguridad de la IA
La Casa Blanca ha publicado recientemente una Orden Ejecutiva sobre el desarrollo y uso seguro y confiable de la inteligencia artificial (IA). Esta Orden Ejecutiva sienta las bases para un futuro en el que la IA sea un poderoso impulsor de la innovación y, al mismo tiempo, garantice que siga siendo segura y confiable. Si bien la orden cubre varios aspectos de la IA, nos centraremos en las medidas que prometen transformar el panorama de la seguridad y la ciberseguridad de la IA.
Índice
Compartir los resultados de las pruebas de seguridad con el gobierno de EE. UU.
Una de las medidas más audaces adoptadas es el requisito de que los desarrolladores de los sistemas de inteligencia artificial más potentes compartan los resultados de sus pruebas de seguridad e información crítica con el gobierno de EE. UU. Este mandato se centra particularmente en modelos de IA que podrían representar un riesgo significativo para la seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas nacionales. De acuerdo con la Ley de Producción de Defensa, las empresas deben notificar al gobierno federal cuando entrenen estos modelos y compartir los resultados de todas las pruebas de seguridad del equipo rojo.
El objetivo es garantizar que los sistemas de IA sean seguros y confiables antes de que se hagan públicos. Esta medida sienta un poderoso precedente para la transparencia y la rendición de cuentas en el desarrollo de la IA, lo que refuerza la necesidad de pruebas y evaluaciones rigurosas en el ecosistema de la IA.
Desarrollo riguroso Standards y herramientas para la seguridad de la IA
Para complementar el intercambio de resultados de pruebas de seguridad, la Orden Ejecutiva pone un fuerte énfasis en el desarrollo de rigurosos standards, herramientas y pruebas para garantizar la seguridad, protección y confiabilidad de los sistemas de IA. El Instituto Nacional de StandardEl Instituto Nacional de Estándares y Tecnología (NIST) tiene la tarea de establecer estos altos estándares. standards.
Las pruebas de equipo rojo, un componente esencial del marco de seguridad de la IA, desempeñarán un papel fundamental para garantizar la seguridad de los sistemas de IA antes de su lanzamiento al público. Estas rigurosas pruebas son esenciales, especialmente en sectores de infraestructura crítica, donde la IA se utiliza cada vez más. El Departamento de Seguridad Nacional aplicará estas pruebas. standards y también establecer la Junta de Seguridad y Protección de IA.
Este esfuerzo combinado representa las acciones más importantes jamás tomadas por cualquier gobierno para avanzar en el campo de la seguridad de la IA. Subraya la commitobjetivo de crear sistemas de IA que no solo sean innovadores, sino también seguros, garantizando así la confianza del público en las tecnologías de IA.
Avanzando en la ciberseguridad con IA
La ciberseguridad es una preocupación crítica en la era de la IA, donde las vulnerabilidades en el software y las redes pueden tener consecuencias de gran alcance. La Orden Ejecutiva establece un programa avanzado de ciberseguridad destinado a desarrollar herramientas de inteligencia artificial diseñadas específicamente para identificar y rectificar vulnerabilidades en software crítico.
Esta iniciativa se basa en el actual AI Cyber Challenge de la Administración Biden-Harris, aprovechando aún más el potencial de la IA en el campo de la ciberseguridad. Al aprovechar las capacidades innovadoras de la IA, el programa busca fortalecer el software y las redes, haciéndolos más seguros frente a las amenazas cibernéticas en evolución.
Además de estas acciones específicas, la Orden Ejecutiva también exige una estrategia integral para promover la innovación responsable en IA, que incluya:
- Proteger la privacidad de los estadounidenses. El Presidente pide al Congreso que apruebe una legislación bipartidista sobre privacidad de datos y ordena al gobierno federal que dé prioridad al apoyo a las técnicas de preservación de la privacidad.
- Promoción de la equidad y los derechos civiles. El Presidente ordena al gobierno federal que brinde orientación clara a los propietarios, los programas de beneficios federales y los contratistas federales para evitar que los algoritmos de inteligencia artificial se utilicen para exacerbar la discriminación. También ordena al Departamento de Justicia y otras oficinas federales de derechos civiles que trabajen juntos para abordar la discriminación algorítmica.
- Defender a los consumidores, pacientes y estudiantes. El presidente ordena al gobierno federal que avance en el uso responsable de la IA en la atención médica y la educación. También ordena al Departamento de Salud y Servicios Humanos que establezca un programa de seguridad para recibir informes y actuar para remediar daños o prácticas de atención médica inseguras que involucren IA.
- Apoyando a los trabajadores. El Presidente ordena al gobierno federal que desarrolle principios y mejores prácticas para mitigar los daños y maximizar los beneficios de la IA para los trabajadores. También ordena al gobierno federal que produzca un informe sobre los posibles impactos de la IA en el mercado laboral y que estudie e identifique opciones para fortalecer el apoyo federal a los trabajadores que enfrentan interrupciones laborales, incluidas las provocadas por la IA.
- Fomento de la innovación y la competencia. El Presidente ordena al gobierno federal que catalice la investigación de IA en todo Estados Unidos y promueva un ecosistema de IA justo, abierto y competitivo.
En general, la Orden Ejecutiva sobre Inteligencia Artificial Segura y Confiable es un importante paso adelante para abordar los desafíos y riesgos de la IA. Las acciones específicas y la estrategia integral descritas en la orden ayudarán a garantizar que la IA se desarrolle y utilice de manera responsable y segura.
Para obtener el texto completo de la Orden Ejecutiva y sus implicaciones detalladas, puede léalo aquí.
