Remodeler le paysage de la sécurité de l'IA et de la cybersécurité
La Maison Blanche a récemment publié un décret sur le développement et l’utilisation sûrs, sécurisés et fiables de l’intelligence artificielle (IA). Ce décret ouvre la voie à un avenir dans lequel l’IA sera un puissant moteur d’innovation, tout en garantissant qu’elle reste sûre, sécurisée et digne de confiance. Bien que l’ordonnance couvre divers aspects de l’IA, nous nous concentrerons sur les mesures qui promettent de transformer le paysage de la sécurité et de la cybersécurité de l’IA.
Table des Matières
Partager les résultats des tests de sécurité avec le gouvernement américain
L’une des mesures les plus audacieuses prises est l’obligation pour les développeurs des systèmes d’IA les plus puissants de partager leurs résultats de tests de sécurité et leurs informations critiques avec le gouvernement américain. Ce mandat est particulièrement axé sur les modèles d’IA qui pourraient présenter un risque important pour la sécurité nationale, la sécurité économique nationale ou la santé et la sécurité publiques nationales. Conformément à la loi sur la production de défense, les entreprises doivent informer le gouvernement fédéral lors de la formation de ces modèles et partager les résultats de tous les tests de sécurité de l'équipe rouge.
L’objectif est de garantir que les systèmes d’IA sont sûrs, sécurisés et dignes de confiance avant d’être rendus publics. Cette mesure crée un puissant précédent en matière de transparence et de responsabilité dans le développement de l’IA, renforçant la nécessité de tests et d’évaluations rigoureux dans l’écosystème de l’IA.
Développer une rigueur Standards et outils pour la sécurité de l'IA
Pour compléter le partage des résultats des tests de sécurité, le décret met fortement l'accent sur le développement de procédures rigoureuses. standards, outils et tests pour garantir la sûreté, la sécurité et la fiabilité des systèmes d'IA. L'Institut national de Standards and Technology (NIST) est chargé de définir ces normes de haut niveau standards.
Les tests en équipe rouge, composante essentielle du cadre de sécurité de l'IA, joueront un rôle crucial pour garantir la sécurité des systèmes d'IA avant leur mise à disposition du public. Ces tests rigoureux sont essentiels, notamment dans les secteurs des infrastructures critiques, où l'IA est de plus en plus utilisée. Le Département de la Sécurité intérieure appliquera ces tests. standards et également créer le Conseil de sécurité et de sûreté de l'IA.
Cet effort combiné représente les mesures les plus importantes jamais prises par un gouvernement pour faire progresser le domaine de la sécurité de l’IA. Il souligne le commitment à créer des systèmes d’IA qui sont non seulement innovants, mais également sûrs et sécurisés, garantissant ainsi la confiance du public dans les technologies d’IA.
Faire progresser la cybersécurité grâce à l'IA
La cybersécurité est une préoccupation majeure à l’ère de l’IA, où les vulnérabilités des logiciels et des réseaux peuvent avoir des conséquences considérables. Le décret établit un programme avancé de cybersécurité visant à développer des outils d’IA spécifiquement conçus pour identifier et corriger les vulnérabilités des logiciels critiques.
Cette initiative s'appuie sur l'AI Cyber Challenge en cours par l'administration Biden-Harris, exploitant davantage le potentiel de l'IA dans le domaine de la cybersécurité. En tirant parti des capacités révolutionnaires de l’IA, le programme cherche à renforcer les logiciels et les réseaux, les rendant ainsi plus sécurisés face à l’évolution des cybermenaces.
En plus de ces actions spécifiques, le décret appelle également à une stratégie globale pour promouvoir l’innovation responsable en matière d’IA, comprenant :
- Protéger la vie privée des Américains. Le président appelle le Congrès à adopter une législation bipartite sur la confidentialité des données et ordonne au gouvernement fédéral de donner la priorité au soutien aux techniques de préservation de la vie privée.
- Faire progresser l’équité et les droits civiques. Le président demande au gouvernement fédéral de fournir des directives claires aux propriétaires, aux programmes de prestations fédérales et aux entrepreneurs fédéraux afin d'empêcher que les algorithmes d'IA ne soient utilisés pour exacerber la discrimination. Il demande également au ministère de la Justice et à d’autres bureaux fédéraux des droits civiques de travailler ensemble pour lutter contre la discrimination algorithmique.
- Défendre les consommateurs, les patients et les étudiants. Le président demande au gouvernement fédéral de faire progresser l’utilisation responsable de l’IA dans les soins de santé et l’éducation. Il charge également le ministère de la Santé et des Services sociaux d'établir un programme de sécurité pour recevoir des rapports et agir pour remédier aux préjudices ou aux pratiques de soins de santé dangereuses impliquant l'IA.
- Soutenir les travailleurs. Le président demande au gouvernement fédéral d’élaborer des principes et des pratiques exemplaires pour atténuer les méfaits et maximiser les avantages de l’IA pour les travailleurs. Il demande également au gouvernement fédéral de produire un rapport sur les impacts potentiels de l'IA sur le marché du travail et d'étudier et d'identifier des options pour renforcer le soutien fédéral aux travailleurs confrontés à des interruptions de travail, y compris de la part d'IA.
- Promouvoir l'innovation et la concurrence. Le président demande au gouvernement fédéral de catalyser la recherche sur l’IA aux États-Unis et de promouvoir un écosystème d’IA juste, ouvert et compétitif.
Dans l’ensemble, le décret sur l’intelligence artificielle sûre, sécurisée et digne de confiance constitue une avancée significative pour relever les défis et les risques de l’IA. Les actions spécifiques et la stratégie globale décrites dans l’ordonnance contribueront à garantir que l’IA soit développée et utilisée de manière responsable, sûre et sécurisée.
Pour le texte complet du décret et ses implications détaillées, vous pouvez lire ici.
