Het landschap van AI-veiligheid en cyberbeveiliging opnieuw vormgeven
Het Witte Huis heeft onlangs een uitvoerend bevel gepubliceerd over de veilige, beveiligde en betrouwbare ontwikkeling en het gebruik van kunstmatige intelligentie (AI). Dit uitvoerend bevel legt de basis voor een toekomst waarin AI een krachtige motor van innovatie is en tegelijkertijd zorgt voor veiligheid, beveiliging en betrouwbaarheid. Hoewel het bevel verschillende aspecten van AI behandelt, zullen we ons concentreren op de maatregelen die het landschap van AI-veiligheid en cybersecurity zullen transformeren.
Inhoudsopgave
Het delen van veiligheidstestresultaten met de Amerikaanse overheid
Een van de meest gedurfde stappen is de verplichting voor ontwikkelaars van de krachtigste AI-systemen om hun veiligheidstestresultaten en cruciale informatie te delen met de Amerikaanse overheid. Deze verplichting is met name gericht op AI-modellen die een aanzienlijk risico kunnen vormen voor de nationale veiligheid, de nationale economische veiligheid of de nationale volksgezondheid en -veiligheid. Volgens de Defense Production Act moeten bedrijven de federale overheid op de hoogte stellen wanneer ze deze modellen trainen en de resultaten van alle red-team veiligheidstests delen.
Het doel is om ervoor te zorgen dat AI-systemen veilig, beveiligd en betrouwbaar zijn voordat ze openbaar worden gemaakt. Deze maatregel schept een krachtig precedent voor transparantie en verantwoording in AI-ontwikkeling en onderstreept de noodzaak van grondige tests en evaluaties binnen het AI-ecosysteem.
Ontwikkelen van rigoureuze Standards en hulpmiddelen voor AI-veiligheid
Om de uitwisseling van de resultaten van veiligheidstests te ondersteunen, legt het Uitvoerend Besluit sterk de nadruk op de ontwikkeling van strenge standards, tools en tests om de veiligheid, beveiliging en betrouwbaarheid van AI-systemen te garanderen. Het National Institute of Standards and Technology (NIST) is belast met de taak om deze hoge standards.
Red-teamtesten, een essentieel onderdeel van het AI-veiligheidskader, zullen een cruciale rol spelen bij het waarborgen van de veiligheid van AI-systemen voordat ze openbaar worden gemaakt. Deze strenge tests zijn essentieel, vooral in sectoren met kritieke infrastructuur, waar AI steeds vaker wordt gebruikt. Het Department of Homeland Security zal deze testen toepassen. standarden richt ook de AI Safety and Security Board op.
Deze gezamenlijke inspanning vertegenwoordigt de belangrijkste actie die ooit door een overheid is ondernomen om de veiligheid van AI te bevorderen. Het onderstreept de commitom AI-systemen te creëren die niet alleen innovatief zijn, maar ook veilig en betrouwbaar, en zo het publieke vertrouwen in AI-technologieën te vergroten.
Cybersecurity bevorderen met AI
Cybersecurity is een cruciaal aandachtspunt in het AI-tijdperk, waar kwetsbaarheden in software en netwerken verstrekkende gevolgen kunnen hebben. Het uitvoeringsbesluit stelt een geavanceerd cybersecurityprogramma in, gericht op de ontwikkeling van AI-tools die specifiek zijn ontworpen om kwetsbaarheden in kritieke software te identificeren en te verhelpen.
Dit initiatief bouwt voort op de lopende AI Cyber Challenge van de regering-Biden-Harris en benut het potentieel van AI op het gebied van cybersecurity verder. Door de baanbrekende mogelijkheden van AI te benutten, streeft het programma ernaar software en netwerken te versterken en veiliger te maken in het licht van veranderende cyberdreigingen.
Naast deze specifieke acties roept het uitvoerend besluit ook op tot een alomvattende strategie om verantwoorde AI-innovatie te bevorderen, waaronder:
- Bescherming van de privacy van Amerikanen. De president roept het Congres op om tweepartijenwetgeving inzake gegevensbescherming aan te nemen en draagt de federale overheid op prioriteit te geven aan steun voor privacybeschermende technieken.
- Bevordering van gelijkheid en burgerrechten. De president draagt de federale overheid op om duidelijke richtlijnen te geven aan verhuurders, federale uitkeringsprogramma's en federale aannemers om te voorkomen dat AI-algoritmen worden gebruikt om discriminatie te verergeren. Hij draagt ook het ministerie van Justitie en andere federale instanties voor burgerrechten op om samen te werken om algoritmische discriminatie aan te pakken.
- Opkomen voor consumenten, patiënten en studenten. De president draagt de federale overheid op om het verantwoord gebruik van AI in de gezondheidszorg en het onderwijs te bevorderen. Hij draagt het ministerie van Volksgezondheid en Sociale Zaken ook op een veiligheidsprogramma op te zetten om meldingen van schade of onveilige praktijken in de gezondheidszorg waarbij AI betrokken is, te ontvangen en te verhelpen.
- Ondersteuning van werknemers. De president draagt de federale overheid op principes en best practices te ontwikkelen om de schade van AI voor werknemers te beperken en de voordelen ervan te maximaliseren. Hij draagt de federale overheid tevens op een rapport op te stellen over de potentiële impact van AI op de arbeidsmarkt en opties te onderzoeken en te identificeren om de federale steun voor werknemers die te maken hebben met verstoringen op de arbeidsmarkt, waaronder door AI, te versterken.
- Bevorderen van innovatie en concurrentie. De president draagt de federale overheid op om AI-onderzoek in de Verenigde Staten te stimuleren en een eerlijk, open en concurrerend AI-ecosysteem te bevorderen.
Al met al is het uitvoeringsbesluit inzake veilige, beveiligde en betrouwbare kunstmatige intelligentie (AI) een belangrijke stap voorwaarts in het aanpakken van de uitdagingen en risico's van AI. De specifieke acties en de uitgebreide strategie die in het besluit worden beschreven, zullen ertoe bijdragen dat AI op verantwoorde, veilige en beveiligde wijze wordt ontwikkeld en gebruikt.
Voor de volledige tekst van het uitvoerend besluit en de gedetailleerde implicaties ervan kunt u hier te lezen.
