Omforming av landskapet for AI-sikkerhet og cybersikkerhet
Det hvite hus har nylig publisert en presidentordre om trygg, sikker og pålitelig utvikling og bruk av kunstig intelligens (KI). Denne presidentordren legger grunnlaget for en fremtid der KI er en kraftig driver for innovasjon, samtidig som den sikrer at den forblir trygg, sikker og pålitelig. Selv om ordren dekker ulike aspekter ved KI, vil vi fokusere på tiltakene som lover å forandre landskapet for KI-sikkerhet og nettsikkerhet.
Innholdsfortegnelse
Dele resultater av sikkerhetstest med den amerikanske regjeringen
Et av de dristigste tiltakene som er tatt er kravet om at utviklere av de kraftigste AI-systemene skal dele sine sikkerhetstestresultater og kritisk informasjon med den amerikanske regjeringen. Dette mandatet er spesielt fokusert på AI-modeller som kan utgjøre en betydelig risiko for nasjonal sikkerhet, nasjonal økonomisk sikkerhet eller nasjonal folkehelse og -sikkerhet. I samsvar med forsvarsproduksjonsloven må selskaper varsle den føderale regjeringen når de trener disse modellene og dele resultatene av alle sikkerhetstester på «red-team».
Målet er å sikre at AI-systemer er trygge, sikre og pålitelige før de blir offentliggjort. Dette tiltaket setter en sterk presedens for åpenhet og ansvarlighet i AI-utvikling, og forsterker behovet for grundig testing og evaluering i AI-økosystemet.
Utvikler grundig Standardog verktøy for AI-sikkerhet
For å utfylle delingen av sikkerhetstestresultater legger den utøvende ordren stor vekt på utvikling av strenge standards, verktøy og tester for å sikre sikkerheten, tryggheten og påliteligheten til AI-systemer. Det nasjonale instituttet for Standards og teknologi (NIST) er betrodd oppgaven med å sette disse høye standards.
Red-team-testing, en viktig del av rammeverket for KI-sikkerhet, vil spille en sentral rolle i å sikre sikkerheten til KI-systemer før de lanseres for offentligheten. Denne grundige testingen er viktig, spesielt i kritiske infrastruktursektorer, der KI brukes i økende grad. Department of Homeland Security vil anvende disse standards og også opprette KI-sikkerhetsrådet.
Denne samlede innsatsen representerer de viktigste tiltakene som noen gang er tatt av noen regjering for å fremme feltet AI-sikkerhet. Den understreker commitMålet er å skape AI-systemer som ikke bare er innovative, men også trygge og sikre, og dermed sikre offentlig tillit til AI-teknologier.
Fremme cybersikkerhet med AI
Nettsikkerhet er et kritisk problem i AI-ens tidsalder, hvor sårbarheter i programvare og nettverk kan ha vidtrekkende konsekvenser. Forordningen etablerer et avansert nettsikkerhetsprogram som tar sikte på å utvikle AI-verktøy som er spesielt utviklet for å identifisere og rette opp sårbarheter i kritisk programvare.
Dette initiativet bygger på den pågående AI Cyber Challenge fra Biden-Harris-administrasjonen, og utnytter ytterligere AIs potensial innen cybersikkerhet. Ved å utnytte AIs banebrytende evner, søker programmet å styrke programvare og nettverk, og gjøre dem sikrere i møte med utviklende cybertrusler.
I tillegg til disse spesifikke tiltakene, etterlyser presidentordren også en omfattende strategi for å fremme ansvarlig AI-innovasjon, inkludert:
- Beskyttelse av amerikanernes personvern. Presidenten oppfordrer Kongressen til å vedta tverrpolitisk lovgivning om personvern og ber den føderale regjeringen om å prioritere støtte til personvernbevarende teknikker.
- Fremme likestilling og sivile rettigheter. Presidenten instruerer den føderale regjeringen til å gi klar veiledning til utleiere, føderale ytelsesprogrammer og føderale entreprenører for å forhindre at AI-algoritmer brukes til å forverre diskriminering. Han instruerer også justisdepartementet og andre føderale kontorer for sivile rettigheter til å samarbeide for å håndtere algoritmisk diskriminering.
- Står opp for forbrukere, pasienter og studenter. Presidenten instruerer den føderale regjeringen til å fremme ansvarlig bruk av AI i helsevesen og utdanning. Han instruerer også Department of Health and Human Services til å etablere et sikkerhetsprogram for å motta rapporter om og handle for å bøte på skade eller utrygg helsepraksis som involverer AI.
- Støtte til arbeidere. Presidenten instruerer den føderale regjeringen til å utvikle prinsipper og beste praksis for å redusere skadene og maksimere fordelene ved kunstig intelligens for arbeidere. Han instruerer også den føderale regjeringen til å utarbeide en rapport om kunstig intelligens' potensielle arbeidsmarkedspåvirkning og studere og identifisere alternativer for å styrke den føderale støtten til arbeidere som står overfor arbeidsforstyrrelser, inkludert fra kunstig intelligens.
- Fremme innovasjon og konkurranse. Presidenten instruerer den føderale regjeringen til å katalysere AI-forskning over hele USA og fremme et rettferdig, åpent og konkurransedyktig AI-økosystem.
Alt i alt er den utøvende forordningen om trygg, sikker og pålitelig kunstig intelligens et betydelig skritt fremover i å håndtere utfordringene og risikoene knyttet til KI. De spesifikke tiltakene og den omfattende strategien som er skissert i forordningen, vil bidra til å sikre at KI utvikles og brukes ansvarlig, trygt og sikkert.
For å se hele teksten til presidentordren og dens detaljerte implikasjoner, kan du les det her.
