Výkonné nařízení o bezpečné, zabezpečené a důvěryhodné umělé inteligenci

Přetváření prostředí bezpečnosti a kybernetické bezpečnosti v oblasti umělé inteligence

Bílý dům nedávno zveřejnil výkonný příkaz o bezpečném, zabezpečeném a důvěryhodném vývoji a využívání umělé inteligence (AI). Tento výkonný příkaz připravuje půdu pro budoucnost, v níž bude AI silným motorem inovací a zároveň zajistí, aby zůstala bezpečná, zabezpečená a důvěryhodná. Ačkoli se příkaz týká různých aspektů AI, my se zaměříme na opatření, která slibují transformaci prostředí bezpečnosti AI a kybernetické bezpečnosti.

Obsah

Sdílení výsledků bezpečnostních testů s vládou USA

Jedním z nejodvážnějších kroků je požadavek, aby vývojáři nejvýkonnějších systémů umělé inteligence sdíleli výsledky svých bezpečnostních testů a kritické informace s vládou USA. Tento mandát se zaměřuje zejména na modely umělé inteligence, které by mohly představovat významné riziko pro národní bezpečnost, národní ekonomickou bezpečnost nebo veřejné zdraví a bezpečnost. V souladu se zákonem o obranné výrobě (Defense Production Act) musí společnosti informovat federální vládu o trénování těchto modelů a sdílet výsledky všech bezpečnostních testů „červeného týmu“.

Cílem je zajistit, aby systémy umělé inteligence byly bezpečné, zabezpečené a důvěryhodné před jejich zveřejněním. Toto opatření vytváří silný precedens pro transparentnost a odpovědnost ve vývoji umělé inteligence a posiluje potřebu důkladného testování a hodnocení v ekosystému umělé inteligence.

Rozvíjení rigorózní Standarda nástroje pro bezpečnost umělé inteligence

Aby se doplnilo sdílení výsledků bezpečnostních testů, výkonné nařízení klade silný důraz na vývoj přísných standardnástroje a testy k zajištění bezpečnosti, ochrany a důvěryhodnosti systémů umělé inteligence. Národní institut StandardMinisterstvo pro standardy a technologie (NIST) je pověřeno úkolem stanovit tyto vysoké standards.

Testování červeným týmem, základní součást bezpečnostního rámce umělé inteligence, bude hrát klíčovou roli v zajištění bezpečnosti systémů umělé inteligence před jejich uvedením na trh veřejnosti. Toto důkladné testování je nezbytné, zejména v odvětvích kritické infrastruktury, kde se umělá inteligence stále častěji používá. Ministerstvo vnitřní bezpečnosti bude tyto postupy uplatňovat. standarda také zřídit Radu pro bezpečnost a ochranu umělé inteligence.

Toto společné úsilí představuje nejvýznamnější kroky, jaké kdy kterákoli vláda podnikla k pokroku v oblasti bezpečnosti umělé inteligence. Zdůrazňuje commitúsilí o vytváření systémů umělé inteligence, které jsou nejen inovativní, ale také bezpečné a zabezpečené, a tím zajišťují důvěru veřejnosti v technologie umělé inteligence.

Posílení kybernetické bezpečnosti s využitím umělé inteligence

Kybernetická bezpečnost je v době umělé inteligence, kdy zranitelnosti v softwaru a sítích mohou mít dalekosáhlé důsledky, kritickým problémem. Výkonné nařízení zavádí pokročilý program kybernetické bezpečnosti zaměřený na vývoj nástrojů umělé inteligence speciálně navržených k identifikaci a nápravě zranitelností v kritickém softwaru, a proto je kybernetická bezpečnost klíčová.

Tato iniciativa navazuje na probíhající program AI Cyber ​​Challenge, který vede administrativa prezidentů Biden-Harris, a dále využívá potenciál umělé inteligence v oblasti kybernetické bezpečnosti. Využitím převratných schopností umělé inteligence se program snaží posílit software a sítě a učinit je tak bezpečnějšími tváří v tvář vyvíjejícím se kybernetickým hrozbám.

Výkonné nařízení o bezpečné, zabezpečené a důvěryhodné umělé inteligenci. Bezpečnost umělé inteligence. Kybernetická bezpečnost.

Kromě těchto konkrétních opatření výkonné nařízení rovněž vyzývá ke komplexní strategii na podporu odpovědných inovací v oblasti umělé inteligence, včetně:

  • Ochrana soukromí Američanů. Prezident vyzývá Kongres, aby schválil dvoustrannou legislativu na ochranu osobních údajů, a nařizuje federální vládě, aby upřednostnila podporu technik na ochranu soukromí.
  • Podpora rovnosti a občanských práv. Prezident nařizuje federální vládě, aby poskytla jasné pokyny pronajímatelům, federálním programům sociálních dávek a federálním dodavatelům, aby zabránila používání algoritmů umělé inteligence k prohloubení diskriminace. Také nařizuje ministerstvu spravedlnosti a dalším federálním úřadům pro občanská práva, aby spolupracovaly na řešení algoritmické diskriminace.
  • Zastávání spotřebitelů, pacientů a studentů. Prezident nařizuje federální vládě, aby prosazovala zodpovědné používání umělé inteligence ve zdravotnictví a vzdělávání. Také nařizuje Ministerstvu zdravotnictví a sociálních služeb, aby zavedlo bezpečnostní program pro přijímání hlášení o škodách nebo nebezpečných postupech ve zdravotnictví zahrnujících umělou inteligenci a pro nápravu těchto škod.
  • Podpora pracovníků. Prezident nařizuje federální vládě, aby vypracovala zásady a osvědčené postupy pro zmírnění škod a maximalizaci přínosů umělé inteligence pro pracovníky. Také nařizuje federální vládě, aby vypracovala zprávu o potenciálních dopadech umělé inteligence na trh práce a aby prostudovala a identifikovala možnosti posílení federální podpory pro pracovníky, kteří čelí narušení pracovního procesu, a to i v důsledku umělé inteligence.
  • Podpora inovací a konkurence. Prezident nařizuje federální vládě, aby v celých Spojených státech podnítila výzkum v oblasti umělé inteligence a prosazovala spravedlivý, otevřený a konkurenceschopný ekosystém umělé inteligence.

Celkově vzato je výkonné nařízení o bezpečné, zabezpečené a důvěryhodné umělé inteligenci významným krokem vpřed v řešení výzev a rizik umělé inteligence. Konkrétní opatření a komplexní strategie uvedené v nařízení pomohou zajistit, aby umělá inteligence byla vyvíjena a používána zodpovědně, bezpečně a spolehlivě.

Úplné znění výkonného nařízení a jeho podrobné důsledky naleznete přečíst zde.

nástroje pro analýzu složení softwaru SCA
Stanovte priority, opravte a zabezpečte svá softwarová rizika
Získejte svůj bezplatný účet.
Nevyžaduje se žádná kreditní karta.

Zajistěte si vývoj a dodávky softwaru

s produktovým balíčkem Xygeni