Remodelant el panorama de la seguretat i la ciberseguretat de la IA
La Casa Blanca ha publicat recentment una Ordre Executiva sobre el Desenvolupament i Ús Segur, Protegit i Digne de Confiança de la Intel·ligència Artificial (IA). Aquesta Ordre Executiva prepara l'escenari per a un futur on la IA sigui un potent motor d'innovació, alhora que garanteix que continuï sent segura, protegida i fiable. Tot i que l'ordre cobreix diversos aspectes de la IA, ens centrarem en les mesures que prometen transformar el panorama de la seguretat i la ciberseguretat de la IA.
Taula de continguts
Compartir els resultats de les proves de seguretat amb el govern dels EUA
Una de les mesures més agosarades que s'han pres és l'exigència als desenvolupadors dels sistemes d'IA més potents de compartir els resultats de les seves proves de seguretat i informació crítica amb el govern dels Estats Units. Aquest mandat se centra especialment en els models d'IA que podrien representar un risc significatiu per a la seguretat nacional, la seguretat econòmica nacional o la salut i la seguretat públiques nacionals. D'acord amb la Llei de Producció de Defensa, les empreses han de notificar al govern federal quan entrenen aquests models i compartir els resultats de totes les proves de seguretat de l'equip vermell.
L'objectiu és garantir que els sistemes d'IA siguin segurs, protegits i fiables abans de fer-los públics. Aquesta mesura estableix un precedent potent per a la transparència i la responsabilitat en el desenvolupament de la IA, reforçant la necessitat de proves i avaluacions rigoroses en l'ecosistema de la IA.
Desenvolupament rigorós Standardi eines per a la seguretat de la IA
Per complementar l'intercanvi de resultats de les proves de seguretat, l'Ordre Executiva posa un fort èmfasi en el desenvolupament de mesures rigoroses standards, eines i proves per garantir la seguretat, la protecció i la fiabilitat dels sistemes d'IA. L'Institut Nacional de Standards i Tecnologia (NIST) té la tasca d'establir aquests alts estàndards standards.
Les proves de l'equip vermell, un component essencial del marc de seguretat de la IA, tindran un paper fonamental per garantir la seguretat dels sistemes d'IA abans que es publiquin. Aquestes proves rigoroses són essencials, especialment en sectors d'infraestructures crítiques, on la IA s'utilitza cada cop més. El Departament de Seguretat Nacional les aplicarà. standardi també establir el Consell de Seguretat i Protecció de la IA.
Aquest esforç combinat representa les accions més significatives que mai ha dut a terme qualsevol govern per fer avançar el camp de la seguretat de la IA. Subratlla la commitcrear sistemes d'IA que no només siguin innovadors, sinó també segurs i protegits, garantint així la confiança pública en les tecnologies d'IA.
Avançant en la ciberseguretat amb IA
La ciberseguretat és una preocupació crítica en l'era de la IA, on les vulnerabilitats del programari i les xarxes poden tenir conseqüències de gran abast. L'Ordre Executiva estableix un programa avançat de ciberseguretat destinat a desenvolupar eines d'IA dissenyades específicament per identificar i rectificar vulnerabilitats en programari crític.
Aquesta iniciativa es basa en el projecte AI Cyber Challenge de l'administració Biden-Harris, aprofitant encara més el potencial de la IA en l'àmbit de la ciberseguretat. Aprofitant les capacitats revolucionàries de la IA, el programa pretén enfortir el programari i les xarxes, fent-les més segures davant de les amenaces cibernètiques en evolució.
A més d'aquestes accions específiques, l'Ordre Executiva també demana una estratègia integral per promoure la innovació responsable en IA, que inclogui:
- Protecció de la privadesa dels nord-americans. El president demana al Congrés que aprovi una legislació bipartidista sobre la privadesa de dades i ordena al govern federal que prioritzi el suport a les tècniques de preservació de la privadesa.
- Promoure l'equitat i els drets civils. El president ordena al govern federal que proporcioni una guia clara als propietaris, als programes de prestacions federals i als contractistes federals per evitar que els algoritmes d'IA s'utilitzin per agreujar la discriminació. També ordena al Departament de Justícia i a altres oficines federals de drets civils que treballin junts per abordar la discriminació algorítmica.
- Defensant els consumidors, els pacients i els estudiants. El president ordena al govern federal que promogui l'ús responsable de la IA en l'atenció sanitària i l'educació. També ordena al Departament de Salut i Serveis Humans que estableixi un programa de seguretat per rebre informes i actuar per solucionar els danys o les pràctiques sanitàries insegures que impliquen la IA.
- Suport als treballadors. El president ordena al govern federal que desenvolupi principis i bones pràctiques per mitigar els perjudicis i maximitzar els beneficis de la IA per als treballadors. També ordena al govern federal que elabori un informe sobre els possibles impactes de la IA en el mercat laboral i que estudiï i identifiqui opcions per reforçar el suport federal als treballadors que pateixen interrupcions laborals, incloses les causades per la IA.
- Promoure la innovació i la competència. El president ordena al govern federal que catalitzi la recerca en IA a tots els Estats Units i promogui un ecosistema d'IA just, obert i competitiu.
En general, l'Ordre Executiva sobre Intel·ligència Artificial Segura, Protegida i Digna de Confiança és un pas important cap endavant per abordar els reptes i els riscos de la IA. Les accions específiques i l'estratègia integral descrites a l'ordre ajudaran a garantir que la IA es desenvolupi i s'utilitzi de manera responsable, segura i protegida.
Per consultar el text complet de l'Ordre Executiva i les seves implicacions detallades, podeu llegiu aquí.
