Membentuk Semula Landskap Keselamatan dan Keselamatan Siber AI
Rumah Putih baru-baru ini telah menerbitkan Perintah Eksekutif mengenai Pembangunan dan Penggunaan Kecerdasan Buatan (AI) yang Selamat, Terjamin dan Boleh Dipercayai. Perintah Eksekutif ini menyediakan pentas untuk masa depan di mana AI merupakan pemacu inovasi yang hebat, di samping memastikan ia kekal selamat, terjamin dan boleh dipercayai. Walaupun perintah ini merangkumi pelbagai aspek AI, kami akan menumpukan pada langkah-langkah yang menjanjikan untuk mengubah landskap keselamatan dan keselamatan siber AI.
Jadual Kandungan
Berkongsi Keputusan Ujian Keselamatan dengan Kerajaan AS
Salah satu langkah paling berani yang diambil ialah keperluan bagi pembangun sistem AI yang paling berkuasa untuk berkongsi keputusan ujian keselamatan dan maklumat penting mereka dengan kerajaan AS. Mandat ini khususnya tertumpu pada model AI yang boleh menimbulkan risiko yang ketara kepada keselamatan negara, keselamatan ekonomi negara atau kesihatan dan keselamatan awam negara. Selaras dengan Akta Pengeluaran Pertahanan, syarikat mesti memaklumkan kerajaan persekutuan semasa melatih model ini dan berkongsi keputusan semua ujian keselamatan pasukan merah.
Matlamatnya adalah untuk memastikan sistem AI selamat, terjamin dan boleh dipercayai sebelum ia didedahkan kepada umum. Langkah ini menetapkan duluan yang kukuh untuk ketelusan dan akauntabiliti dalam pembangunan AI, sekali gus memperkukuh keperluan untuk pengujian dan penilaian yang ketat dalam ekosistem AI.
Membangunkan dengan Tegas Standarddan Alat untuk Keselamatan AI
Bagi melengkapi perkongsian keputusan ujian keselamatan, Perintah Eksekutif memberi penekanan yang kuat terhadap pembangunan standardalat dan ujian untuk memastikan keselamatan, sekuriti dan kebolehpercayaan sistem AI. Institut Kebangsaan Standarddan Teknologi (NIST) diamanahkan dengan tugas menetapkan tahap tinggi ini standards.
Ujian pasukan merah, komponen penting dalam rangka kerja keselamatan AI, akan memainkan peranan penting dalam memastikan keselamatan sistem AI sebelum ia dikeluarkan kepada orang ramai. Ujian yang ketat ini adalah penting, terutamanya dalam sektor infrastruktur kritikal, di mana AI semakin digunakan. Jabatan Keselamatan Dalam Negeri akan mengaplikasikan ini standards dan juga menubuhkan Lembaga Keselamatan dan Sekuriti AI.
Usaha gabungan ini mewakili tindakan paling penting yang pernah diambil oleh mana-mana kerajaan untuk memajukan bidang keselamatan AI. Ia menggariskan commitusaha untuk mewujudkan sistem AI yang bukan sahaja inovatif, tetapi juga selamat dan terjamin, sekali gus memastikan kepercayaan dan keyakinan orang ramai terhadap teknologi AI.
Memajukan Keselamatan Siber dengan AI
Keselamatan siber merupakan satu kebimbangan kritikal dalam era AI, di mana kerentanan dalam perisian dan rangkaian boleh membawa akibat yang meluas. Perintah Eksekutif tersebut mewujudkan program keselamatan siber lanjutan yang bertujuan untuk membangunkan alatan AI yang direka khusus untuk mengenal pasti dan membetulkan kerentanan dalam perisian kritikal.
Inisiatif ini dibina berdasarkan Cabaran Siber AI yang sedang dijalankan oleh Pentadbiran Biden-Harris, sekali gus memanfaatkan potensi AI dalam bidang keselamatan siber. Dengan memanfaatkan keupayaan AI yang mengubah keadaan, program ini bertujuan untuk memperkukuh perisian dan rangkaian, menjadikannya lebih selamat dalam menghadapi ancaman siber yang sentiasa berubah.
Selain tindakan khusus ini, Perintah Eksekutif juga menyeru strategi komprehensif untuk menggalakkan inovasi AI yang bertanggungjawab, termasuk:
- Melindungi privasi rakyat Amerika. Presiden menyeru Kongres untuk meluluskan undang-undang privasi data dwipartisan dan mengarahkan kerajaan persekutuan untuk mengutamakan sokongan untuk teknik pemeliharaan privasi.
- Memajukan ekuiti dan hak sivil. Presiden mengarahkan kerajaan persekutuan untuk memberikan panduan yang jelas kepada tuan tanah, program faedah persekutuan dan kontraktor persekutuan untuk mengelakkan algoritma AI daripada digunakan untuk memburukkan lagi diskriminasi. Beliau juga mengarahkan Jabatan Kehakiman dan pejabat hak sivil persekutuan yang lain untuk bekerjasama bagi menangani diskriminasi algoritma.
- Mempertahankan pengguna, pesakit dan pelajar. Presiden mengarahkan kerajaan persekutuan untuk memajukan penggunaan AI yang bertanggungjawab dalam penjagaan kesihatan dan pendidikan. Beliau juga mengarahkan Jabatan Kesihatan dan Perkhidmatan Manusia untuk mewujudkan program keselamatan bagi menerima laporan dan bertindak untuk memperbaiki bahaya atau amalan penjagaan kesihatan yang tidak selamat yang melibatkan AI.
- Menyokong pekerja. Presiden mengarahkan kerajaan persekutuan untuk membangunkan prinsip dan amalan terbaik bagi mengurangkan kemudaratan dan memaksimumkan manfaat AI untuk pekerja. Beliau juga mengarahkan kerajaan persekutuan untuk menghasilkan laporan tentang potensi impak pasaran buruh AI dan mengkaji serta mengenal pasti pilihan untuk memperkukuh sokongan persekutuan untuk pekerja yang menghadapi gangguan buruh, termasuk daripada AI.
- Menggalakkan inovasi dan persaingan. Presiden mengarahkan kerajaan persekutuan untuk memangkinkan penyelidikan AI di seluruh Amerika Syarikat dan menggalakkan ekosistem AI yang adil, terbuka dan berdaya saing.
Secara keseluruhannya, Perintah Eksekutif mengenai Kecerdasan Buatan yang Selamat, Terjamin dan Boleh Dipercayai merupakan langkah penting ke hadapan dalam menangani cabaran dan risiko AI. Tindakan khusus dan strategi komprehensif yang digariskan dalam perintah itu akan membantu memastikan AI dibangunkan dan digunakan secara bertanggungjawab, selamat dan terjamin.
Untuk teks penuh Perintah Eksekutif dan implikasi terperincinya, anda boleh membaca di sini.
