重塑人工智能安全和网络安全格局
白宫最近发布了一项关于人工智能 (AI) 安全、可靠和值得信赖的开发和使用的行政命令。这项行政命令为未来人工智能成为创新的强大驱动力奠定了基础，同时还确保了人工智能的安全、可靠和值得信赖。虽然该命令涵盖了人工智能的各个方面，但我们将重点关注有望改变人工智能安全和网络安全格局的措施。
目录
与美国政府分享安全测试结果
采取的最大胆举措之一是要求最强大的人工智能系统的开发者与美国政府分享其安全测试结果和关键信息。这项要求特别针对可能对国家安全、国家经济安全或国家公共卫生和安全构成重大风险的人工智能模型。根据《国防生产法》，公司在训练这些模型时必须通知联邦政府，并分享所有红队安全测试的结果。
目标是确保人工智能系统在公开之前是安全、可靠和值得信赖的。这项措施为人工智能开发的透明度和问责制树立了强有力的先例，强调了在人工智能生态系统中进行严格测试和评估的必要性。
发展严谨 Standard人工智能安全策略和工具
为了补充安全测试结果的共享，行政命令强调制定严格的 standard确保人工智能系统安全可靠和可信度的测试、工具和测试。美国国家人工智能研究所 Standard美国国家标准与技术研究院 (NIST) 负责制定这些高 standards.
红队测试是人工智能安全框架的重要组成部分，将在确保人工智能系统在向公众发布之前的安全方面发挥关键作用。这种严格的测试至关重要，尤其是在人工智能应用日益广泛的关键基础设施领域。国土安全部将应用这些测试 standard并成立人工智能安全保障委员会。
此次联合努力是历届政府为推动人工智能安全领域所采取的最重大举措。它强调了 commit致力于创建不仅具有创新性而且安全可靠的人工智能系统，从而确保公众对人工智能技术的信任和信心。
利用人工智能推进网络安全
网络安全是人工智能时代的一大关键问题，软件和网络中的漏洞可能会产生深远的影响。该行政命令建立了一个先进的网络安全计划，旨在开发专门用于识别和纠正关键软件漏洞的人工智能工具。
该计划以拜登-哈里斯政府正在进行的人工智能网络挑战为基础，进一步发挥人工智能在网络安全领域的潜力。通过利用人工智能改变游戏规则的能力，该计划旨在加强软件和网络，使其在不断演变的网络威胁面前更加安全。
除了这些具体行动外，该行政命令还要求制定一项全面战略来促进负责任的人工智能创新，包括：
- 保护美国人的隐私。总统呼吁国会通过两党数据隐私立法，并指示联邦政府优先支持隐私保护技术。
- 促进公平和公民权利。总统指示联邦政府向房东、联邦福利计划和联邦承包商提供明确指导，以防止人工智能算法被用来加剧歧视。他还指示司法部和其他联邦民权办公室共同努力解决算法歧视问题。
- 为消费者、患者和学生挺身而出。总统指示联邦政府推动在医疗保健和教育领域负责任地使用人工智能。他还指示卫生和公众服务部建立安全计划，以接收有关涉及人工智能的危害或不安全医疗保健实践的报告并采取行动予以补救。
- 支持工人。总统指示联邦政府制定原则和最佳实践，以减轻人工智能对工人的危害并最大限度地发挥其好处。他还指示联邦政府编写一份关于人工智能对劳动力市场的潜在影响的报告，并研究和确定加强联邦对面临劳动力中断（包括人工智能造成的）的工人的支持的方案。
- 促进创新和竞争。总统指示联邦政府促进全美人工智能研究，并促进公平、开放和竞争的人工智能生态系统。
总体而言，《关于安全、可靠和值得信赖的人工智能的行政命令》是应对人工智能挑战和风险的重要一步。该命令中概述的具体行动和综合战略将有助于确保人工智能的开发和使用是负责任、安全的。
有关行政命令的全文及其详细含义，您可以 在这里阅读.
