界面新闻记者 | 彭新

10月31日消息，据新华社报道，美国总统拜登于美国当地时间10月30日签署一项行政命令，为人工智能安全制定了新标准。

此次发布行政令，拜登政府动用《国防生产法》(Defense Production Act)的紧急权力，该行政令覆盖范围广泛，几乎涉及到人工智能技术的方方面面，其中安全被视为重中之重，包括人工智能技术影响下的美国国家安全、经济安全、公共卫生安全等，以及与美国人隐私相关的公平、健康、教育等议题。

白宫在声明中称，此项行政令“具有里程碑意义”，将保护美国公民隐私，促进公平和公民权利，维护消费者和工作者权益，促进创新和竞争等。

该行政令要求，美国最强人工智能系统的研发人员需与政府分享其安全测试结果及其他关键信息；完善相关标准和测试工具，确保人工智能系统安全、可靠；制定严密的合成生物检查新标准，防范使用人工智能设计危险生物材料的风险；建立检测人工智能生成内容和验证官方内容的标准和最佳实践，以帮助民众防范人工智能驱动的欺诈；建立先进的网络安全计划，开发人工智能工具查找和修补关键软件漏洞；研发制定“国家安全备忘录”，指导人工智能和安全方面的进一步行动等。

值得注意的是，该行政令强制要求大型AI公司在开发任何对美国“国家安全、国家经济安全或国家公共健康和安全构成严重风险”的AI系统时向美国政府申报。

例如，行政令中加入对于外国人使用美国IaaS（基础设施即服务）来开发大型AI模型的规定，以解决外国人使用美国IaaS开发AI大模型时，该AI系统有潜在恶意网络活动能力的问题。如此的话，IaaS服务商须向美国商务部提交报告，汇报外国人身份信息、交易记录、网络地址等信息。

对于“有潜在恶意网络活动能力”的技术定义，该行政令暂时规定，如果模型需要的计算能力大于10^26的整数或浮点数计算能力，在某一计算集群上进行训练；同时，该模型所使用的计算集群有一组物理上位于单个数据中心的机器，使用了超过100Gbit/s网络速度，并且具备最大计算能力为每秒10^20整数或浮点数计算能力的情况，则符合行政令约束。

行政令还将审查美国外经销商转售美国IaaS服务，用于训练前述大模型，除非外国经销商向云服务商提供商提交一份报告，详细说明外国人与该经销商的相关云服务交易，以及使用美国IaaS服务进行AI训练的每个云计算实例。

行政令还规定，在行政令发布之日起180天内，美国商务部长应提出法规，要求美国IaaS产品的外国经销商验证任何外国用户的身份。

此次美国签署行政令中对于IaaS服务商的相关规定，与此前该国对AI计算芯片出口限制保持一致，即以“国家安全”名义，进一步限制了美国外实体获取其人工智能技术的能力。就在本月中旬，美国更新芯片出口新规，除专用AI计算芯片外，首次覆盖到高端游戏显卡产品。具体来看，美国将参数规格的设定，改为“总处理性能”（Total processing performance）或“性能密度”（performance density），高于一定数值的芯片即受到出口管制。受影响的产品包括图形处理单元（GPU）、张量处理单元（TPU）、神经处理器、内存处理器等，

此外，美国国家标准与技术研究所将制定严格的人工智能“红队”标准。美国国土安全部将把这些标准应用于核心基础设施项目，并成立人工智能安全委员会。美国能源部和国土安全部将具体应对人工智能系统对关键基础设施的威胁，及其带来的化学、生物、放射性材料、核及网络安全风险。“红队”测试是网络安全的一项重要测试环节，由专家团队模拟真实世界的对手及其策略，以测试和增强系统的安全性。

该行政令还规定诸多人工智能相关内容，包括负责任地在健保和教育领域使用AI、建立汇报AI在健保方面造成伤害的机制；设立降低AI对工人的伤害并最大程度惠及工人的原则、汇报AI对劳工市场造成的潜在影响。以及加速AI研究并为小公司提供更多资源、鼓励美国联邦贸易委员会（FTC）行使职权促进竞争性AI生态环境的建立、为关键领域的技术移民加速签证审批等。

最后，行政令意图扩大美国在国际影响力，确保美国在AI领域领先，包括促进在AI安全和标准方面的国际合作、推动负责任的全球AI研发，以及建立一个强大的国际框架管理人工智能风险并利用人工智能等。