目前，美国在人工智能方面出台了迄今为止影响最深远的官方政策。乔·拜登总统本周签署了一项行政命令，敦促在人工智能安全、安保和可信度方面制定新的联邦标准，并解决人工智能风险和发展的许多其他方面。这份长约2万字的指令使用了“人工智能”一词，指的是能够模仿人类某些能力的自动预测、感知或生成软件。白宫的行动是在由英国组织和主办的人工智能安全国际峰会开始的两天前做出的。在峰会上，世界各国领导人将讨论这一迅速发展的技术的全球战略。

　　杜克大学(Duke University)计算机科学家辛西娅·鲁丁(Cynthia Rudin)研究机器学习，主张对人工智能进行监管，她说:“这正是我们所希望的。”鲁丁并不认为拜登的命令是完美的，但她认为它在字面上的规模和可能的影响上都“非常非常大”:“它涉及大量的政府实体，并启动了新的监管和安全委员会，这些委员会将把人工智能作为他们的主要任务，而不仅仅是一个次要任务。”

　　斯坦福大学(Stanford University)研究人工智能治理的法律和政治学教授何鸿燊(Daniel Ho)也表示赞同:“白宫在这项行政命令中加入了很多东西。”“我确实认为这是一个非常重要的进步。”(何是美国国家人工智能顾问委员会(National Artificial Intelligence Advisory Commission)成员，但他以个人身份接受《科学美国人》采访，而不是以NAIAC成员的身份。)

　　人工智能的迅速崛起，特别是像OpenAI的chatgpt这样的生成式人工智能系统，在过去的一年里引发了人们的强烈担忧。人们对未来机器人的接管存在一些担忧，但目前也出现了非常具体和明显的风险。

　　例如，人工智能模型通过视觉深度伪造和即时文本生成，显然加剧了虚假信息的问题。机器学习算法编码了偏见，可以放大和自动化现有的歧视模式，就像美国国税局的一个算法工具，不成比例地针对黑人纳税人进行审计一样。新兴的研究表明，这些偏见会长期影响人类的行为。通过人工智能系统(包括面部识别软件)收集并用于训练新的生成式人工智能模型的大量数据对隐私构成了威胁。人工智能也可能成为一个重大的国家安全威胁;例如，人工智能模型可以用来加速新化学武器的开发。

　　研究伦理人工智能的埃默里大学法学院教授Ifeoma Ajunwa表示:“由于人工智能的力量，需要对其进行管理。”“人工智能工具，”她补充说，“可能会给社会带来灾难性的后果。”

　　新秩序将美国推向更全面的人工智能治理。它建立在拜登政府之前的行动基础上，比如7月份多家大型科技公司同意的自愿承诺清单，以及一年前发布的《人工智能权利法案蓝图》。此外，该政策遵循了之前另外两项以人工智能为重点的行政命令:一项是关于联邦政府自己的人工智能使用，另一项旨在促进联邦政府在人工智能领域的招聘。然而，与之前的行动不同，新签署的命令超越了一般原则和指导方针;一些关键部分实际上需要科技公司和联邦机构采取具体行动。

　　例如，新命令要求人工智能开发人员在公开发布未来的大型人工智能模型或此类模型的更新版本之前，必须与美国政府共享安全数据、培训信息和报告。具体来说，这一要求适用于包含“数百亿参数”的模型，这些模型是根据广泛的数据训练的，可能对国家安全、经济、公共卫生或安全构成风险。这种透明度规则可能会适用于OpenAI的下一个版本的GPT，这是一个为聊天机器人ChatGPT提供动力的大型语言模型。拜登政府是根据1950年通过的《国防生产法》(Defense Production Act)提出这一要求的。这部法律与战时关系最为密切，特别是在新冠疫情爆发初期，被用来增加N95口罩的国内供应。这项要求公司与联邦政府分享其人工智能模型信息的规定，虽然有限，但却是向科技公司强制透明度迈出的第一步——近几个月来，许多人工智能专家一直在倡导这一点。

　　白宫的政策还要求制定联邦标准和测试，由国土安全部和能源部等机构部署，以更好地确保人工智能不会威胁到国家安全。相关标准将部分由美国国家标准与技术研究院(National Institute of standards and Technology)制定，该研究院于今年1月发布了自己的人工智能风险管理框架。开发过程将涉及“红队”，善意的黑客与模型的创建者合作，先发制人地分析漏洞。

　　除了这些授权之外，行政命令主要成立了特别工作组和咨询委员会，促进报告倡议，并指示联邦机构在明年发布人工智能指导方针。该命令涵盖了一份情况说明书中概述的八个领域:国家安全、个人隐私、公平和公民权利、消费者保护、劳工问题、人工智能创新和美国竞争力、人工智能政策的国际合作，以及联邦政府内部的人工智能技能和专业知识。在这些总括类别中，有关于评估和促进人工智能在教育、保健和刑事司法中的道德使用的章节。

　　“这是很多方向上的第一步，”鲁丁说。她指出，尽管该政策本身并不是一项监管，但它是“监管的重要先导，因为它通过所有人工智能专门工作组和机构研发收集了大量数据”。她解释说，收集这些信息对下一步至关重要:为了进行监管，你首先需要了解发生了什么。

　　亚利桑那州立大学(Arizona State University)研究人工智能治理的法学教授加里·马尚特(Gary Marchant)表示，通过在联邦政府内部制定人工智能标准，这项行政命令可能有助于创建新的人工智能规范，并可能波及到私营部门。他说，该命令“将产生涓滴效应”，因为政府可能会继续成为人工智能技术的主要买家。“如果作为客户的政府需要这样做，那么在许多情况下，它将被全面实施。”

　　但是，仅仅因为该命令旨在迅速促进信息收集和政策制定，并为每项行动设定最后期限，这并不意味着联邦机构将按时完成雄心勃勃的任务清单。“需要注意的是，如果你没有人力资本，特别是没有各种形式的技术专长，可能很难持续而迅速地实现这些要求，”何说。他指的是，根据斯坦福大学2023年的一份报告，只有不到1%的人工智能博士毕业生进入政府职位。Ho跟踪了之前关于人工智能的行政命令的结果，发现不到一半的授权行动得到了可核实的执行。

　　尽管新政策的范围很广，但仍有明显的漏洞。鲁丁指出，行政命令没有特别提到保护生物识别数据的隐私，包括面部扫描和语音克隆。Ajunwa说，她希望看到更多关于评估和减轻人工智能偏见和歧视性算法的执法要求。斯坦福大学(Stanford University)数据隐私研究员珍妮弗·金(Jennifer King)表示，在解决政府在国防和情报应用中使用人工智能的问题上，存在差距。“我对人工智能在军事和监视方面的应用感到担忧。”

　　何补充说，即使在该命令似乎涵盖其基础的地方，“政策制定者的期望与技术上可行的情况之间也可能存在相当大的不匹配”。他指出，“水印”就是一个很好的例子。新政策要求商务部在未来8个月内确定标记人工智能生成内容的最佳做法，但目前还没有成熟的、强大的技术方法来做到这一点。

　　最后，行政命令本身不足以解决推进人工智能带来的所有问题。行政命令的权力本质上是有限的，而且很容易被撤销。就连行政令本身也呼吁国会通过数据隐私立法。“今后的立法行动确实很重要，”何说。国王同意了。“我们需要针对人工智能监管的多个方面制定具体的私营部门立法，”她表示。

　　尽管如此，每一位与《科学美国人》交谈或通信的专家都将该命令描述为填补政策空白的有意义的一步。多年来，欧盟一直在公开努力制定《欧盟人工智能法案》，该法案即将成为法律。但美国未能取得类似的进展。根据本周的行政命令，有一些努力需要跟进，也有一些变化即将出现——只是不要指望它们明天就会到来。金说，这项政策“目前还不太可能改变人们对人工智能的日常体验。”