一群OpenAI的现任和前任员工呼吁这家chatgpt制造商和其他人工智能公司保护那些举报人工智能技术安全风险的员工。

　　周二发表的一封公开信要求科技公司建立更强有力的举报人保护措施，这样研究人员就可以在内部和公众面前提出对高性能人工智能系统开发的担忧，而不必担心遭到报复。

　　今年早些时候离开OpenAI的前员工Daniel Kokotajlo在一份书面声明中表示，科技公司正在“无视人工智能的风险和影响”，因为它们竞相开发优于人类的人工智能系统，即人工通用智能。

　　他写道:“我决定离开OpenAI，因为我对他们会采取负责任的行动失去了希望，尤其是在他们追求人工通用智能的时候。”“他们和其他人已经接受了‘快速行动，打破常规’的方法，这与如此强大而又知之甚少的技术所需要的恰恰相反。”

　　OpenAI在回应这封信的一份声明中表示，它已经为员工提供了表达担忧的措施，包括匿名诚信热线。

　　该公司在声明中表示:“我们为我们提供最强大、最安全的人工智能系统的记录感到自豪，并相信我们解决风险的科学方法。”“我们同意，考虑到这项技术的重要性，严格的辩论是至关重要的，我们将继续与世界各地的政府、民间社会和其他社区合作。”

　　这封信有13个签名者，其中大多数是OpenAI的前雇员，还有两人曾在谷歌的DeepMind工作或工作过。其中四人被列为OpenAI的匿名现任员工。这封信要求公司停止让员工签订“非贬低”协议，如果他们批评公司，就会受到惩罚。

　　最近，社交媒体对OpenAI离职员工文件中的措辞感到愤怒，导致该公司解除了所有前员工的不贬低协议。

　　这封公开信得到了人工智能领域的先驱科学家约书亚·本吉奥和杰弗里·辛顿以及斯图尔特·罗素的支持，他们两人共同获得了计算机科学的最高奖项。这三位专家都对未来人工智能系统可能给人类生存带来的风险提出了警告。

　　这封信发出之际，OpenAI表示，它正开始开发ChatGPT背后的下一代人工智能技术，并在失去了包括联合创始人Ilya Sutskever在内的一批领导人后组建了一个新的安全委员会，后者曾是一个专注于安全开发最强大人工智能系统的团队的成员。长期以来，更广泛的人工智能研究界一直在争论人工智能短期和长期风险的严重性，以及如何将这些风险与技术的商业化相结合。

　　这些冲突导致OpenAI首席执行官萨姆?奥特曼(Sam Altman)在去年被驱逐后迅速回归，并继续加剧了对他领导能力的不信任。

　　最近，一个新产品的展示引起了好莱坞明星斯嘉丽·约翰逊的愤怒，她说她很震惊地听到ChatGPT的声音听起来和她自己“可怕地相似”，尽管她之前拒绝了奥特曼让她为该系统配音的请求。——美联社

　　×