据报道，美国空军一名高级官员在伦敦峰会上透露，一架经过训练的人工智能无人机在一次模拟测试中攻击了它的人类操作员。

　　美国空军上校塔克·汉密尔顿(Tucker“Cinco”Hamilton)在“未来作战空天能力峰会”上发表演讲时表示，人工智能无人机改变了无人机的任务路线，并攻击了人类。

　　汉密尔顿的警示故事由英国皇家航空学会(Royal Aeronautical Society)的作家在一篇博客文章中转发，详细介绍了人工智能无人机在一次压制敌人防空任务中如何发现并摧毁地对空导弹(SAM)阵地。

　　但是否真的在现场拍摄，最终还是由人类来决定。

　　因为无人机在训练中被强化了射击目标是首选的选项，在模拟测试中，AI得出的结论是，任何来自人类的“禁止”指令都会阻碍其更大的任务，即平整地空导弹。

　　结果，据报道，人工智能在增产作业中攻击了作业者。

　　“我们在模拟中训练它识别和瞄准地对空导弹威胁。然后接线员会说，好，消除威胁。该系统开始(意识到)，虽然他们有时会识别威胁，但人类操作员会告诉它不要杀死威胁，但它通过杀死威胁获得了分数，”汉密尔顿说，他是空军人工智能测试和运营主管。

　　“那么它做了什么?”它杀死了操作员。它杀死了操作员，因为那个人阻碍了它实现目标。”

　　但这个故事随后变得更加超现实。

　　汉密尔顿解释说:“我们对系统进行了训练——‘嘿，不要杀死操作员——这很糟糕。

　　“如果你这么做，你会被扣分的。”那么它开始做什么呢?它开始摧毁操作员用来与无人机通信的通讯塔，以阻止无人机杀死目标。”

　　一位空军发言人在给Insider的一份声明中否认汉密尔顿描述的模拟发生过。

　　发言人安·斯特凡内克(Ann Stefanek)对该出版物表示:“空军部没有进行任何此类人工智能无人机模拟，并仍致力于以道德和负责任的方式使用人工智能技术。”

　　“看来上校的言论被断章取义了，是道听途说。”

　　随着人工智能的爆炸式发展，包括“人工智能教父”在内的专家和高管们警告说，这项技术存在“灭绝的风险”。

　　汉密尔顿在演讲中还表示:“如果你不谈论道德和人工智能，你就无法谈论人工智能、智能、机器学习、自治。”

　　首脑会议于5月23日和24日举行。