今年10月，美国路易斯安那州的假释委员会开会讨论释放一名已被定罪的杀人犯的可能性，他们请了一位在心理健康方面有多年经验的医生来谈谈这名囚犯。

　　董事会并不是唯一关注此事的组织。

　　一群网络喷子从她的在线证词中截取了她的截图，并用人工智能工具编辑了这些图像，让她看起来是裸体的。然后，他们在4chan上分享了这些被篡改的文件。4chan是一个匿名留言板，以助长骚扰和传播仇恨内容和阴谋论而闻名。

　　哥伦比亚大学(Columbia University)研究人工智能如何被恶意利用的研究生丹尼尔·西格尔(Daniel Siegel)表示，这是4chan上无数次有人使用音频编辑器和图像生成器等新的人工智能工具，传播有关出现在假释委员会面前的人的种族主义和攻击性内容的一次。西格尔用几个月的时间记录了网站上的活动。

　　西格尔说，这些被篡改的图像和音频并没有远远超出4chan的范围。但监控边缘留言板的专家表示，这些努力让人们看到了邪恶的互联网用户如何在未来几个月到几年里利用复杂的人工智能工具来加强在线骚扰和仇恨活动。

　　反数字仇恨中心(Centre for Countering Digital Hate)的研究主管卡勒姆?胡德(Callum Hood)表示，像4chan这样的边缘网站——也许是其中最臭名昭著的——经常发出预警信号，表明新技术将如何被用来传播极端思想。

　　他说，这些平台上充斥着年轻人，他们“非常迅速地采用人工智能等新技术”，“将自己的意识形态投射回主流空间”。

　　他说，在更受欢迎的网络平台上，一些用户经常采用这些策略。

　　以下是专家在4chan上发现的人工智能工具带来的几个问题，以及监管机构和科技公司正在采取的措施。

　　Dall-E和Midjourney等人工智能工具可以从简单的文本描述中生成新颖的图像。但新一波人工智能图像生成器的目的是制作虚假色情内容，包括从现有图像中去除衣服。

　　“他们可以利用人工智能来创造一个他们想要的形象，”胡德在谈到网上的仇恨和错误信息活动时说。

　　美国没有禁止制作假人像的法律，这使得路易斯安那州假释委员会等组织争先恐后地决定可以做些什么。针对西格尔对4chan的调查结果，董事会展开了调查。

　　路易斯安那州赦免委员会和假释委员会执行主任弗朗西斯·阿博特说:“任何以负面方式描绘我们董事会成员或任何听证会参与者的图像，我们肯定会提出异议。”

　　“但我们必须在法律范围内运作，不管是否违法，这必须由别人来决定。”

　　伊利诺伊州扩大了针对报复性色情的法律，允许人工智能系统制作的非自愿色情内容的目标起诉创作者或发行商。加利福尼亚州、弗吉尼亚州和纽约州也通过了法律，禁止未经同意分发或制作人工智能生成的色情内容。

　　去年年底，人工智能公司ElevenLabs发布了一款工具，可以创造一个令人信服的数字复制品，让人说出输入程序的任何声音。

　　几乎在该工具上线后，4chan上的用户就开始传播假英国演员艾玛·沃特森(Emma Watson)朗读阿道夫·希特勒(Adolf Hitler)宣言《我的奋斗》(Mein Kampf)的视频片段。

　　4chan用户利用路易斯安那州假释委员会听证会的内容，分享了法官对被告发表攻击性和种族主义言论的假视频。

　　西格尔说，许多视频片段都是由ElevenLabs的工具生成的，他使用了ElevenLabs开发的人工智能语音识别器来调查它们的来源。

　　ElevenLabs急于施加限制，包括要求用户在获得语音克隆工具之前付费。但专家表示，这些变化似乎并没有减缓人工智能创造的声音的传播。

　　大量使用假名人声音的视频在TikTok和YouTube上流传，其中许多视频分享了政治虚假信息。

　　自那以后，包括抖音和YouTube在内的一些主要社交媒体公司要求在一些人工智能内容上贴上标签。

　　美国总统乔·拜登于10月发布了一项行政命令，要求所有公司对此类内容进行标注，并指示商务部制定对人工智能内容进行水印和认证的标准。

　　随着meta在人工智能竞赛中站稳脚跟，该公司采取了一项向研究人员发布软件代码的战略。这种方法被广泛地称为“开源”，它可以让学者和技术人员获得更多的原始材料来寻找改进和开发他们自己的工具，从而加快开发速度。

　　去年2月，当该公司向挑选的研究人员发布其大型语言模型Llama时，代码很快泄露到了4chan上。那里的人们将它用于不同的目的:他们调整代码以降低或消除护栏，创造出能够产生反犹思想的新聊天机器人。

　　这一努力预示着精通技术的用户可以如何调整免费使用和开源的人工智能工具。

　　meta的一位发言人在一封电子邮件中说:“虽然该模式并非对所有人开放，有些人试图绕过审批程序，但我们认为，目前的发布策略使我们能够平衡责任和开放性。”

　　在那之后的几个月里，语言模型被开发出来，以呼应极右翼的谈话要点，或创造更露骨的色情内容。4chan用户对图像生成器进行了调整，以生成裸照或提供种族主义表情包，绕过了大型科技公司的控制。-?2024纽约时报公司

　　×