关于人工智能(AI)具有大规模传播虚假信息的能力，人们已经说了很多。人工智能还能扩展互联网工具赖以建立的监控商业模式吗?

　　技术专家们在半岛电视台的“Studio B: Unscripted”特别版《人工智能系列》中讨论了这一可能性。该系列采访了拉普勒首席执行官、诺贝尔和平奖得主玛丽亚?雷萨。

　　“监控是科技行业的经济引擎....我认为我们必须将人工智能视为监控的衍生物，”安全消息应用非营利组织Signal的总裁梅雷迪思·惠特克(Meredith Whittaker)说。她引用了2012年的一项研究，该研究认识到社交媒体平台收集的用户数据也可以用来训练人工智能。

　　“它借鉴了这种监控商业模式。它需要这些监控数据以及用来处理和存储这些数据的基础设施。它会产生更多的数据，因为它加强了我们所生活的监控生态系统。”

　　在2023年5月的诺贝尔奖峰会上，雷萨同样抨击了社交媒体平台的商业模式，在这种模式下，用户被跟踪和定位，以最大限度地提高在线参与度，并影响线下的行为。这种模式被她称为“为利润而监视”，导致了虚假信息、仇恨和暴力在网上的传播。

　　哥伦比亚大学全球政治研究所人工智能与民主创新实验室联合负责人卡米尔·弗朗索瓦(Camille Francois)也指出了在没有安全检查的情况下部署人工智能技术的速度。

　　从我们的档案

　　“当它还只是研究项目或从业者之间的对话时，我们有点奢侈地问自己:这意味着什么-例如，对于虚假信息-现在每个人都可以生成合成文本?或者，当我们知道这些机器中嵌入了偏见和刻板印象时，这意味着什么?我们该如何思考(它们)对社会的影响?她详细解释道。

　　“我认为，就这些问题的紧迫性而言，突然之间，每个人都能接触到这些技术，而且它们突然之间在社会上得到了迅速的应用。”

　　在《人工智能系列》的前一集中，专家Mike Wooldridge和Urvashi Aneja以及Ressa强调了像ChatGPT这样的人工智能工具是如何大规模传播虚假信息和仇恨言论的，因为它们是如何接受互联网数据训练的，而互联网数据也充满了虚假信息和仇恨言论。

　　必须阅读

　　惠特克断言:“做出这些决定不是因为他们正在审查奖学金……或者认识到其他社会后果。”

　　“之所以做出这些决定，是因为每个季度，他们都需要向董事会报告有关利润和增长的积极预测或结果。因此，这些强大的技术最终被少数几家永远把利润和增长放在首位的公司所控制。”

　　论政府监管

　　人工智能的使用是否应该受到政府的监管?“不完全是，”惠特克说。

　　“在我看来，解决方案的空间似乎还远远不够，”她评论道，并补充说，最近通过的科技监管法律并没有攻击运营数字平台的监控商业模式。

　　“解决方案通常看起来很像将监视和控制扩展到政府，将大型科技公司的监视机构扩展到……政府行为者，然后他们将插手决定什么是可接受的言论，什么是可接受的内容。”

　　惠特克指出了专制统治在世界各地的兴起。她指出，在美国，生殖保健被定为犯罪或书籍被禁的问题普遍存在。与此同时，在菲律宾，维权人士因批评政府而受到线上和线下的攻击。

　　弗朗索瓦建议建立多种平台，这些平台不受监控资本主义商业模式的束缚，而是基于公共利益、安全和安全来运营——比如惠特克的信号。

　　Signal网站上2023年11月的一篇文章解释说，到2025年，该平台将至少需要5000万美元(约28亿比索)才能运行，并补充说，“与其他不尊重你隐私的流行通讯应用程序相比，这笔钱非常少。”

　　2023年，meta的收入为1349亿美元，而成本和费用为881.5亿美元。

　　惠特克还提出了“经典答案”，即“工人们联合起来，利用他们的集体影响力来推动雇主。”

　　她以2023年美国编剧协会(WGA)的罢工为例，当时电影和电视剧编剧停止工作了几个月，原因之一是他们要求在剧本创作中对人工智能的使用进行监管。

　　弗朗索瓦说:“我们应该而且有能力发明另一种未来，另一种模式，然后说，这确实不是我们想要的与科技共存的方式。”

　　“说这些模式不应该继续下去，并不是勒德分子。让我们创造另一种未来，这种未来更能维护权利，对社会更有利。”

　　人工智能系列深入探讨了人工智能的承诺和危险，以及公众可以对此做些什么。在半岛电视台的演播室B:无脚本观看。