
meta平台公司因其对青少年心理健康的影响而受到家长和立法者的抨击,该公司计划利用人工智能来识别Instagram上那些谎报年龄的年轻用户,并自动将他们切换到更严格的隐私设置。
meta负责青年和社会影响的产品管理总监艾莉森?哈特内特(Allison Hartnett)表示,利用一种名为“成人分类器”(adult classifier)的专有软件工具,meta将根据用户自己的账户数据,将用户分为两个年龄段——18岁以上或18岁以下。该软件可以筛选用户的个人资料,查看他们的关注者列表以及他们互动的内容,甚至可以扫描朋友发布的毫无防备的“生日快乐”帖子,以预测用户的年龄。
哈特尼特说,根据该软件的研究结果,无论用户在个人资料中自称的年龄有多大,怀疑未满18岁的用户都将被自动放入青少年账户。他首次分享了这一过程的更多细节。今年9月,Instagram推出了这些新的青少年账户,这些账户有更严格的默认隐私设置,比如限制用户可以从谁那里接收信息,以及他们可以看什么类型的内容。该公司没有透露成人分类器的准确率。
该公司已经根据青少年自我报告的生日将他们转移到这些更严格的环境中,但计划在明年初利用成人分类器来帮助抓住那些可能试图避开新规定的人。所有18岁以下的用户都将被自动归入青少年账户,但那些16岁或17岁的用户将被允许自行更改更严格的隐私设置。然而,任何16岁以下的人都需要父母的同意才能禁用更严格的设置。
多年来,如何保护青少年用户免受有害内容的侵害一直是meta面临的挑战。该公司向青少年用户开放账户的举动受到了外界人士的欢迎,他们长期以来一直认为meta在保护年轻用户上网安全方面做得不够。
这家社交网络巨头正面临数十名州检察长的诉讼,指控该公司故意在社交媒体上吸引孩子,并帮助制造了青少年心理健康危机。它也成为家长们的目标,他们声称自己的孩子因为在meta的产品上看到的内容或交谈而死于毒品或自杀。
2021年,由Facebook员工转行的举报人弗朗西丝·豪根(Frances Haugen)向媒体公布了数千页的文件,这些文件显示,除其他外,该公司自己的研究发现,Instagram可能对十几岁女孩的心理健康产生负面影响。
有了新的限制,meta现在的挑战是执行它们——考虑到孩子们经常找到其他方法来访问限制年龄的材料,这不是一项小任务。英国电信监管机构的一项研究发现,三分之一拥有社交媒体账户的未成年人宣称自己的年龄在18岁或以上。
在互联网上的许多网站上,谎报年龄是极其简单的。在线视频游戏市场Steam只要求用户在观看和下载成人级游戏之前自我报告出生日期。例如,其他卖酒的网站只要求用户点击一个按钮,确认他们已经超过21岁。
meta旨在让人们更难在Instagram上谎报年龄。例如,该公司将标记那些试图使用相同电子邮件地址但生日不同的青少年创建新帐户。该公司还可以检查手机的唯一设备ID,以猜测谁是新配置文件的幕后黑手。
试图手动增加自己账户上显示年龄的青少年必须通过上传正式身份证明(比如驾照)或向第三方服务Yoti发送自拍照视频来证明自己。Yoti可以根据面部特征估计年龄。然后Yoti和meta在验证后删除图像。meta说,用户以前可以通过朋友担保来验证自己的年龄,但这个选项已经被取消了。
一位发言人表示,被错误归类为青少年的人最终可能会要求公司删除他们的青少年账户状态,尽管这一过程仍在开发中。目前,虽然meta正在努力提高其成人分类器的准确性,但被错误预测为青少年的人可以在没有父母允许的情况下手动关闭它们。
meta的年龄验证方法之所以成为可能,是因为人们在该应用上分享了大量关于自己的信息,包括他们的社交圈、爱好和内容偏好。Instagram的青少年账户仍在美国和其他几个国家推出,但哈特内特表示,到目前为止,青少年谎报年龄的问题并没有该公司预期的那么严重。
尽管meta做出了努力,但哈特尼特和其他高管认为,最保护隐私的年龄验证过程应该是应用商店在青少年下载某些应用程序之前验证他们的年龄。苹果公司的一位发言人表示,这种做法违反了数据最小化的原则,而Alphabet公司旗下谷歌的一位发言人表示,这个问题没有“单一的解决方案”。
但在哈佛大学教授数据隐私课程的计算机科学教授迈克尔·史密斯(Michael Smith)在一封电子邮件中表示,将年龄验证的负担转移给Google Play或苹果的应用商店,“是在假定应用商店掌握了基本事实的基础上”。这并不能解决这个人是否从一开始就诚实的问题。“meta在年龄验证方面的问题不会被转移到应用商店吗?——彭博社
×
点击分享到









