勇士队
人类需要一个仍然会说“不”的OpenAI董事会

  

  当OpenAI的领导人周一重返工作岗位时,他们的待办事项清单上有一件事是最重要的:弄清楚如何处理这个几乎扼杀了他们的非营利组织董事会。

  他们已经开始建立一个治理结构,将引导他们走向更加商业化的方向,尽管这对OpenAI的投资者来说是个好消息,但它确实违背了OpenAI在建造超级智能机器时优先考虑人类的基本原则。OpenAI的领导层可以为此做些什么。他们必须仔细考虑他们增加的剩余董事会成员,而不仅仅是为了看起来进步。他们需要女性、有色人种和其他不同的声音,对他们来说,有偏见的语言模式最有可能造成伤害,他们会大声说出这些风险。

  难以理解的机器学习系统剥夺了女性的工作机会,而且它们还准备在大量人工智能生成的内容涌入网络时强化刻板印象。根据Glass.ai在2023年对领英(linkedIn)个人资料进行的一项研究,目前在人工智能系统开发人员中,女性约占三分之一,而在OpenAI,这一比例仅为12%。难怪女性是人工智能最直言不讳的批评者之一。

  另请阅读:OpenAI的动荡对微软的投资构成威胁

  但他们也更有可能沉默。关于大型语言模型危险的最具影响力的研究论文之一——2021年的《随机鹦鹉》(Stochastic parrot)论文——是由女性学者和人工智能科学家撰写的,谷歌解雇了其中两名女性,Timnit Gebru和Margaret Mitchell。

  在上周投票罢免首席执行官萨姆·奥特曼(Sam Altman)的四位OpenAI董事会成员中,有两位最终被公司解雇,分别是学者海伦·托纳(Helen Toner)和机器人企业家塔莎·麦考利(Tasha McCauley)。由此引发的社交媒体反弹主要集中在两位女性身上,而她们的男性反叛者——OpenAI联合创始人兼首席科学家伊利亚·苏斯克维尔(Ilya Sutskever)和Quora公司。首席执行官亚当?德安吉洛(Adam D’angelo)的声誉和地位基本完好无损。(Sutskever现在也退出了董事会。)

  在她投票解雇奥特曼的几周前,托纳的名字出现在一篇研究论文上,该论文指责OpenAI去年匆忙推出ChatGPT时“疯狂地抄近道”。据报道,愤怒的奥特曼试图将托纳从董事会中除名。托纳和其他导演完全按照奥特曼的设计行事。他甚至称赞过这种能力。“董事会可以解雇我,”他在今年早些时候的彭博科技峰会上表示。“我认为这很重要。”

  无可否认,董事会在执行上很草率,董事会成员在紧张的泡沫中抱怨奥特曼时,可能成为了集体思维的牺牲品。他们应该更清楚地传达他们的担忧,这些担忧仍然笼罩在神秘之中。

  即便如此,OpenAI必须忠于其创始原则,任命的董事会成员不仅要打勾,而且要充分了解人工智能的副作用,以便在必要时进行反击。像Gebru和Mitchell这样的人将是一个良好的开端,Joy Buolamwini, Fei-Fei Li, Melanie Mitchell, Sasha Luccioni, Kate Crawford, Latanya Sweeney, Safiya Umoja Noble和Meredith Whittaker都是人工智能领域的杰出研究人员和倡导者。

  另请阅读:OpenAI和超级智能竞赛

  OpenAI已经考虑过几位女性担任临时董事,尽管有些人似乎有点自私自利。据彭博新闻社(Bloomberg News)报道,史蒂夫?乔布斯的遗孀、亿万富翁慈善家劳伦?鲍威尔?乔布斯和雅虎前首席执行官玛丽莎?梅耶尔曾被列为候选人,但被认为与奥特曼的关系过于密切。美国前国务卿康多莉扎·赖斯也曾被考虑过,但她的名字被否决了。

  我很清楚OpenAI会找到一种方法来中和它的非营利性董事会,这样上周的事件就不会再发生了。它可能看起来更像其他缺乏“牙齿”的科技公司董事会,比如Facebook极其聪明的监督委员会(Oversight Board),它对自己的算法没有真正的权力,或者谷歌(Google)的人工智能审查机构,里面塞满了自己的员工和高管。

  OpenAI董事会开除山姆·奥特曼的能力是独一无二的。但是,即使那些日子已经过去,那些开发历史上最具变革性软件的人也不能让他们周围的人都是应声虫。

  本周,埃隆·马斯克(Elon Musk)在推特上表示,在人类文明岌岌可危的情况下,OpenAI的新董事会需要“深刻理解人工智能并勇于面对山姆”的董事。两个女人照做了,然后被赶了出去。加入董事会的新声音不应该成为下一个替罪羊,而是要对其工作进行适当的监督。OpenAI必须做出明智的选择。

  另请阅读:可能导致奥特曼下台的OpenAI软件Q-Star是什么

  邀请你的朋友和家人注册MC Tech 3,我们的每日通讯,打破了当天最大的技术和创业故事

  DAILY-EVENING

  订阅你的收件箱里最热门的科技和创业故事,以此结束你的一天

  DAILY-EVENING

  订阅你的收件箱里最热门的科技和创业故事,以此结束你的一天

点击分享到

热门推荐