上周，加州一家联邦法院允许对人工智能人才管理平台Workday提起招聘歧视诉讼，此前一名求职者声称，该系统多次因种族原因取消他的资格。

　　总部位于加利福尼亚州普莱森顿的Workday被全球10500多家组织使用，它与公司的系统集成，以帮助完成人力资源相关的任务，包括现场应用程序。在这种情况下，它可以做出自主决策，比如允许一个候选人进入下一轮，拒绝另一个候选人。正因为如此，法院将该平台描述为招聘过程中的积极决策者，也标记了它使用了以前招聘周期的输入，其中可能包括人类做出的有偏见的决定。

　　“人为地区分软件决策者和人类决策者，可能会破坏现代的反歧视法，”加州北区的法官丽塔·林(Rita Lin)在法庭文件中写道。

　　此案源于40多岁的黑人男子德里克·莫布里(Derek Mobley)的指控，他从莫尔豪斯学院(Morehouse College)获得学士学位，莫尔豪斯学院是一所全男子HBCU(历史上的黑人学院或大学)。

　　莫布里向使用Workday平台的公司申请了100份工作，但都被拒绝了。法院表示，尽管他有资格，但他在多个行业都被拒绝了，包括他已经在一家公司担任承包商的工作，这一事实使他的论点更加突出。

　　有一次，莫布里在提交申请一小时后收到了拒绝，当时大多数人还没有开始工作——这表明算法已经拒绝了他，并在没有任何人工工作人员输入的情况下发送了自动回复。

　　直到最近，通常只有雇主对雇佣歧视负责。但根据彭博法律，Mobley案是美国招聘软件公司因其平台涉嫌歧视而接受审查的早期例子。

　　“Workday在招聘过程中的作用同样重要，因为它据称是通过人工智能完成的，而不是一个坐在办公室里手动浏览简历以决定拒绝哪些简历的活生生的人，”林写道。“在联邦反歧视法规或解释这些法规的判例法中，没有任何语言来区分将功能委托给自动代理和活人代理。”

　　基于这些决定，“死记硬背”的工具，比如电子表格软件，不承担责任，因为它们不做决定。(因此，如果你使用Excel来组织应用程序，也不必担心。)但是，在黑盒子中使用人工智能的招聘工具——在评估候选人的健康状况时，往往没有真正区分种族、残疾、性别和年龄——可能会遇到麻烦。

　　企业正在认识到风险，并相应地调整他们的合同。彭博法律报道称，那些希望在招聘中使用人工智能平台的公司一直在增加赔偿条款，这将把任何诉讼成本转嫁给供应商。

　　据彭博法律报道，虽然目前还没有这样做，但公司也有可能起诉软件供应商违反合同，因为他们提供了有偏见的算法，或者“协助和教唆”歧视。