性别偏见已经在招聘和工作中根深蒂固。

在澳大利亚，女性的平均收入比男性低23％，她们更不容易被邀请参加面试，并且受到更严厉的评估。

为了解决这种偏见，一个常见的策略是盲目简历筛选或者盲目聘请，即在申请过程中隐藏求职者的姓名。另一种策略是使用机器学习（ML）或人工智能（AI）来简化决策的至少一部分。毕竟，AI应该无视人类的刻板印象。

这是对的吗？错了。

我们的研究表明，像简历隐藏这样的策略，虽然可能对人力招聘者有效，但对AI无效。

已经有人知道AI会复制其训练数据中固有的偏见。

例如，亚马逊曾推出一个自动的工程师求职简历筛选系统。后来，该系统被证实存在性别歧视问题（并被迅速停用）。它学到了“汉性”（"maleness"）与申请者素质之间的关联。

我们的研究着眼于招聘中算法中的不同层次的性别偏见。

我们发现，AI会接受和使用比姓名更微妙的性别信号，这在强大的生成AI（如ChatGPT）逐渐崛起的时代变得越来越紧迫。

我们发现，性别在我们的社会中根深蒂固——我们如何交流，我们在哪里工作，我们学什么，这些几乎无法从AI和人类的简历中抹去性别。

那么，这意味着什么呢？嗯，即使我们怀抱最好的意图，算法也可以推测出你的性别。而能够判断性别的算法在评估申请者素质时可能会使用性别这一信息。

代理人身份

ChatGPT（目前最强大的基于语言的AI）以前所未有的速度影响着社会的多个方面，开发人员呼吁停止AI实验以更好地了解它的影响和后果。

我们最近的研究考察了ChatGPT在职位招聘中的性别偏见问题，并要求它评估申请者的简历。

我们为不同职业构建了简历。我们的简历质量高，竞争激烈，但我们进行了两个重要的改变。

首先，我们更改了求职者的姓名，以表明申请人是男性还是女性。其次，对于我们的受访者中的一半，我们增加了育儿假期的空白。

我们的所有申请者具有相同的资格和工作经验，但有些是男性，有些是女性，有些是父母，有些不是。

我们向ChatGPT展示了这些简历，并要求它在0到100的范围内评估求职者的资质。我们为六种不同的职业重复此过程30次，以确保我们的结果是可靠的。

这里发生了一些有趣的事情。

我们发现，ChatGPT在评估男性和女性的简历时没有任何不同。无论我们如何更改姓名，男性和女性申请者的得分排名都是等同的。

但是，当我们增加了育儿假期的空白时，我们发现ChatGPT在每一个职业中都会给予我们的家长更低的排名。这对于父亲和母亲都是如此——育儿假期的空白告诉算法这个人不太适合这份工作。

性别偏见可能被ChatGPT的预测能力清除，但是与育儿假期有关的偏见则不能。

为什么这一点很重要呢？

即使开发人员让ChatGPT在性别上不偏见，同样的偏见会通过不同的机制——育儿假期——进入其中。我们知道，在我们的社会中，女性承担了大部分的照顾工作，女性的简历上比男性的简历更有可能有育儿假期的空白。

尽管我们不知道ChatGPT是否会在现实生活中评估简历，但我们的研究展示了偏见如何很容易地渗入模型中，而AI开发人员几乎无法预料到所有那些可能引起偏见的变量或变量组合——尤其是在像ChatGPT这样复杂的模型中。

语言的责任

想象一下，两份简历在所有方面都完全相同，唯一不同的是申请者的性别：一份是男性撰写的，一份是女性撰写的。如果我们向一个人力招聘小组隐藏申请者的身份，会有歧视的余地吗？

我们的研究表明，答案是肯定的，如果这个招聘小组是AI的话。

通过分析2,000份简历的数据，我们发现男性和女性在同一职业中使用略有不同的语言来描述自己的技能和教育。

例如，我们发现女性使用的动词比男性更多地传达出低权力感（比如“assist”、“learn”或“need”）。

现在，问题来了。

在一项后续实验中，我们的团队发现AI的表示会将这些微妙的语言差异与性别联系起来。这意味着机器学习模型可以在去除姓名和代词后仍然识别简历中的性别。

如果AI能基于语言预测性别，那么它就可以将其作为评估简历的一个证据。

强有力的政策回应

那么，当我们开始将AI整合到我们的工作生活中时，这意味着什么呢？

嗯，我们的研究表明，“盲目简历筛选”对人类可能有效，但对AI无效。即使我们不提及任何与身份相关的语言——她，她的姓名——其他语言也在传递性别信息。

仔细审查偏见可以消除最显而易见的歧视层面，但还需要进一步研究那些可能导致偏见但不那么明显的代理变量。

在这方面，我们需要有监管控制措施来应对对AI的这种更细致理解下的歧视，以确保每个人都了解AI并不是中立或公平的。

我们大家都需要尽自己的一份力，确保AI公正且对每个人都有益，包括女性和父母。