2023 年，一项规范人工智能招聘的新法律将在纽约市生效，更多立法机构将不可避免地跟进。 近十年前，亚马逊部署了臭名昭著的人工智能招聘工具，该工具对女性候选人造成了有害的偏见。
随着新兴技术周围产业的形成，新兴技术往往不受控制。 由于快速的创新和缓慢的监管，率先上市的公司往往会寻求公众的原谅，而不是寻求机构许可。 Facebook（现为 Meta）成立近 20 年后，在很大程度上仍处于自我监管状态。 加密货币于 2009 年首次亮相，目前市值已达 2.6 万亿美元，围绕监管的争论才刚刚开始。 万维网完全不受约束地存在了五年，直到 1996 年国会通过《电信法》。
负责制定立法的人往往不了解他们所监管的技术，从而导致法规模糊或脱节，无法充分保护用户或促进进步。 毫不奇怪，人工智能的商业化也遵循类似的路径。 但是，由于其固有的呈指数级发展和学习的能力，监管机构或人工智能从业者如何才能跟上？
无论准备好与否，人工智能招聘治理已经到来。 随着围绕这项变革性技术的立法不断推出，以下是需要了解的四件最重要的事情。
1. 数据从来都不是中立的。
在招聘领域，不加控制人工智能的风险很高。 当人工智能被用来筛选、评估和选择求职者时，针对种族、民族、性别和残疾的偏见产生或永久存在的风险是非常真实的。
在招聘过程中试图收集公正的数据就像走过一片地雷区。 有意识和无意识地根据 GPA、学校声誉或简历中的措辞做出决定，从而导致历史上不公平的结果。
这就是为什么纽约市法律将要求所有自动就业决策工具接受偏见审计，其中独立审计员根据许多人口统计因素确定该工具对个人的影响。 虽然审计要求的细节很模糊，但人工智能招聘公司可能会被要求进行“不同的影响分析”，以确定是否有任何群体受到不利影响。
道德人工智能技术的实践者可以纠正有偏见的数据，并仍然产生高效的预测算法。 他们必须可视化、研究和清理数据，直到没有发现有意义的不利影响。 然而，非数据科学家很难找到自己的方法来做到这一点，因为很少有强大的工具存在，而且大多是开源的。 这就是为什么在部署任何算法之前让机器学习技术专家严格清理数据输入至关重要。
2. 多样化、充足的数据集是必不可少的。
为了避免监管麻烦，用于训练人工智能的数据必须充分代表所有群体，以避免出现有偏见的结果。 这对于招聘来说尤其重要，因为许多专业工作环境以白人和/或男性为主，尤其是在科技、金融和媒体等行业。
如果无法获取多样化、丰富且充足的数据，经验丰富的数据科学家可以综合生成额外的、有代表性的样本，以确保整个数据集在所有性别、种族、年龄等之间具有一对一的比例，无论性别、种族、年龄等如何。 他们在行业或劳动力中所占人口的百分比。
3.人工智能不应该排除候选人。
传统的招聘方法通常依赖于结构化数据（例如简历信息）和非结构化数据（例如“直觉”）来过滤或删除候选人。 这些数据点并不能特别预测未来的表现，并且通常包含最粘性和系统性的偏差。
然而，一些支持人工智能的招聘工具会提出建议，同时指导招聘决策者根据人工智能的决定淘汰候选人。 当人工智能像这样排除候选人时，很可能会出现问题。
相反，这些工具应该提供额外的数据点，与招聘过程中收集和评估的其他信息结合使用。 在人工智能最好的日子里，它应该为所有候选人提供可操作、可解释和补充的信息，使雇主能够做出最佳的、以人为主导的决定。
4. 测试、测试、再测试，以消除顽固或隐藏的偏见。
未来的监管将需要对任何旨在帮助做出野外招聘决定的人工智能进行彻底、分类甚至持续的测试。 这可能会反映平等就业机会委员会 (EEOC) 制定的五分之四 (4/5) 规则。
4/5规则规定，任何种族、性别或族裔群体的选择率不得低于选择率最高群体选择率的五分之四或80%。 根据 4/5 规则实现不产生不利影响应该是人工智能招聘工具的标准做法。
然而，更进一步是可能的，也是明智的。 例如，假设您使用的工具为候选人提供绩效预测。 您可能希望确保预测最高的候选人中有足够的代表性并且没有不利影响的迹象。 这将有助于确定偏差是否可能集中在预测范围的不同点上，并帮助您为候选人创建一个更加公平的生态系统。
加强对人工智能招聘的监督将及时减少候选人因主观或彻底的歧视因素而处于不利地位的可能性。 然而，由于这些法律的新颖性和模糊性，人工智能公司应该自己承担责任，以确保候选人受到保护。
即使存在所有风险，在招聘中使用人工智能的优势也是无与伦比的。 人工智能的使用可以对效率、准确性和公平性等方面产生积极影响，即将到来的监管不应影响其采用。
