纽约市限制招聘AI使用，合规路径仍不明朗

纽约市一项限制招聘流程中使用人工智能工具的法律将于明年年初生效。该法律被视为保护求职者免受算法偏见的先行者，但截至目前，雇主和供应商如何合规仍缺乏明确指引，这引发了对该法律能否有效应对招聘算法偏见问题的担忧。

该法律包含两项核心要求：雇主在使用任何自动化决策工具进行招聘或晋升前，必须对其进行审计；并且至少在使用前10个工作日通知求职者或员工。违规处罚为首次违规罚款500美元，此后每次违规罚款1500美元。

尽管伊利诺伊州自2020年起已对视频面试中的AI分析进行监管，但纽约市的法律是全美首部覆盖整个招聘流程的法律。该法律旨在回应美国平等就业机会委员会和司法部的关切，即招聘流程中对AI工具的“盲目依赖”可能导致企业违反《美国残疾人法案》。

“纽约市正以全局视角审视自动化决策系统如何改变招聘实践，”纽约大学计算机科学教授、该市自动化决策系统工作组成员Julia Stoyanovich博士对HR Dive表示。“这关乎确保人们公平获得经济机会的背景。如果人们因不明原因无法获得工作，那该怎么办？”

AI招聘工具旨在支持人力资源团队在招聘全流程中的工作，从在招聘网站发布广告、筛选简历，到确定薪酬方案。其目标自然是帮助企业找到背景和技能匹配的候选人。

不幸的是，这一过程的每一步都可能产生偏见，尤其是当雇主将潜在候选人的“模型群体”与现有员工名册进行比对时。值得注意的是，亚马逊曾被迫放弃一款招聘工具——该工具基于十年间提交的简历训练，用于评估申请人——因为算法自我学习后开始惩罚包含“女性”一词的简历。

“你试图识别出你认为会成功的人，将过去视为现在的预演，”Fisher & Phillips LLP律师事务所合伙人David J. Walton表示。“当你回顾并使用数据时，如果模型群体主要是白人、男性和40岁以下，那么算法必然会寻找这些特征。如何重新设计模型群体以避免输出偏见？”

用于面试或测试中评估候选人的AI工具也可能存在问题。例如，视频面试中测量语音模式可能筛除有言语障碍的候选人，而跟踪键盘输入可能排除患有关节炎或其他影响灵活性的候选人。

“许多残疾工人在这些工具的评估方式下会处于不利地位，”民主与技术中心工人隐私高级政策顾问Matt Scherer表示。“许多工具通过对人做出假设来运作。”

Walton指出，这些工具类似于消防员招聘中常见的“引体向上测试”：“它表面上没有歧视，但可能对受ADA保护的类别产生不成比例的影响。”

还有一类AI工具旨在帮助识别具有合适性格的候选人。Stoyanovich表示，这些工具同样存在问题，她最近发布了一项审计，针对两种常用工具。

问题既涉及技术层面——同一份简历以纯文本和PDF格式提交时，工具会生成不同分数——也涉及哲学层面。“什么是‘团队合作者’？”她问道。“AI并非魔法。如果你不告诉它寻找什么，也不使用科学方法进行验证，那么预测结果与随机猜测无异。”

纽约市的法律是州和联邦层面更大趋势的一部分。今年早些时候提出的联邦《美国数据隐私和保护法案》中包含了类似条款，而《算法问责法案》将要求对包括就业在内的各种用例的自动化决策系统进行“影响评估”。此外，加利福尼亚州正计划将AI招聘工具的使用纳入该州反歧视法的责任范围。

然而，有人担心立法并非解决招聘中AI问题的正确途径。“纽约市的法律并未施加任何新要求，”Scherer表示。“披露要求意义不大，审计要求只是联邦法律已要求的一小部分。”

鉴于纽约市官员在法律于2023年1月1日生效前发布的指导有限，技术审计的具体形式或实施方式仍不明确。Walton表示，雇主可能需要与具备数据和业务分析专业知识的人合作。

在更高层面，Stoyanovich表示，AI招聘工具将受益于基于标准的审计流程。她认为，标准应公开讨论，认证应由独立机构进行——无论是非营利组织、政府机构还是其他不从中获利的实体。鉴于这些需求，Scherer表示他认为监管行动优于立法。

对于致力于加强此类工具监管的人来说，挑战在于推动政策制定者主导对话。

“工具已经存在，而政策未能跟上技术变革的步伐，”Scherer表示。“我们正在努力让政策制定者意识到，必须对这些工具进行真正的审计要求，并且当工具导致歧视时，需要有意义的披露和问责。我们还有很长的路要走。”