11 月 21 日消息,据美联社报道,纽约市议会通过了一项法案,如果人工智能 AI 招聘系统没有通过年度审计,将被禁止使用。
|
年度审计将检查 AI 招聘系统有没有种族或性别歧视,开发人员还需要更大的透明度(包括披露自动化系统),并提供人工审查等替代方案。
如果出现事故,每次的罚款将高达 1500 美元。
该法案于 11 月 10 日获得通过,即将离任的市长 Bill de Blasio 有一个月的时间签署该法案,使之成为法律,但他尚未表示是否会签署。如果这项措施继续实施,将于 2023 年生效。
目前,Greater New York Chamber of Commerce 这样的亲商组织已经表示支持,这表明披露信息对雇主和他们的人才都至关重要。然而,已经有人担心颁布的法律不会像承诺的那样有多大帮助。民主与技术中心的 Alexandra Givens 告诉美联社,该法案没有考虑到其他偏见,如能力歧视或年龄歧视。
哥伦比亚广播公司指出,这项法案诞生背景是因为人工智能在招聘中的使用激增,越来越多地取代人工筛选,包括达美航空、宜家和联合利华在内的财富500强公司已经转向人工智能来帮助评估求职者。这些人工智能招聘工具可以筛选特定单词和短语,评估求职者的面试视频,以判断他们是否适合工作。
相关数据显示,从在视频面试中评估申请人面部表情的人工智能程序,到预测工作表现的简历筛选平台,人工智能招聘行业的价值超过五亿美元。
需要警惕的是,人工智能系统并非完全公正,最著名的例子是亚马逊曾开发的一款招聘工具。该工具模型学习了过去10年求职者提交给亚马逊的简历,并有效地“教导”了自己:男性候选人更受欢迎,对包含“女性”一词的简历以及两所女子大学的毕业生进行降级处罚。虽然该工具从未被使用过,但它展示了用机器智能代替人类判断的潜在缺陷。
该法案的发起人、市议会成员劳里·库姆博 (Laurie Cumbo) 在立法听证会上表示:“作为一些世界上最大公司所在城市的立法者,我们必须进行干预并防止不公正的招聘。”
几个民权组织表示,纽约市议会提出的法案还远远不够。包括纽约公民自由联盟和纽约变革社区在内的十几个团体发布公开信,推动法律涵盖更多类型的自动化工具和招聘过程中更多的步骤,希望该措施包括更重的处罚,使人们能够在因算法有偏见而被忽略的情况下提起诉讼。
“审计偏见的方法是一种很好的方法,但纽约市对这种情况采取了非常软弱和模糊的标准。”民主与技术中心总裁亚历山德拉·吉文斯(Alexandra Givens)认为,审计最终可能会给人工智能供应商一个“遮羞布”,让他们可以在市政府的许可下生产高风险产品。
对于招聘专业人士而言,人工智能的主要吸引力在于其节省时间的能力。部分技术专家也肯定了自动化程序的潜力,如果使用得当,可以消除人为偏见,例如招聘经理可以忽视非洲裔美国申请人或看好与招聘经理在外表上相似的候选人的倾向。
美国招聘平台HiredScore的首席执行官雅典娜·卡普 (Athena Karp) 说:“不幸的是,当只有人工审核简历时,人类无法忽视导致无意识偏见的事情,比如母校一样或者在同一个地方长大。”
卡普表示,她支持纽约法案。她在听证会上坦言:“如果技术用于招聘,技术制造商和候选人可以而且应该知道他们是如何被使用的。”