登入
家
消息
算法雇用需要人类脸
信用：金色锡克拉巴
由于LinkedIn，实际上和Zipruiter等在线职位发布板的到来，我们申请职位的方式在过去的20年里发生了彻底的变化，并且通过招聘人工智能（AI）算法的使用组织来筛选Résumés的海啸现在从这些地点涌入人力资源（HR）部门。随着基于视频的在线求职面试，现在利用AI分析候选人的使用语言及其在博彩的能力测试中的表现，招聘正成为一个明确的算法。
然而，在人力资源勇敢的新世界中一切都不好。
After quizzing 8,000 job applicants and 2,250 hiring managers in the U.S., Germany, and Great Britain, researchers at Harvard Business School, working with the consultancy Accenture, discovered that many tens of millions of people are being barred from consideration for employment by résumé screening algorithms that throw out applicants who do not meet an unfeasibly large number of requirements, many of which are utterly irrelevant to the advertised job.
例如，乔富勒斯说，哈维德管理实践教授领导的算法招聘研究，护士和图形设计师只能在计算机编程中禁止在没有经验或学位方面的求职面试。未在没有经验（清洁）商店地板的情况下被排除在库存管理中学的零售工作者。此外，算法正在拒绝高素质的人任何职业差距，即使他们是完全合理的原因，如生病，志愿者或者儿童护理，而且是可以燃料歧视性别，种族，多样性和残疾理由歧视候选人的因素。
很清楚，富勒说，筛选算法没有被编程为将仅仅“很好”的申请人与基本的经验分开。因为这种无情的申请人过滤过程沉着雇主隐瞒人们，所以哈佛大队指的是这些数字被忽视，员工是“隐藏工人”。
富有，他的同事在他们的报告中发言隐藏的工人：未开发的人才“一群巨大而越来越多的人被失业或就业失业，渴望获得工作或增加工作时间。但是，他们仍然有效地从大多数企业中”隐藏“，这些企业将受益于雇用这些公司的公司来源找到人才。“
在美国，哈佛队团队估计有2740万个隐藏的工人，“在U.K.和德国的隐藏工人的相似比例。”在U.S21中，在2021年中期，在U.Sins Inde-2011中有1000万无填充工作，算法雇用只是浪费愿意的人权力。
富勒说，许多雇用公司开始意识到算法未能提供交付，因为具有算法拒绝这么多的折叠好的人们是他们经常使用错误或过时的技能。据更富勒，只有美国雇主的一半对其雇用感到满意，只有三分之一的德国雇主。
了解问题
招聘公司需要解决的主要问题之一是，他们的AI技术提供者 - 谁热衷于开发竞争中的算法筛选软件，以抓住一片全球招聘技术市场，预计到2025年的价值为31亿美元- 在委托开发Résumé筛选者时，没有质疑软件要求。
“科技公司正在执行愿景，由他们的客户对他们表示有缺陷，”富勒说。
那个愿景？寻求他所谓的“低估”：招聘公司正在寻求申请人的人数，以便在最短的时间内占据最合格的少数少数，并且至少成本。然而，富勒认为，寻求这种能力的公司应该由他们的AI工程公司介绍，他们与之致力于写作此类算法的后果必然排除了很多非常强大的候选人，他们可能只需要额外的额外培训来擅长角色公司正在寻求填补。
然而，不难看出为什么招聘公司希望使Résumé筛选过程更有效。2010年，由大型美国公司的在线职位发布将加入大约120名Résumés，但随着职位委员会的发展，往往放大彼此的帖子，哈佛大学的研究表明，该数字现在更像是250个应用程序。
考虑到第一次采访的平均人数在于四到六个申请人，这表明雇用的公司希望如何让他们的算法资产出汗。“这向您展示了他们如何尝试创造最聪明的智能炸弹 - 你知道，”只是给我伽拉马德，或者只是给我奇瑞'，“富勒说。
机器的灵魂
Résumé筛查算法如何尝试挥动刀是重要的，如果监管机构是“工艺有效的政策和监督”，那些是康奈尔大学研究团队的一部分，他是一个关于在ACM招聘中的算法偏见的论文2012年1月20日在西班牙巴塞罗那的公平，问责制和透明度（现在称为ACM FOCCT）的肥胖会议。
“透明度对于进一步了解这些系统来说至关重要。虽然有一些例外情况，但一般的供应商并非特别地介绍他们的实践。他们将其模型视为其知识产权的一部分（知识产权），因此他们没有他们可以向公众提供，“拉格班说。
“但除此之外，供应商也没有义务释放任何数据或研究他们的评估的有效性。使用其系统的客户的压力可能会让供应商提供更多信息，但并不清楚这将导致这将导致有意义的信息公开透明度。没有提高法律压力，透明度，公众会得到多少信息，“他补充道。
他似乎有一个点。CA附苏州圣莫尼卡的Ziprureuler的算法招聘中的市场领导者之一拒绝讨论其筛查算法的工作原理。去年9月，何时华尔街日报询问另一个供应商Oracle，同样，它也拒绝发表评论。
据称是，99％的财富500强企业现在使用哈佛大队报告使用算法筛选。
通过从谁中落后，哈佛在日本，法国，德国，英国和美国采访了125名隐藏工人 - 申请人筛查算法工作的某些方面已经确定。“他们在基础上做到这一点，通常是'代理商 - 导致我们推断出候选人的属性的东西，”富勒说。
“经典代理需要大学学位，当工作不需要一个。另一个代理人，这更为不正常，是被称为”就业屏幕的连续性“的代理。如果有人失业超过六个月，一半以上the employers in the U.S. would automatically exclude that person from consideration," he says.
为什么？虽然招聘公司可能会证明这六个月的截止者通过争论争论的“工作场所技术技能的”半衰期“缩短，随着软件版本的变化，市场迁移和新的竞争对手到达，人们可能会在他们的比赛之后六个月，但实际原因可能会显着差异，更饱满。
雇主可能会得出结论，他们的行业同事网络不支持申请人，并想知道为什么他们已经失业了这么久。或者，申请人可能患有疾病，如抑郁症，现在已经过了，也许或许经历过困难的怀孕，需要完整的卧床，从就业中禁止某人是违法的，但其中六个 -月份代理截止手感照顾，没有法律补救或可证明。
不可能完成的任务
另一个问题涉及被编程为讨论的膨胀作业描述，即人们根本不能匹配的算法：“他们已成为象的大象，”富勒斯说，到很多页面。他引用了零售职员的一些工作广告现在需要平均30个技能，而不是专注于我们与成功相关的四个或五个属性。“问题是，如果曾经编辑过，则很少又一次地使用此类列表，随着工作角色的变化，收集不当的要求。
尽管在这里轻微沮丧，但可以提高你越过他们并获得面试的机会。诀窍是在富勒斯和求职信中恰好使用的职位发布的语言，富勒说，即使不是你通常描述你的工作。“你也应该看看那里有工作的人的Linkedin页面，看看他们是如何描述他们的技能。”
“破坏系统”以这种方式成为那些实际超过在线视频采访的算法筛选者的那些人的一天的顺序，因为人们现在发布“如何在线击败机器人面试官”指南。在这些中，求职者被劝告充满信心，微笑，使用正面的肢体语言，并与他们的虚拟对话者进行目光接触。
然而，他们在很大程度上浪费了他们的时间，至少是视频面试网站的地狱。Hirevue的首席数据科学家Lindsey Zuloaga说，“Hirevue永远不会评估候选人的个人外表，眼睛接触，他们穿着什么，或者他们正在接受采访的背景。这些属性与工作技能和能力无关，任何赫维威技术都没有使用视觉分析。“
然而，如果使用机器学习，则在自然语言处理中，它适用于受访者的演讲 - 分析他们的单词选择，他们对语言的使用，并检查他们对Zuloaga调用的是什么“一组工作相关的研究表明的能力表明了角色的成功。“她说，Hirevue还避免了任何情感检测，因为公司不相信它的工作或完全相关，并且正在逐步淘汰一项试图衡量某人声音的“音调”的早期系统。
由于它在算法招聘筛选器下游工作，Hirevue有一个环形座位，以观察到什么作品和不存在的内容。“我们同意Résumé筛查被破坏，传统的简历不是评估和筛选候选人的有效工具，”Zuloaga说。“几乎所有申请工作的人都看到了这个过程的崩溃，我们正在努力改变这一点。”
许多蓝筹公司现在也在实现这一目标，其中一些已经采取了解构算法招聘的最糟糕的支柱，包括亚马逊，通用汽车，宜家，LinkedIn-Owner Microsoft，Google，Slack和McDonald。所有这些都建立了旨在寻找富勒的团队的隐藏工人的计划。
虽然富勒相信算法雇用的失败归咎于虽然符合规范，但不是代码 - 因为“代码就是这样做的，”他说 - 总是怀疑它可能不是。原因？深度学习神经网络可以是“脆弱” - 是，如果甚至没有法律上，他们可以做出意外，无法解释的统计协会，这可能是不道德的。
这种风险是在瑞士州和他的康奈尔同事的肥胖20中突出显示。他们说，机器学习可能会发现“我们不理解的关系”并产生关于申请人的“道德问题相关”。
这个问题有一个坚定的先例。2018年底，曼尼亚波尔省MN的客户Nilan Johnson Lewis是培训了一个基于机器学习的简历筛查工具，当时他们意识到它已经击中了恒星工作候选人的完美健身因素：最好的人雇用，它决定，是叫曲曲棍的贾里德的人。
富勒认为归咎于算法招聘的失败的失败，与规范相比，不是代码 - 因为“代码只是做到了它所要求的，”他说。
“也许曲棍球与成功相关 - 也许是因为扮演了曲棍球的申请人已经开发了一些团队合作技能 - 但它也可以与性别和比赛等属性相关联，”拉格万说。
“机器学习旨在揭示这些相关的相关性，但没有人类的监督，它无法知道'曲线曲板'是否是道德问题的。”将如此的人类监督到位是使算法雇用工作更加公平的迫切需要：人力资源董事会很好地记住H H代表的内容。
进一步阅读
富勒斯，J.B。，拉曼，M.，Sage-Gavin，E.，Hines，K。等。
隐藏的工人：未开发的人才哈佛商学院的管理，管理未来的工作，和埃森哲，9月2021年https://hbs.me/3cdxouw
Mirowska，A.和Mesnet，L.
喜欢魔鬼你知道：潜在的申请人对人工智能评估采访的反应人力资源管理期刊，6月2021年https://doi.org/10.1111/1748-8583.12393
raghavan。M.，巴托，S.，Kleinberg，J。和Levy，K。
讨论招聘中的减轻偏见：评估声明和实践ACM会议公平，问责和透明度，1月2020年1月https://doi.org/10.1145/3351095.3372828
Gershgorn，D。
如果他们的招聘算法偏见，公司都在钩子上石英，2018年10月22日https://bit.ly/2y9y0ll.
麦克科克斯，V。
如何与机器人招聘人员进行求职，CNBC.，4月13日，2021年4月https://cnb.cx/2zvibpt.
©2022 ACM 0001-0782 / 22/3
如果没有收取副本或分发盈利或商业优势，则授予批准为个人或课堂使用的部分或课堂使用的数字或课堂工作的数字或所有这项工作的副本或全部课堂使用的允许批准。必须尊重由其他人拥有的本工作组件的版权必须尊重ACM。允许用信用抽象。要复制否则，要重新发布，请在服务器上发布，或将其重新分配给列表，要求事先具体许可和/或费用。请求权限发布permissions@acm.org.或传真（212）869-0481。
数字图书馆由Computing Machinery协会发布。版权所有©2022 ACM，Inc。
注释
约瑟夫贝德德
谢谢这篇良好的良好良好的文章。此时，监管将是一个过早的反应。有许多供应商和具有激励措施的公司（如他们自己的生存），以改善招聘过程，因此在任何有效的监管到位之前，市场力量应该在技术中提高技术。在尼利恩约翰逊刘易斯的情况下，他们自己的审查过程揭示了算法雇用是有问题的，然后它们相应地调整。正如本文还指出，“......有些人已经采取了解构了算法招聘的最糟糕的支柱，包括亚马逊，通用汽车，宜家，LinkedIn-Owner Microsoft，Google，Slack和McDonald。”这篇文章让我乐观，招聘将在没有监管干预的情况下提高。
展示1评论