亚马逊废弃秘密人工智能招聘工具,显示出对女性的偏见

亚马逊废弃秘密人工智能招聘工具,显示出对女性的偏见

旧金山(路透社) - 亚马逊公司(AMZN.O)的机器学习专家发现了一个大问题:他们的新招聘引擎并不喜欢女性。

自2014年以来,该团队一直在建立计算机程序,以审查求职者’据知情人士透露,5名知情人士告诉路透社,该机构正在努力寻找顶尖人才。

自动化是亚马逊电子商务主导地位的关键,无论是在仓库内还是推动定价决策。一些人说,该公司的实验性招聘工具使用人工智能为求职者提供一到五星级的评分 - 就像购物者对亚马逊的产品评分一样。

“每个人都想要这个圣杯,”其中一个人说。 “他们确实希望它成为一个引擎,我将为你提供100份简历,它将吐出前五名,我们将雇用那些。“rdquo;

但到2015年,该公司意识到其新系统并未以性别中立的方式评定软件开发人员职位和其他技术职位的候选人。

这是因为亚马逊的计算机模型经过培训,可以通过观察10年内提交给公司的简历中的模式来审核申请人。大部分来自男性,反映了整个科技行业的男性主导地位。

实际上,亚马逊的系统教会了男性候选人更可取。它惩罚了包括“女人”这个词在内的简历,”就像在“女性国际象棋俱乐部队长”中一样。”据知情人士透露,它降低了两所全女子大学的毕业生的评级。他们没有说明学校的名称。

亚马逊编辑了这些程序,使其对这些特定术语保持中立。但人们说,这并不能保证这些机器不会设计其他方式来对可能具有歧视性的候选人进行分类。

据不愿透露姓名的人士透露,这家西雅图公司最终在去年年初解散了该团队,因为高管们对该项目失去了希望。他们说,亚马逊的招聘人员在搜索新员工时会查看该工具所产生的建议,但从不依赖这些排名。

亚马逊拒绝对该技术面临的挑战发表评论,但表示该工具“从未被亚马逊招聘人员用于评估候选人”。”该公司没有进一步详细说明。招聘人员看到招聘引擎产生的建议并不存在争议。

路透社首次报道的公司实验提供了机器学习局限性的案例研究。它还为越来越多的大型公司提供了教训,其中包括希尔顿全球控股公司(HLT.N)和高盛集团公司(GS.N),这些公司希望实现部分招聘流程的自动化。

根据人才软件公司CareerBuilder 2017年的调查显示,大约55%的美国人力资源经理表示,人工智能或人工智能将在未来五年内成为他们工作的常规部分。

雇主长期以来一直梦想利用技术拓宽招聘网络,减少对招聘人员主观意见的依赖。但是在卡内基梅隆大学教授机器学习的Nihar Shah等计算机科学家表示,还有很多工作要做。

(责任编辑:英豪彩票平台)

本文地址:http://www.efsfl.com/shiyouzhipin/shinaoyou/201908/1116.html

上一篇:印度'竞争委员会拒绝针对Uber和Ola的价格垄断指控 下一篇:没有了