据theverge报道，人工智能研究所(AI Now Institute)的研究人员在今天发布的一份报告中表示，人工智能行业正面临“多样性危机”，这对该领域的发展方向提出了关键问题。
报告发现，女性和有色人种被严重低估。报告指出，研究发现，约80%的人工智能教授是男性，而Facebook和谷歌的人工智能研究人员中，只有15%和10%是女性。有色人种也被边缘化，只占大型科技公司员工的一小部分。
其结果是，劳动力往往由白人和男性视角驱动，构建的工具往往会影响其他群体。人工智能研究所副所长梅雷迪思·惠特克(Meredith Whittaker)表示:“受这些系统影响的并不是人的多样性。”
更糟糕的是，通过修复潜在求职者的“渠道”来改善这一问题的计划基本上失败了。
研究人员写道:“尽管有几十年的‘渠道研究’评估了从学校到行业的不同求职者的流动情况，但人工智能行业在多样性方面没有取得实质性进展。”
研究人员提出了一些改进这个问题的建议。他们表示，公司可以通过发布更多的薪酬数据(按种族和性别分类)，以及发布性骚扰和歧视透明度报告，来提高透明度。
多样性虽然是科技行业的一个障碍，但在人工智能领域却存在着特定的危险。在人工智能领域，面部识别等可能存在偏见的技术，可能会不成比例地影响历史上被边缘化的群体。研究人员写道，像2017年推出的扫描人脸以确定性别的程序，类似这样的工具，反映了过去对于性别歧视的不公平。
但更重要的是，人工智能工具制造商必须愿意不去建造风险最高的项目。“我们需要知道这些系统是安全的，也是公平的，”AI Now研究所副所长凯特·克劳福德(Kate Crawford)表示。
科技行业的员工在一些重大人工智能问题上表明了自己的立场，敦促他们的公司放弃或审查可能伤害弱势群体的敏感工具的使用。亚马逊员工就该公司的面部识别产品向高管提出质疑。最近，谷歌的员工对一个包括美国传统基金会掌舵人在内的人工智能审查委员会发起了反击，指出该组织曾游说反对LGBTQ的权利问题。而公司很快就解散了该董事会。
“人工智能的多样性危机是有案可查且影响广泛的。”研究人员总结道，“在整个行业和学术界的不平等工作场所，在招聘和晋升方面的不平等，在反映和放大偏见成见的人工智能技术，以及在自动化系统中生物决定论的重现，都可以看到这一点。”
联系客服
