acm-header
登录

ACM通信

ACM新闻

有缺陷的人工智能让机器人成为种族主义者和性别歧视者


随着各大公司竞相将机器人商业化,该团队怀疑,具有这些缺陷的模型可以作为设计用于家庭和仓库等工作场所的机器人的基础。

来源:盖蒂图片社

一个运行着流行的基于互联网的人工智能系统的机器人总是被男性吸引而不是女性,被白人吸引而不是有色人种,而且只要看一眼人们的脸就能对他们的工作做出判断。

这项由约翰霍普金斯大学、乔治亚理工学院和华盛顿大学的研究人员领导的研究,被认为是第一次表明,装载了被接受和广泛使用的模型的机器人在运行时存在明显的性别和种族偏见。工作已经准备好了发表本周在2022年公平、问责和透明会议上。

“机器人通过这些有缺陷的神经网络模型学会了有毒的刻板印象,”作者安德鲁·亨特(Andrew Hundt)说。他是佐治亚理工学院的博士后,也是该研究所的博士生,参与了这项研究约翰霍普金斯计算交互和机器人实验室.“我们面临着创造一代种族主义和性别歧视的机器人的风险,但人们和组织已经决定,在不解决这些问题的情况下创造这些产品是可以的。”

约翰霍普金斯大学
查看全文


没有发现记录

Baidu
map