ACM通信
ACM TechNews
机器能学习道德吗?
德尔菲系统是为了解决现代人工智能系统中一个被一些人视为主要问题的问题:它们可能和创建它们的人一样有缺陷。
图片来源:Pete Sharp
对于机器来说，道德是一个棘手的问题，正如科学家们在测试德尔福(Delphi)时所了解到的那样。德尔福是艾伦人工智能研究所(Allen Institute for Artificial Intelligence, AI)编写的一种可以做出道德判断的系统。
该神经网络分析了170多万条人类做出的道德判断，为自己建立了一个道德基线，当它的决定被发布到开放的互联网上时，人们普遍同意。
然而，一些人发现Delphi是不一致的、不合逻辑的、侮辱性的，这突显了人工智能系统如何反映出其创造者的偏见、武断和世界观。
德尔福的开发人员希望为人工智能建立一个普遍适用的道德框架，但正如加拿大西蒙弗雷泽大学(Simon Fraser University)的泽拉克·塔拉特(Zeerak Talat)所观察到的，“我们不能让机器对行为负责。他们不是没有指导的。总是有人在指挥和使用它们。”
从《纽约时报》
查看全文-可能需要付费订阅
版权所有©2021SmithBucklin，美国华盛顿特区
没有找到条目