ACM通信

ACM通信

人工智能的道德责任

Moshe Y. Vardi著
ACM通信，2016年5月，第59卷第5期，第5页
10.1145 / 2903530
评论(2)

今年3月12日的重大新闻是，围棋人工智能系统AlphaGo在韩国首尔与18届世界冠军李世石(Lee Se-dol)进行的五场比赛中，赢得了第三场胜利。(AlphaGo是由DeepMind开发的程序，这家英国人工智能公司两年前被谷歌收购。)1997年，“深蓝”击败国际象棋世界冠军加里·卡斯帕罗夫(Gary Kasparov)后，围棋成为人工智能的下一个重大挑战。围棋挑战了在象棋中非常成功的博弈树搜索的“蛮力”方法。在2012年,通信发表了一篇研究重点文章Sylvain Gelly等人。该报告称，“基于蒙特卡罗树搜索的程序现在已达到人类大师级别，并开始挑战顶级职业棋手。”AlphaGo将树搜索技术与使用深度学习的搜索空间缩减技术相结合。它的胜利是一项惊人的成就，也是人工智能研究不可阻挡的前进道路上的又一个里程碑。

通过使用深度学习技术修剪搜索树，AlphaGo可以说是用“直觉”增强了蛮力搜索，这是它通过与自己进行大量对局而发展起来的。(谷歌表示AlphaGo没有使用李世石的比赛作为训练数据。)依靠学习的“直觉”，AlphaGo能够克服所谓的波兰尼悖论．哲学家迈克尔·波兰尼(Michael Polanyi)在1966年观察到:“我们能知道的比我们能说的更多……驾驶员的技术是完全的汽车理论教育所不能取代的。”一些劳动经济学家将波兰尼悖论视为人工智能的主要障碍，认为这意味着人工智能将人类工作自动化的潜力受到了限制。AlphaGo的胜利表明，机器学习提供了一条绕过这一障碍的途径。

事实上，驾驶自动化在过去十年中一直是人工智能研究的主要挑战。2004年，经济学家认为，由于波兰尼悖论(Polanyi’s Paradox)，驾驶在近期内不太可能实现自动化。一年后，斯坦福大学的一辆自动驾驶汽车在未经排练的沙漠小路上行驶了100多英里，赢得了DARPA大挑战赛。十多年后的今天，科技公司和汽车公司都在大力追求驾驶自动化。我预计这些技术挑战将在未来十年得到解决。

1843年，因研究查尔斯·巴贝奇的分析机而闻名的艾达·拉芙莱斯给巴贝奇写信说，她希望看到计算技术发展为“人类最有效的用途”。我很难想象，除了自动驾驶之外，还有什么计算技术可以在10年或20年内部署，并为人类带来如此大的好处。全世界每年大约有125万人死于车祸。超过90%的事故是由人为错误造成的。通过自动驾驶，我们每年可以挽救一百多万人的生命，并避免无数的伤害。

与此同时，驾驶自动化将对全球经济产生巨大的颠覆性影响。现有的产业将会萎缩，而全新的产业将会崛起。在美国，有近10%的工作与汽车操作有关，我们可以预期，这些工作中的大多数将消失。这种深刻变化的人力成本不可低估。作为一个先例，我们可以看到美国制造业在过去35年里发生了什么。尽管以不变美元计算的制造业产出处于历史最高水平，但制造业就业人数在1980年前后达到峰值，如今低于1947年的水平。

自动化导致数百万工作岗位的消失，或许可以解释经济学家、2015年诺贝尔经济科学奖得主安格斯·迪顿(Angus Deaton)和安妮·凯斯(Anne Case)最近一项相当令人震惊的发现:由于自杀和药物滥用引发的痛苦流行，美国中年白人的死亡率在过去25年里一直在上升。

因此，驾驶自动化将是非常有益的，可以大规模地挽救生命和防止伤害。与此同时，它将对劳动力市场产生严重的不利影响。在平衡中，拯救生命和预防伤害必须放在首位，我们在道德上有义务开发和部署自动驾驶。解决劳动问题不是技术问题，而是社会政治问题。作为计算机专业人员，我们在道德上也有义务承认我们开发的技术的不良社会后果，并与社会科学家一起寻找解决这些后果的方法。

跟我上脸谱网，谷歌+,推特．

摩西·y瓦迪主编

数字图书馆是由计算机协会出版的。版权所有©2016 ACM, Inc.

---

评论

---

显示所有2评论