ACM通信
我们不应该被“超级智能人工智能”吓到。
当前关于超人人工智能的讨论受到了关于智能本质的错误直觉的困扰。
信贷:索菲亚Foster-Dimino
智能机器灾难性地曲解了人类的欲望是科幻小说中经常出现的比喻，最令人印象深刻的可能是艾萨克·阿西莫夫(Isaac Asimov)关于机器人曲解了著名的“机器人三定律”的故事。人工智能出问题的想法与人类对技术的恐惧产生了共鸣。但目前关于超人人工智能的讨论，受到了关于智能本质的错误直觉的困扰。
我们不需要一直追溯到艾萨克·阿西莫夫(Isaac Asimov)——最近有很多这样的例子。取《纽约时报》最近的一篇专栏文章以及计算机科学家斯图尔特·拉塞尔(Stuart Russell)的新书《人类兼容》(Human Compatible)。Russell认为，如果我们不小心设计人工智能，我们就有可能创造出“超级智能”机器，其目标与我们的目标不完全一致。
作为一个目标错位的例子，罗素问道:“如果一个超级智能的气候控制系统，被要求将二氧化碳浓度恢复到工业化前的水平，认为解决方案是将人口减少到零，会怎样?”他声称，“如果我们把错误的目标插入机器，而它比我们更聪明，我们就输了。”
罗素的观点扩展了哲学家尼克·博斯特罗姆的观点定义人工智能超级智能是“一种在几乎所有领域都比最优秀的人类大脑聪明得多的智力，包括科学创造力、一般智慧和社交技能。”博斯特罗姆和罗素设想了一种具有广泛通用能力的超级智能，不像当今最好的机器，除了在相对狭窄的领域(如下棋或围棋)外，它们在所有方面都远低于人类水平。
博斯特罗姆、罗素和其他作家认为，即使在可预见的未来出现这种超级智能机器的可能性很小，但这将是一个如此巨大和潜在危险的事件，我们应该现在就开始准备。在博斯特罗姆视图，“机器超级智能创造的一个可能的默认结果是存在的灾难。”也就是说，人类将被烤焦。
这些思想家——让我们称他们为“超级智能群体”——推测，如果机器能够达到人类的一般智力，那么机器将很快变得超级智能。他们推测，一台具有一般智能的计算机将能够快速阅读所有现有的书籍和文件，吸收全部人类知识。同样地，机器将能够利用其逻辑能力进行发现，以增加其认知能力。
据推测，这样的机器将不受人类的限制，如思维迟钝、情绪波动、非理性偏见和需要睡眠等。相反，机器将拥有类似“纯”智能的东西，没有任何限制人类的认知缺陷。
假设似乎是，这种人工智能可以超越人类智能的通用性和灵活性，同时无缝地保持计算机的速度、精度和可编程性。这个想象中的机器将比任何人类都要聪明得多，在“一般智慧和社交技能”方面要出色得多，但同时它将不受限制地使用其所有机械功能。正如罗素的例子所表明的那样，它将缺乏人类的常识。
从《纽约时报》
查看全文
没有发现记录