ACM通信
忘掉人工智能吧，扩展智能才是未来
当我们将具有紧急智能的机器引入到诸如经济、环境或健康等复杂的适应性系统中时，它们正在增强而不是取代人类个体，更重要的是，它们正在增强这些系统。
图片来源:TEK图片/科学图片库/Wired
去年，我参加了一个关于人类对人类的利用，诺伯特·韦纳关于控制论理论的开创性著作。我现在认为，这是一份反对奇点运动的宣言。奇点运动认为，人工智能(AI)将取代并最终取代我们人类。
奇点的概念——包括人工智能将以指数级增长取代人类的想法，使我们人类已经做过和将要做的一切变得微不足道——主要是由那些设计并成功部署计算来解决以前被认为对机器来说不可能复杂的问题的人创造出来的。
他们在数字计算领域找到了一个完美的合作伙伴，这是一个看似可知、可控、基于机器的思考和创造系统，它驾驭和处理复杂性的能力正在迅速提高，在这个过程中，将财富和权力赋予掌握它的人。
在硅谷，集体思维和这种技术狂热的经济成功结合在一起，形成了一个缺乏自我监管的反馈循环(尽管#techwontbuild #、#metoo #和#timesup #正迫使人们进行一些反思)。
在s曲线或钟形曲线上，斜率的开始看起来很像指数曲线。然而，根据系统动力学研究人员的说法，指数曲线是一种没有极限的、自我强化的、危险的正反馈曲线。
在指数曲线中，奇点主义者看到了超级智能和富足。奇点气泡之外的大多数人认为，自然系统的行为就像s曲线，在那里系统会做出反应并自我调节。例如，当一场大流行结束时，它的传播速度会减缓，世界进入一种新的平衡状态。世界可能不再处于大流行或其他失控的变化之前的同一状态，但奇点的概念——特别是作为某种救世主或审判日，将使我们超越人类存在的混乱和致命痛苦——从根本上是有缺陷的。
这种简化主义的想法并不新鲜。当心理学家BF斯金纳(BF Skinner)发现强化原理并能够描述它时，我们围绕他的理论设计了教育。
然而，现在研究学习的科学家们知道，像斯金纳这样的行为主义方法只对一小部分学习有效，但许多学校仍然继续依赖于训练、练习和其他强化支柱。再举一个例子，优生学领域，它错误地过度简化了遗传学在社会中的作用。这一运动为纳粹的种族灭绝提供了一种简化主义的科学观点，即我们可以通过手动推动自然选择来“修复人类”。如今，这种恐惧的回声依然存在，几乎所有将基因与智力等因素联系起来的研究都成为禁忌。
从《连线》杂志
查看全文
没有发现记录