ACM通信
ACM的意见
如何知道人工智能是否即将摧毁文明
是什么提醒我们超级智能近在眼前?
信贷:科技
我们会不会某天早上醒来，惊讶地发现一个超级强大的人工智能出现了，并带来了灾难性的后果?书超智尼克·博斯特罗姆和3.0生活马克斯·泰格马克(Max Tegmark)，以及最近的文章，认为邪恶的超级智能是人类存在的风险。
但人们可以无限猜测。最好问一个更具体、更经验性的问题:什么会提醒我们超级智能确实近在眼前?
我们可以把这些先兆称为人工智能煤矿中的金丝雀。如果一个人工智能程序开发出一种基本的新能力，那就相当于一只金丝雀崩溃了:这是人工智能即将突破的早期预警。
著名的图灵测试能充当金丝雀吗?图灵(Alan Turing)在1950年发明的这个测试，假设当一个人无法区分与人交谈和与电脑交谈时，人类级别的人工智能就会实现。这是一个重要的测试，但它不是金丝雀;更确切地说，这是人类级别的人工智能已经到来的标志。许多计算机科学家相信，如果那一刻真的到来，超级智能将很快随之而来。我们需要更多中间阶段的里程碑。
从技术审查
查看全文
没有发现记录