acm-header
登录

ACM通信

ACM新闻

神经进化能改变机器学习吗?


一种神经细胞,人工神经网络试图模仿它。

神经进化是一种人工智能,它使用进化算法生成人工神经网络、参数、拓扑和规则。

来源:cloudfront.net

许多与机器学习相关的概念已经存在了几十年。然而,在过去的几年里,计算能力的巨大进步使研究人员得以探索那些已经衰落的算法和方法。有一个想法突然引起了人工智能世界的注意:neuroevolution.该方法通过筛选人工神经网络中的神经通路来模仿自然进化。通过突变,它确定了处理特定任务最有效的途径。

在未来的几年里,神经进化可以通过使系统更动态、更智能地调整和适应,从而影响机器人、医学和物流等多个领域。尽管这一概念的起源可以追溯到20世纪80年代,但今天的计算能力正允许研究人员为旧的算法注入新的生命。

“神经进化结合了进化算法和人工神经网络。其结果是一种训练系统的能力,就像地球上大脑的进化一样,”解释道肯尼斯·斯坦利他是哈佛大学的高级研究科学家超级人工智能实验室以及中佛罗里达大学的一位休假教授。

自然选择(代码)

神经进化受到自然的启发。传统深度学习使用的方法称为随机梯度下降(SGD);它通过不断的训练逐步减少错误,随着时间的推移改进算法。尽管SGD在处理许多计算任务(包括语音和图像识别等困难的活动)时非常有效,但它在“强化学习”这一更困难的挑战中更困难,这意味着学习如何在只有很少的反馈的情况下行动。例如,一个有一条腿受伤或残疾的机器人必须学习一种不同的走路方式,而没有人确切地告诉它应该如何适应那种独特的情况。

“通常,神经网络用于已有数据集的领域,”解释道Risto Miikkulainen他是德克萨斯大学奥斯汀分校计算机科学系的教授,也是人工智能软件公司Sentient Technologies的研究副总裁。“当你有可以告诉你如何将输入和输出映射的现有数据点时,它们是有用的。“这包括理解股票市场的行为或天气状况的潜在动态,随着时间的推移,两者都显示出已知的模式。然而,Miikkulainen补充道:“如果你不知道给定输入的正确输出是什么,你就不能使用这种方法。”

神经进化旨在绕过这一障碍。在过去几年里,包括这家非盈利研究公司成员在内的几位研究人员都在尝试这种方法OpenAI以及DeepMind和谷歌的团队。Stanley)和杰夫Clune他是Uber AI实验室的高级研究科学家,也是怀俄明大学的休假副教授,他证明了神经进化也是创建深度神经网络的强大算法,可以解决硬强化学习问题。遗传算法(遗传算法),他们和优步AI实验室团队开发了训练有素的深度卷积网络,拥有超过400万个参数。

机突变

这项研究已经证明了神经进化的实际可行性。斯坦利和克伦,他们共同撰写了五个学术论文他利用遗传算法训练神经网络,从像素开始玩雅达利(Atari)视频游戏。该系统在13局游戏中有6局优于传统机器学习方法,并避免了SGD无法避免的一些死胡同。更重要的是,在三款游戏中,该系统的表现超过了人类。

斯坦利说,一个关键因素是神经网络自发突变的能力。他、克伦和Uber的另一位研究科学家乔尔•雷曼(Joel Lehman)找到了一种引入“安全”突变的方法,帮助神经网络大幅增长,并产生更好的结果。这项技术使它们能够进化出深度神经网络()有超过100层,这远远超出了之前通过神经进化所显示的可能性。

在优步,实际的好处可能包括开发改进的定价模型或更高效的调度或路由系统。但这只是神经进化的部分魅力,克鲁恩说。GA,特别是当与其他机器学习算法相结合时,可能会在机器人、无人机、自动驾驶汽车、智能城市、药物设计和网络安全方面带来各种改进。这些系统可以动态和智能地适应变化,无论是无人机的结构损坏,还是社区交通的突然激增。

Miikkulainen解释道:“我们的目标是创建一个能够快速探索和测试可能性并选择最佳方法的框架。”

事实上,Miikkulainen相信神经进化的未来是光明的。它为解决复杂的计算问题增加了一个潜在的强大工具。包括OpenAI团队在内的其他公司正在该领域进行研究,并关注着各种可能性。

克鲁恩总结道:“神经进化一直是一个有趣的概念。现代计算使研究人员能够开始真正利用这一想法,就像列奥纳多·达·芬奇在实际建造和飞行直升机之前很久就设想了一架直升机一样。”

塞缪尔·格林加德是美国俄勒冈州西林的作家兼记者。


没有发现记录

登录为完全访问
»忘记密码? »创建ACM Web帐号
Baidu
map