ACM通信
在大脑中寻找计算的基础范式
詹姆斯·史密斯对ACM联邦研究计算大会的主题与会者说，人脑“远远超过了任何传统机器学习已经实现的东西”。
来源:卡内基梅隆大学
今天，在ACM联邦研究计算会议(FCRC)上，卡内基梅隆大学硅谷分校的兼职教授、威斯康星大学麦迪逊分校的名誉教授詹姆斯·e·史密斯(James E. Smith)在题为“逆向构建大脑新皮层的路线图”的主题演讲中，引用了微电子先驱卡佛米德他写道:“如果我们了解神经信息处理的原理，在神经系统中所做的一切，我们都可以用电子学来模仿。”
史密斯在凤凰城会议中心发表讲话说，人类的大脑有能力进行极其精确的传感器感知、高级推理和解决问题，以及驱动复杂的运动活动。它令人印象深刻的特点是它的效率，它在支持各种认知功能方面的灵活性，以及它在操作的同时动态、快速地学习的能力。即使在今天，大脑“也远远超过了传统机器学习所达到的任何成就”。
理解大脑新皮层中使用的计算范式是一个具有重大实践和科学意义的计算机架构研究问题，但正如史密斯所指出的，这是一个非传统的研究问题，因为它从最终产品(具有强大功能的极其高效的生物计算引擎)开始，然后回归到那些底层范式。Smith说，虽然这项任务是艰巨的，但实现它的路线图“可以简化为探索抽象的自然层次”。
史密斯对大脑新皮层的物理结构进行了一些分析，深入到生物神经元的结构和能力，“物理结构可能对应于功能结构。”
他讨论了体系结构和抽象之间的联系，因为“工程高度复杂的系统需要抽象”。Smith说传统的计算机架构包含许多层次的抽象，例如连接电路到逻辑门的基本抽象，以及连接硬件到软件的基本抽象。
Smith提供了长期和短期的路线图，其中包括对构成新皮层计算架构的基本元素的考虑，包括对时间编码与速率编码的比较，以及对时间神经网络(TNNs)的考虑，他将其描述为“模型神经元的前馈网络”。
他用神经网络分类法描述了这项研究的主要目标，这是一种以无监督、连续、快速和节能的方式学习的计算范式。”史密斯说，这就是他的研究与他所描述的“绝大多数‘尖峰神经网络’研究”的区别所在。
他还考虑了“批量抑制”(Bulk Inhibition)的作用，即“抑制神经元集体作用于局部神经元”，从而形成抑制的“毯子”。他指出，少数抑制神经元可以控制许多兴奋神经元。他说，无论哪种方式，这都应该被建模为“参数化的赢家通吃”抑制。
Smith还将Spike Timing Dependent可塑性(STDP)定义为“神奇之处”。他解释说，在STDP中，每个突触根据其当前权重和局部峰值时间关系更新其权重。
在引用了“神经科学建筑师万神殿”之后，理论神经科学家们已经致力于开发基于大脑的计算范式超过20年(包括西蒙·j·索普，沃尔夫冈马斯河,桑德Bohte)，史密斯建议在场的许多学生考虑从事生物计算方面的研究。例如，他指出，关于时间神经网络(TNN)的文献相对较少，TNN的发展“并不遥远，所以没有太多的东西可以学习。”
此外，史密斯说，这一领域的研究“对计算的要求很低”，只需要一台高端台式电脑。总而言之，他说，“至多几个月就能赶上进度。”
劳伦斯·m·费雪是ACM杂志的高级编辑/新闻。
没有发现记录