查看原文
其他

PNAS速递:人工神经网络中认知能力的多层次发展

王百臻 集智俱乐部 2022-10-11


导语


本文展示了一个描述信息处理和认知能力习得的三级计算模型。研究人员提出了构建这些级别的最小架构需求,以及参数的选取将如何影响它们的性能和关系。在面对视觉分类问题时,第一感觉运动层处理局部的无意识过程。第二层或认知层通过远程连接将来自多个局部处理器的信息进行全局整合,并以一种全局但仍然是无意识的方式进行合成。第三层是认知能力最高的层次,全面而有意识地处理信息。它以全局神经元工作空间(global neuronal workspace, GNW)理论为基础,被称为意识层。


本文使用跟踪和延迟条件反射任务分别挑战第二层和第三层。研究结果首先强调了通过选择和稳定局部和全局范围内的突触来实现表观进化的必要性,从而使神经网络能够解决前两个任务。在全局范围内,尽管感知和奖励之间存在时间延迟,多巴胺似乎是正确提供反馈分配的必要条件。在第三层,中间神经元的存在对于在没有感觉输入的情况下维持GNW的自我维持表征是必要的。最后,平衡的自发内在活动促进了局部和全局尺度上的表观形成,而平衡的兴奋/抑制比提高了表现。本文从神经发育和人工智能两个方面讨论了模型的可行性。


研究领域:全局神经元工作空间,算法设计,神经网络,人工智能

王百臻 | 作者

邓一雪 | 编辑


 

论文题目:

Multilevel development of cognitive abilities in an artificial neural network

论文链接:

https://www.pnas.org/doi/10.1073/pnas.2201304119





1. 多级神经网络模型的组织构成




本文提出了一个精细的多级神经网络计算模型,三个不同层次连接组结构的复杂度不断增加。第一层,称之为“感觉运动层”(sensorimotor level),处理局部感觉处理和视觉信息分类。第二层或“认知层”(conscious level)调动多个皮层区域,它们之间的整合需要长距离的轴突连接。第三层,被称为“意识层”(conscious level),能够使用类似于认知层的架构来执行跟踪条件反射任务。


图1:完整的网络架构及其组成部分的示意图,颜色描述了不同类型连接:浅蓝色—远程兴奋;红色—抑制(STDP);绿色—兴奋性(STDP);黄色—细胞外多巴胺调节


对不同层次任务而言,感觉运动层是所有任务的共同特征。在这个层次上,研究使用 MNIS 手写数字数据集作为视觉皮层的视觉输入。而对于另外两个任务,延迟条件反射和追踪条件反射(delay and trace conditioning)已经被用来挑战认知和意识水平。


图2:视觉皮层的局部网络对 MNIST 数据集执行分类任务





2. 结构组织的三个层次

表现出递增的连接组复杂度




(1)感觉运动层


感觉运动层,神经网络可以使用手写数字作为输入来执行数字识别任务。该图像处理任务通过利用局部突触后生以及网络的自发活动来调动无意识的感知。


图3:局部后生和局部网络的表现。(A)通过选择性稳定突触的表观发生假设的示意图。(B) 局部网络最后一层整个突触群突触强度的演变。(C) 突触选择性稳定的表观生成过程,即突触数量而不是 A 中的强度。


(2)认知层


对于认知层,研究人员检查执行延迟调节任务需要哪种网络全局架构,再次使用数字作为无条件刺激和条件刺激的视觉刺激。文章发现远程连接的存在和它们的表观发生都是必需的。


图4:在延迟条件下进行二元分类时,GNW 和运动皮层之间的远程连接网络的表观生成。(A) 延迟调节任务的描述。(B) GNW 内两组神经元放电率的演变。(C) GNW 和运动皮层之间的全局联系的表观发生


(3)意识层


在意识层中,中间神经元的作用被认为是 GNW 维持有意识表征的关键。本文的模型包括两个选择性兴奋性群体和一个中间神经元群体。一旦成熟,它可以保持稳定的表征,并在出现不同的刺激时将其擦除。研究者发现,学习跟踪条件反射的机制高度依赖于工作记忆维持所需刺激的能力。


图5:GNW 和运动皮层之间的远程连接网络的表观生成,同时在跟踪条件下执行二元分类。(A) 跟踪调节任务的描述。(B) GNW 内三个神经元群的放电率的演变。(C) GNW 和运动皮层之间的全局联系的表观发生


复杂科学最新论文


集智斑图顶刊论文速递栏目上线以来,持续收录来自Nature、Science等顶刊的最新论文,追踪复杂系统、网络科学、计算社会科学等领域的前沿进展。现在正式推出订阅功能,每周通过微信服务号「集智斑图」推送论文信息。扫描下方二维码即可一键订阅:




推荐阅读



点击“阅读原文”,追踪复杂科学顶刊论文

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存