【博士每天一篇文献-算法】Imposing Connectome-Derived Topology on an Echo State Network

阅读时间:2023-11-5

1 介绍

年份:2022

作者:Jacob Morra, Mark Daley 西部大学

期刊:2022 International Joint Conference on Neural Networks (IJCNN)

引用量:3

研究了果蝇连接图的拓扑结构对混沌时间序列预测中回声状态网络(Echo State Network,ESN)性能的影响。论文讨论了一类模型的开发,称为"果蝇ESN"(FFESN),它用果蝇连接图派生的连接矩阵替换了经典ESN的储层层。作者训练并验证了FFESN在混沌时间序列预测任务中的性能,并将其与控制模型ESN进行了比较。结果表明,FFESN要么明显优于ESN,要么具有较低的方差。

该算法将经典ESN的储层层替换为果蝇连接组得到的连接矩阵。通过强制具有特定连接结构的连接图来对ESN储层施加拓扑约束。

idea启发于论文【A Connectome of the Adult Drosophila Central Brain】

2 创新点

(1)引入了基于果蝇的神经连接结构(Fruit Fly Connectome)作为Echo State Network(ESN)的网络拓扑结构。通过将经典ESN的储层层替换为基于果蝇神经连接结构的连接矩阵,提出了一种名为"Fruit Fly ESNs"(FFESNs)的模型类别。

(2)在混沌时间序列预测任务上对FFESNs进行了训练和验证,并与控制模型ESN进行了性能对比。结果显示,FFESN要么显著优于ESN,要么具有更低的方差。

(3)通过基于果蝇神经连接结构生成连接矩阵的方法进行了详细描述,并给出了ESN网络动力学的正式描述。

3 算法

通过强制具有特定连接结构的连接图来对ESN储层施加拓扑约束,连接图采用Janelia's hemibrain连接图矩阵,此矩阵中的单元格值对应于神经元之间的突触-突触连接数量(权重)。权重矩阵的对角线被填充为1,归一化后如下图。

4 实验分析

(1)调参

Leakying reate α确定了前一个和当前储层激活对当前储层激活的影响。正则化系数λ确定了岭回归惩罚项的大小。没有选择其他的超参数,例如谱半径,因为这些会改变的实验和对比储层拓扑结构。

(2)多次迭代的MSE分布

50次迭代预测的均方误差

显示了在训练输入大小为900时,FFESN的均方误差(MSE)明显低于ESN,并且误差分布更为集中。

(2)预测MSE方差

Variant A和Variant B的情况下,预测性能和误差方差的比较结果

对于特定的训练输入大小A,Variant A需要预测更远未来的值,相比之下,Variant B需要更短期的预测。在时间序列预测任务中,FFESN模型要么明显优于ESN模型且具有更低的误差方差,要么在保持显著减少误差方差的同时与ESN模型的性能相当。

5 思考

这篇的论文和【Investigating Echo State Network Performance with Biologically-Inspired Hierarchical Network Structure】是一样的思想,Idea是一样的。就是论文的Idea来源不一样。这篇来源于【A Connectome of the Adult Drosophila Central Brain】,另一篇来源于【 Community detection and classification in hierarchical stochastic blockmodels. 】。具体的区别是什么,还没有搞明白,我认知大致是相同的。

相关推荐
牛客企业服务3 分钟前
2025年AI面试推荐榜单,数字化招聘转型优选
人工智能·python·算法·面试·职场和发展·金融·求职招聘
糖葫芦君42 分钟前
Policy Gradient【强化学习的数学原理】
算法
向阳@向远方2 小时前
第二章 简单程序设计
开发语言·c++·算法
github_czy3 小时前
RRF (Reciprocal Rank Fusion) 排序算法详解
算法·排序算法
许愿与你永世安宁4 小时前
力扣343 整数拆分
数据结构·算法·leetcode
爱coding的橙子4 小时前
每日算法刷题Day42 7.5:leetcode前缀和3道题,用时2h
算法·leetcode·职场和发展
满分观察网友z4 小时前
从一次手滑,我洞悉了用户输入的所有可能性(3330. 找到初始输入字符串 I)
算法
YuTaoShao5 小时前
【LeetCode 热题 100】73. 矩阵置零——(解法二)空间复杂度 O(1)
java·算法·leetcode·矩阵
Heartoxx5 小时前
c语言-指针(数组)练习2
c语言·数据结构·算法
大熊背5 小时前
图像处理专业书籍以及网络资源总结
人工智能·算法·microsoft