脉冲神经网络(SNN)论文阅读(六)-----ECCV-2024 脉冲驱动的SNN目标检测框架:SpikeYOLO

原文链接:CSDN-脉冲神经网络(SNN)论文阅读(六)-----ECCV-2024 脉冲驱动的SNN目标检测框架:SpikeYOLO

Integer-Valued Training and Spike-Driven Inference Spiking Neural Network for High-performance and Energy-efficient Object Detection

  • 目录
    • 论文信息
    • 主要贡献
    • SpikeYOLO
    • [Integer Leaky Integrate-and-Fire (I-LIF) Spiking Neuron](#Integer Leaky Integrate-and-Fire (I-LIF) Spiking Neuron)
    • 实验对比
      • [静态COCO 2017 Dataset 对比:](#静态COCO 2017 Dataset 对比:)
      • [神经形态Gen1 Automotive Detection Dataset对比:](#神经形态Gen1 Automotive Detection Dataset对比:)

目录

论文信息

论文标题:Integer-Valued Training and Spike-Driven Inference Spiking Neural Network for High-performance and Energy-efficient Object Detection
论文地址
code

由中科院自动化所(李国齐团队)研究人员发表于ECCV 2024 Oral。

主要贡献

  • 设计了SpikeYOLO architecture用于目标检测。
  • 设计了新的脉冲神经元:I-LIF,训练时保持整数值通信推理时重参数化为低功耗的二元脉冲。
  • 在静态以及神经形态目标检测数据集上均取得了SOTA性能。

SpikeYOLO

  • 宏观设计参考YOLOv8,微观设计参考作者团队之前提出的Meta-SpikeFormer1中的meta SNN block。
  • 设计了SNN-Block-1和SNN-Block-2,其他架构和YOLOv8保持一致。
  • SNN-Block-1:
  • SNN-Block-2:

Integer Leaky Integrate-and-Fire (I-LIF) Spiking Neuron

  • 脉冲神经元累积膜电势,当膜电势达到阈值时产生脉冲,从连续的膜电势到离散的脉冲信号会带来信息损失。
  • I-LIF神经元基于LIF神经元模型,在训练时产生模拟值输出,而在推理时转换为二元的脉冲,从而缓解信息损失提升性能。
  • 训练期间将膜电势round到最近的整数值,控制其输出范围位于0,D之间,D是超参数标识I-LIF可产生的最大值输出。使用矩形函数代理梯度计算梯度信息。
  • 推理期间将原始的时间步长 T T T扩展至 T × D T \times D T×D,将本应位于0,D的输出在扩展后的时间步长内转换为每个时间步长内的二元脉冲输出。

实验对比

静态COCO 2017 Dataset 对比:

神经形态Gen1 Automotive Detection Dataset对比:

更多详细信息请看原文。

参考文献:

1 Spike-driven transformer v2: Meta spiking neural network architecture inspiring the design of next-generation neuromorphic chips. In ICLR. 2024.

本文由CSDN-lan人啊原创,转载请注明!

相关推荐
装不满的克莱因瓶1 天前
循环神经网络及LSTM——从序列建模到长期依赖记忆机制
人工智能·pytorch·python·rnn·深度学习·神经网络·lstm
谷哥的小弟1 天前
大模型核心基础知识(18)—Transformer模型的提出背景
人工智能·深度学习·神经网络·大模型·transformer·大语言模型
叫我:松哥1 天前
基于神经网络的汽车与自行车的分类算法设计与实现,采用ResNet50和迁移学习,准确率达到99%
人工智能·python·神经网络·机器学习·分类·汽车·迁移学习
XINVRY-FPGA1 天前
XC7A100T-2CSG324I AMD Xilinx Artix-7 FPGA
arm开发·人工智能·嵌入式硬件·神经网络·fpga开发·硬件工程·fpga
装不满的克莱因瓶1 天前
NLP中的卷积神经网络CNN——从图像卷积到文本特征提取的跨界应用
人工智能·pytorch·python·深度学习·神经网络·自然语言处理·cnn
张飞飞飞飞飞1 天前
目标检测-根据YOLO格式标签统计目标尺寸分布
人工智能·yolo·目标检测
Rocky Ding*1 天前
Token Merging for Fast Stable Diffusion:一篇读懂 Stable Diffusion 的免训练加速机制
论文阅读·人工智能·深度学习·机器学习·stable diffusion·aigc·ai-native
动物园猫1 天前
夜间野生动物目标检测数据集分享(适用于YOLO系列深度学习分类检测任务)
深度学习·yolo·目标检测
YOLO数据集集合1 天前
智慧林业航拍图像数据集 | 树木目标检测、病虫害识别、AI林业监测数据集10282
人工智能·深度学习·目标检测·计算机视觉·无人机
cesske1 天前
CNN实现手写数字识别,完整可运行源码
人工智能·神经网络·cnn·手写数字识别·cnn实战·深度学习项目