神经网络的分类

神经网络可以分为三种主要类型:前馈神经网络、反馈神经网络 和 图神经网络。

一、前馈神经⽹络

前馈神经⽹络(feedforward neural network)是⼀种简单的神经⽹络,也被称为多层感知机(multi-layer perceptron,简称MLP),其中不同的神经元属于不同的层,由输⼊层 - 隐藏层 - 输出层构成,信号从输⼊层往输出层单向传递,中间⽆反馈,其⽬的是为了拟合某个函数,由⼀个有向⽆环图表⽰,如下:

前馈神经⽹络中包含激活函数(sigmoid函数、tanh函数等)、损失函数(均⽅差损失函数、交叉熵损失函数等)、优化算法(BP算法)等。常⽤的模型结构有:卷积神经⽹络、全连接神经⽹络、BP神经⽹络、RBF神经⽹络、感知机等。下面介绍下经典的卷积神经网络:

卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积运算且具有深度结构的前馈神经网络(Feedforward Neural Networks)。

相比早期的BP神经网络,卷积神经网络最重要的特性在于 "局部感知" 与 "参数共享"。

整体架构:输入层 ------ 卷积层 ------ 池化层 ------ 全连接层 ------ 输出层

二、反馈神经⽹络

反馈神经⽹络(feedback neural network)的输出不仅与当前输⼊以及⽹络权重有关,还和⽹络之前的输⼊有关。它是⼀个有向循环图或是⽆向图,具有很强的联想记忆能⼒和优化计算能⼒。常⽤的模型结构有:RNN、Hopfield⽹络、玻尔兹曼机、LSTM等。

三、 图神经⽹络

图(graph)是⼀种在拓扑空间内按图结构组织来关系推理的函数集合,包括社交⽹络、知识图谱、分⼦图神经⽹络等。

图神经网络通常有以下几种网络模型:图卷积网络、图自编码器、图生成网络、图循环网络、图注意力网络。

图神经网络就是将图数据和神经网络进行结合,在图数据上面进行端对端的计算。图神经网络直接在图上进行计算,整个计算的过程,沿着图的结构进行,这样处理的好处是能够很好的保留图的结构信息。

相关推荐
工边页字1 分钟前
AI产品中的长期记忆和短期记忆是什么,你知道吗?
前端·人工智能·后端
Westward-sun.2 分钟前
OpenCV 实战:花朵轮廓提取与近似轮廓绘制
人工智能·opencv·计算机视觉
智算菩萨2 分钟前
从“流畅“到“动人“:用 ChatGPT 5.4 写出感情真挚的英语散文全攻略
人工智能·gpt·ai·chatgpt·ai写作
集芯微电科技有限公司6 分钟前
适用于GaN PD快充65W/33W超高频驱动器
人工智能·单片机·嵌入式硬件·深度学习·神经网络·机器学习·生成对抗网络
金融Tech趋势派7 分钟前
企业微信私域流量:如何用企业微信SCRM从0到1搭建高转化客户运营体系
大数据·人工智能·企业微信·scrm
❀͜͡傀儡师8 分钟前
从“养虾”到数据分析:OpenClaw与DeepAnalyze等开源AI项目全景
人工智能·数据分析·开源
南宫乘风9 分钟前
从零开发AI诊断Agent:拆解LLM+Tools+Prompt三大核心
人工智能·ffmpeg·prompt
sali-tec10 分钟前
C# 基于OpenCv的视觉工作流-章36-骨架提取
图像处理·人工智能·opencv·算法·计算机视觉
輕華11 分钟前
OpenCV 图像金字塔全解析:高斯金字塔上下采样 + 拉普拉斯金字塔图像复原 | 附完整实战代码
人工智能·opencv·计算机视觉
ZHANG13HAO11 分钟前
物理信息神经网络(PINN):融合物理规律与深度学习的工程建模范式
人工智能