神经网络之多层感知机

目录

一、全连接层:

在神经网络中,全连接层就是每个神经元都与上一层的所有神经元相连接,即每个神经元都接收上一层所有神经元的输入,并产生输出的一个隐藏层或输出层。(就是对隐藏层和输出层加了限定条件)

如下图所示,隐藏层和输出层都叫做一个全连接层。

二、单层感知机概念:

因为感知机的输出层必须是全连接层,所以单层感知机仅包含输入层和输出层。

  • 输出层若是线性回归模型,则输出结果为1个数。
  • 输出层若是Softmax回归模型,则输出结果是一个m维向量,其中m表示分类数。

三、多层感知机概念:

多层感知机是单层感知机的推广,包含多个全连接层。

多层感知机的所有隐藏层和一个输出层都必须是全连接层 ,再加上输入层最终组成了多层感知机。

下图展示了一个三层全连接层的多层感知机:

相关推荐
Alluxio7 小时前
Alluxio + OCI:为 AI 工作负载实现亚毫秒访问延迟与可扩展吞吐
运维·数据库·人工智能·分布式·缓存·ai·语言模型
johnsong7 小时前
Claude Fable 5.2 登顶:65 分、单发做游戏,和一份 $26.54 一单的账单
人工智能·游戏
凌杰7 小时前
AI 学习笔记:Transformer 架构详解
人工智能
硅谷秋水7 小时前
扩展机器人智能体的在线探索能力
人工智能·语言模型·机器人
Eyfcom7 小时前
〖高级算法实战 04〗物流定价博弈论:动态定价算法如何平衡运力供需与利润?
人工智能·物流管理系统·高级算法实战·众包物流
锋行天下8 小时前
服务器 Python 2.7 装不了 langgraph-cli?用本地生成 Dockerfile 曲线救国
人工智能·后端·python
一条大祥脚8 小时前
深入理解 PyTorch FlexAttention:从 Score Mod 到 Mask Mod 的稀疏加速之道
人工智能·pytorch·python·注意力机制·flex attention·可编程注意力
机 _ 长8 小时前
03 智算运维|丢 0.1% 的包,8 卡训练为什么会崩
人工智能·模型部署·智算运维
汤姆宝库8 小时前
权重量化的实现:从absmax到GPTQ与AWQ
人工智能
硅谷秋水9 小时前
PhysicalWords:一种用于构建机器人操作中潜推理过程的词汇体系
人工智能·机器学习·计算机视觉·语言模型·机器人