深度学习记录--神经网络表示及其向量化

神经网络表示

如下图

就这个神经网络图来说,它有三层,分别是输入层 (Input layer ),隐藏层 (Hidden layer ),输出层 (Output layer)

对于其他的神经网络,隐藏层可以有很多层

一般来说,不把输入层算作一个标准的层,所以这是一个双层神经网络

神经网络的计算

对于每一层的每个节点,以logistic为例,每个节点会得出一个a值(y的预测值)

然后这个a值作为新的输入值进入下一层的节点,重复上一个过程

最终输出最终预测值

所以,每个节点 都包含一个完整的logistic计算

如下图所示,第一层的a值代入到第二层的计算中

符号表示

从神经网络开始,出现了大量的符号,本弱鸡刚开始学也有点糊涂,经过好一番思考,才明白了每个符号的表示

层的表示

从输入层开始,每一层都需要被表示,一般用方括号上标 表示第几层,注意,输入层为第0层

这个符号表示第i层的x值

样本表示

对于多份样本数据,一般用圆括号上标表示第几份样本数据

这个表示第i份样本数据,注意,每份样本数据包含了所有的特征变量(它的表示见下)

每份样本中特征变量的表示

上面说了每份样本数据包含了所有特征变量,特征变量如何表示

一般用下标表示第几个特征变量

这个表示某层第i个特征变量,nx为特征变量的总数

完整表示

这个表示第1层第3份样本数据中的第2个特征变量

向量化实现神经网络

之前谈了向量化,现在用完整符号表示神经网络的向量化实现,见下图

以X举例,每个大X表示每层的X数据,大X中每列表示某份样本数据,自上而下是特征变量

其他符号同理,都是用矩阵实现

相关推荐
WA内核拾荒者2 分钟前
WhatsApp 对话内容的质量评估体系与自动化检测方案
大数据·人工智能·自动化
tangjunjun-owen4 分钟前
YOLOv6 五大核心创新点深度解读:从训练到推理的完整剖析
人工智能·深度学习·yolov6
m4Rk_9 分钟前
【论文阅读】Agent 记忆机制(26):Infini Memory——将长期记忆维护成可读写的主题文档
论文阅读·人工智能·学习·开源·github
设计Z源12 分钟前
AI 时代把第二大脑搬回本地:Logseq 的 365 天
人工智能·logseq
环境栈笔记21 分钟前
指纹浏览器安全评测方法:核对环境、数据与权限后再选型
前端·人工智能·后端·自动化
星核0penstarry24 分钟前
DeepSeek-V4-Flash 正式公测:大模型行业进入「极速平价普惠时代」
java·开发语言·人工智能
小沈同学呀29 分钟前
【Agent开发第三期】短期记忆history,让模型“记住“上一句
人工智能·ai编程·agent开发·agent记忆
Elastic 中国社区官方博客1 小时前
Elasticsearch:搜索教程 - 语义搜索(三)
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
utmhikari1 小时前
【AI原生】用AI-Native的方式编写SRE告警诊断Agent和Skill
人工智能·agent·稳定性·ai-native·sre·skill·rca
zhbcddxr1 小时前
北京企业GEO防御风控能力测评:投毒监测与偏差修正排行
网络·人工智能·安全