神经网络与空间变换关系

神经网络的隐藏层实际上就是在进行一次空间变换,隐藏层中神经元的个数就是变换后空间的维度,代表可以升维也可以降维。

不同是 神经网络的一层运算不只有矩阵乘法,还会有一个加法。以及 进行完线性计算后,还要经过非线性的激活函数

  1. 与权重系数W相乘,相当于是乘以一个矩阵,进行和空间的旋转或者是拉伸变换,

​2. 加上偏置系数b,相当于对空间向量进行了一个平移操作

  1. 经过非线性的激活函数,让模型描述更复杂的情况,实现多对一(比如分类问题,如果将每张图片当作原空间的一个点,最后映射到新空间的一个点(猫))

隐藏层虽然有了更深的层,但是神经元的个数却在减少。

隐藏层越深,抽象程度越高

相关推荐
Coder个人博客13 分钟前
Llama.cpp 整体架构分析
人工智能·自动驾驶·llama
江上鹤.14821 分钟前
Day 50 CBAM 注意力机制
人工智能·深度学习
deephub24 分钟前
大规模向量检索优化:Binary Quantization 让 RAG 系统内存占用降低 32 倍
人工智能·大语言模型·向量检索·rag
人工智能培训29 分钟前
深度学习—卷积神经网络(1)
人工智能·深度学习·神经网络·机器学习·cnn·知识图谱·dnn
ㄣ知冷煖★29 分钟前
【Google系列】AI智能体技术白皮书
人工智能·agent
新加坡内哥谈技术31 分钟前
阿尔茨海默症的成因与风险因素到模型与干预分析
人工智能
张张张三丰1 小时前
【文献】金融市场发展与企业风险管理:来自上海原油期货上市的证据
人工智能·# 相关知识
阿里云大数据AI技术1 小时前
真实案例复盘:从“三套烟囱”到 All in ES,这家企业如何砍掉 40%运维成本?
人工智能·elasticsearch·搜索引擎
电商API_180079052471 小时前
深度解析以图搜索商品API:技术原理、接口设计与实践优化
人工智能·计算机视觉·目标跟踪
audyxiao0011 小时前
前沿观点|智慧教育的“四个未来”是什么?
人工智能·智慧教育·未来课堂·未来学校