极简单bpnet对比极简单cnn

以前学英语,知道cnn是美国有线

后来卖牛奶,知道cnn是纯牛奶

再后来,回归了计算机,知道了ncc,相关系数,这个也非常有名,后来也被cnn盖住了风头!

计算机图形学,图像处理,用了很多先人制造的卷积核,比如高斯卷积核啊!lapulas卷积核!但从来没有人说是周文王八卦卷积核,也没人说是练字的九宫格!

后来bpnet出现了新名词-权重,就是这个weight,w1,w2等等之类!

然后就出现了cnn,眼睛往上一翻,看天,想了想,这个卷积核就是高斯,拉普拉斯卷积核吧!

但他们说不是,他们说这个卷积核是通过权重更新,自己生成的,不是先人预设的高斯,拉普拉斯等等卷积核!怎么回事呢?

原来,从第三幅图可以看出来,他这个卷积核真的是,通过梯度,自己更新的卷积核!

当你明白权重就是卷积核的那一瞬间!

世界突然眼前一亮,变成了新世界!

我们以前搞bpnet,权重更新和计算梯度不分开!只是强调,先用权重,后更新权重,不要搞反了!

自从出现了批处理和cnn,他们把权重更新和计算梯度分开了,也不说什么原因,好吧,我就跟着你,先用着!

在这里,我犯了错误!也不算!算是探索!

因为我不清楚cnn原理,我只是想用bpnet探索想象中的cnn,就用上面第三张图!

现在想来,很简单:最后一步彩色的更新,应该如下:

无论你用cnn还是bpnet:

//1,计算w【0】的梯度,第一层,偏差向前传播卷积核->delta卷积动作

//e偏导z1 *zI偏导w0

wcnn的偏差00 = delta11*a00 + delta12*a01 + delta21*a03 + delta22*a04;//0,1,3,4

wcnn的偏差01 = delta11*a01 + delta12*a02 + delta21*a04 + delta22*a05;//1,2,4,5

wcnn的偏差02 = delta11*a03 + delta12*a04 + delta21*a06 + delta22*a07;//3,4,6,7

wcnn的偏差03 = delta11*a04 + delta12*a05 + delta21*a07 + delta22*a08;//4,5,7,8


//w0,第一层的一个卷积核

for (int i = 0; i < 4; i++)

{

wcnn0i = wcnn0i - 常数a * wcnn的偏差0i;

}


但我一直在这上面尝试和犯错:

因为我在bpnet中把权重更新和梯度计算分开了,所以就进入了一种死循环:

当delta11作用a00,计算完,就在这种分开思路中很自然的抛弃了,最后,只剩下 delta22*a04,so:

wcnn的偏差00 = delta11*a00 + delta12*a01 + delta21*a03 + delta22*a04;//0,1,3,4

变成了:

wcnn的偏差00 = delta22*a04;

当然,网络仍然能正常运行,当我意识到上面的问题,我权重更新和梯度计算放在一起:也就是for循环中第一次:

wcnn的偏差00 = delta11*a00;

wcnn00 = wcnn00 - 常数a * wcnn的偏差00;

for循环中第二次:

wcnn的偏差00 = delta12*a01 ;

wcnn00 = wcnn00 - 常数a * wcnn的偏差00;

for循环中第三次:

wcnn的偏差00 =delta21*a03 ;

wcnn00 = wcnn00 - 常数a * wcnn的偏差00;

for循环中第四次:

wcnn的偏差00= delta22*a04;

wcnn00 = wcnn00 - 常数a * wcnn的偏差00;

其实,上面四段,仍然是 wcnn00 = wcnn00 - 常数a( delta11*a00 + delta12*a01 + delta21*a03 + delta22*a04)

但我并不知道这是对的,甚至我认为,减了这么多次(在32*32的图像中), wcnn00减没了,出现问题!

so,我取平均值,更新一次!然而,程序仍然跑的哗哗的,都是ok的!

我的评判标准,最后谁得分高?但也没看出什么子丑寅卯!一会这个好,一会那个好!

但我仍然怀疑这里有问题,直到看到cnn的数学原理推导!

实际也是我们复盘后这个最简单的bpnet和cnn所体现出来的问题!

其实有些问题很难懂!

但你必须反复熟练他,有一天,你自然会解开疑问和疙瘩!

有人说过kiss原则,

谈到用简单和笨方法,实际我们悄悄的用过了!但我们并不知道!

当我们化简到极简模式,bpnet与cnn除了第一层不同,剩下两层都一样,那么,很多问题就迎刃而解!而且你还收获了对称之美!

前天分析网络发现的直觉对称之美,

昨天发现有问题,推导之后,还是直觉的对称之美获胜!

很有意思!

就像我们开头看到的,卷积核,不是高斯,lapulas卷积核,最后发现,就是机器自生成的,仍然看到了高斯核和拉普拉斯卷积核!

苏轼有首诗,说看山不是山,最后又回归到,看山还是山!

前人在图像处理中发现卷积核,并使用卷积核,实际在人工智能上,仍然没变!只不过是让机器学会了而已!

有些问题看上去很复杂,你不停的简单化,他就变简单来了!

顺便:我们提出一个疑问:

为什么在光学成像,缩小放大的唯一卷积核是高斯卷积核?

而为什么图像和意识(机器)识别结果之间,缩小放大可以有很多卷积核并存?而且人的智能和机器智能都已经验证了!

当初,他们说人眼成像并识别的物理结构中一定存在高斯卷积核,这是显然的了!

so,扩展一下,人眼识别,除了高斯卷积核,还有其他卷积核,所以,物理和意识,意识更显得量子化!物理更趋于唯一性!

相关推荐
云和数据.ChenGuang2 小时前
Python 重写(Override)深度解析:从 MRO 到 super() 的完整机制
java·开发语言·人工智能·python·langchain·1024程序员节
西西木科技丨Shopify开发机构3 小时前
CalDigit TS4案例:AI产品图的Shopify整站接入与验收
人工智能·shopify·独立站
2601_965448873 小时前
AI视频制作:做系列节气民俗视频音色不统一,AI 音色克隆省事的方法
人工智能·机器学习·音视频
美狐美颜SDK开放平台3 小时前
视频美颜SDK试用DEMO阶段应该测试什么?直播APP接入实操指南
开发语言·人工智能·深度学习·音视频·美颜sdk·直播美颜sdk·第三方美颜sdk
HRaitest3 小时前
秋招技术岗招聘提效:三类 AI 招聘方案的技术底层与选型逻辑
大数据·人工智能·求职招聘·ai-native
天远数科4 小时前
零信任架构实战:基于天远企业股权变更构建自动化商业银行对公授信存续期股权异动与资产抽逃预警网关
运维·人工智能·架构·自动化
车软学堂4 小时前
从测试转开发,到底要补什么
网络·人工智能·python·功能测试·单片机·车载系统·自动化
海盗12344 小时前
AI 新闻日报 10-28:Atria Dawn 完整版开源、Cursor Agent SDK 转正、Genie 4 实时世界模型
人工智能·机器人·开源·人工智能aigc
志尊宝5 小时前
AI原生前端开发(035):AI时代的工程化最佳实践总结
人工智能·ai-native
冬奇Lab5 小时前
一天一个开源项目(第251篇):Claude SEO —— 装进 Claude Code 的 SEO 审计团队,26 个子技能 + 19 个专家 Agent 并行体检网站
人工智能·开源