【Anomaly Detection论文阅读记录】Resnet网络与WideResNet网络

Resnet 网络

网络结构:(层数计算不包括max pool、average pool、softmax等操作)

层数计算(以Resnet-18为例子):

conv1+conv2_x+conv3_x+conv4_x+conv5_x+fc=1+(2×2)+(2×2)+(2×2)+(2×2)+1=18

WideResNet 网络

WideResNet提出了一种新的体系结构,减少了网络的深度,增加了网络的宽度,这种结构称为宽残差网络(WRN),宽度即网络输出通道数,并通过实验证明它们远远优于常用的薄而深的网络结构。与原始架构相比,residual block中的批量归一化、激活和卷积的顺序从conv-BN-ReLU更改为BN-ReLU-conv。 卷积核都用3*3;正则化使用dropout,而ResNet用的BN在这里不好用。

Wide-resnet只比Resnet多了一个加宽因子k,原来架构相当于K=1,N表示组中的块数。网络由一个初始卷积层conv1组成,然后是residual block的conv2、conv3和conv4的3组(每个大小为N),然后是平均池和最终分类层。在实验中,conv1的大小都是固定的,而引入的加宽因子k缩放了三组conv2-4中剩余块的宽度。

结构单元

  • a是最基本的ResNet结构,b 是用了bottleneck(瓶颈)的ResNet结构;
  • d是在最基本的ResNet结构上加入dropout层的WideResNet结构。
相关推荐
柠檬071115 小时前
opencv 未知函数记录-estimateAffinePartial2D
人工智能·opencv·计算机视觉
Python极客之家15 小时前
基于数据挖掘和知识图谱的医疗智能问诊系统
人工智能·python·机器学习·数据挖掘·毕业设计·知识图谱
Watermelo61715 小时前
TOON:一种为大模型设计的JSON压缩型数据结构
数据结构·人工智能·语言模型·自然语言处理·数据挖掘·数据分析·json
模型启动机15 小时前
Google A2UI技术解析:AI Agent如何构建安全且原生的用户界面
人工智能·ai·大模型
小途软件15 小时前
springboot013基于SpringBoot的旅游网站的设计与实现
java·人工智能·pytorch·python·深度学习·语言模型
cute_ming16 小时前
LangGraph入门:LCEL详解
人工智能·机器学习·transformer·知识图谱
草莓熊Lotso17 小时前
Qt 进阶核心:UI 开发 + 项目解析 + 内存管理实战(从 Hello World 到对象树)
运维·开发语言·c++·人工智能·qt·ui·智能手机
Light6021 小时前
智链全球,韧性履约:AI赋能新一代海外EPC/EPCM项目管理解决方案
人工智能·数字孪生·风险管理·ai赋能·海外epc/epcm·智慧项目管理·协同增效
棒棒的皮皮1 天前
【深度学习】YOLO核心原理介绍
人工智能·深度学习·yolo·计算机视觉
2501_941804321 天前
从单机消息队列到分布式高可用消息中间件体系落地的互联网系统工程实践随笔与多语言语法思考
人工智能·memcached