【Anomaly Detection论文阅读记录】Resnet网络与WideResNet网络

Resnet 网络

网络结构:(层数计算不包括max pool、average pool、softmax等操作)

层数计算(以Resnet-18为例子):

conv1+conv2_x+conv3_x+conv4_x+conv5_x+fc=1+(2×2)+(2×2)+(2×2)+(2×2)+1=18

WideResNet 网络

WideResNet提出了一种新的体系结构,减少了网络的深度,增加了网络的宽度,这种结构称为宽残差网络(WRN),宽度即网络输出通道数,并通过实验证明它们远远优于常用的薄而深的网络结构。与原始架构相比,residual block中的批量归一化、激活和卷积的顺序从conv-BN-ReLU更改为BN-ReLU-conv。 卷积核都用3*3;正则化使用dropout,而ResNet用的BN在这里不好用。

Wide-resnet只比Resnet多了一个加宽因子k,原来架构相当于K=1,N表示组中的块数。网络由一个初始卷积层conv1组成,然后是residual block的conv2、conv3和conv4的3组(每个大小为N),然后是平均池和最终分类层。在实验中,conv1的大小都是固定的,而引入的加宽因子k缩放了三组conv2-4中剩余块的宽度。

结构单元

  • a是最基本的ResNet结构,b 是用了bottleneck(瓶颈)的ResNet结构;
  • d是在最基本的ResNet结构上加入dropout层的WideResNet结构。
相关推荐
IT 行者1 分钟前
打造你的家庭 AI 助手(四):企业微信 AI 助手接入你的 OpenClaw
人工智能·企业微信
简佐义的博客4 分钟前
15万单细胞、19种实体瘤:系统学习血管内皮细胞泛癌的单细胞与空间转录组联合分析思路
人工智能·学习
瑞华丽PLM9 分钟前
变更后库存切换指令单 (STO)
人工智能·plm·国产plm·瑞华丽plm·瑞华丽
Katecat9966311 分钟前
【夜间野生动物监测】基于深度学习的雄雌绒鸭自动识别系统研究与实践
人工智能·深度学习
Godspeed Zhao11 分钟前
从零开始学AI10——训练数据集与测试数据集
人工智能·深度学习·机器学习
Alter123017 分钟前
不卷通用大模型,网易AI的“错位”生存法则
人工智能
hhzz21 分钟前
【Vision人工智能设计 】ComfyUI 基础图生图设计
人工智能·flux·comfyui·视觉大模型·lora模型
ViiTor_AI23 分钟前
AI 在线字幕去除工具:一键无损删除视频硬字幕与软字幕
人工智能·音视频
愚公搬代码24 分钟前
【愚公系列】《AI短视频创作一本通》027-AI 短视频创作的注意事项及未来展望(AI短视频的技术展望)
人工智能·音视频
szcsun524 分钟前
机器学习(六)--异常检测、主成分分析
人工智能·机器学习·概率论