【Anomaly Detection论文阅读记录】Resnet网络与WideResNet网络

Resnet 网络

网络结构:(层数计算不包括max pool、average pool、softmax等操作)

层数计算(以Resnet-18为例子):

conv1+conv2_x+conv3_x+conv4_x+conv5_x+fc=1+(2×2)+(2×2)+(2×2)+(2×2)+1=18

WideResNet 网络

WideResNet提出了一种新的体系结构,减少了网络的深度,增加了网络的宽度,这种结构称为宽残差网络(WRN),宽度即网络输出通道数,并通过实验证明它们远远优于常用的薄而深的网络结构。与原始架构相比,residual block中的批量归一化、激活和卷积的顺序从conv-BN-ReLU更改为BN-ReLU-conv。 卷积核都用3*3;正则化使用dropout,而ResNet用的BN在这里不好用。

Wide-resnet只比Resnet多了一个加宽因子k,原来架构相当于K=1,N表示组中的块数。网络由一个初始卷积层conv1组成,然后是residual block的conv2、conv3和conv4的3组(每个大小为N),然后是平均池和最终分类层。在实验中,conv1的大小都是固定的,而引入的加宽因子k缩放了三组conv2-4中剩余块的宽度。

结构单元

  • a是最基本的ResNet结构,b 是用了bottleneck(瓶颈)的ResNet结构;
  • d是在最基本的ResNet结构上加入dropout层的WideResNet结构。
相关推荐
2601_951515951 分钟前
护眼照明进入深度洗牌期:书客SUN2如何重塑健康光行业规则?
大数据·人工智能·书客护眼大路灯·爱眼护眼·护眼大路灯
Joseph Cooper9 分钟前
生产级 AI Agent 评估体系:从 12 指标框架到持续评估闭环
人工智能·ai·agent·eval·harness
桂花很香,旭很美11 分钟前
有不 delay 的 AI 项目吗?
人工智能·项目管理·agent
爱写代码的小朋友11 分钟前
人工智能背景下深度学习在高中信息技术教育中的应用研究
人工智能·深度学习
knight_9___12 分钟前
大模型project面试5
人工智能·python·深度学习·面试·agent·rag·mcp
东方佑12 分钟前
OpenASH 85M 参数,不用 Softmax,也能通过中文考试
人工智能·深度学习
nujnewnehc16 分钟前
第一次接触 agent 概念分享
人工智能·llm·agent
怪祝浙18 分钟前
AI实战之地dify应用-nlp数据库查询agent助手的搭建与发布
人工智能
2301_7809438418 分钟前
第五阶段:高级主题
人工智能
knight_9___25 分钟前
大模型project面试6
人工智能·python·agent·rag·mcp