【Anomaly Detection论文阅读记录】Resnet网络与WideResNet网络

Resnet 网络

网络结构:(层数计算不包括max pool、average pool、softmax等操作)

层数计算(以Resnet-18为例子):

conv1+conv2_x+conv3_x+conv4_x+conv5_x+fc=1+(2×2)+(2×2)+(2×2)+(2×2)+1=18

WideResNet 网络

WideResNet提出了一种新的体系结构,减少了网络的深度,增加了网络的宽度,这种结构称为宽残差网络(WRN),宽度即网络输出通道数,并通过实验证明它们远远优于常用的薄而深的网络结构。与原始架构相比,residual block中的批量归一化、激活和卷积的顺序从conv-BN-ReLU更改为BN-ReLU-conv。 卷积核都用3*3;正则化使用dropout,而ResNet用的BN在这里不好用。

Wide-resnet只比Resnet多了一个加宽因子k,原来架构相当于K=1,N表示组中的块数。网络由一个初始卷积层conv1组成,然后是residual block的conv2、conv3和conv4的3组(每个大小为N),然后是平均池和最终分类层。在实验中,conv1的大小都是固定的,而引入的加宽因子k缩放了三组conv2-4中剩余块的宽度。

结构单元

  • a是最基本的ResNet结构,b 是用了bottleneck(瓶颈)的ResNet结构;
  • d是在最基本的ResNet结构上加入dropout层的WideResNet结构。
相关推荐
汉知宝科技10 小时前
跨境电商品牌合规:出海企业商标管理的特殊挑战与数字化应对
大数据·人工智能
ai产品老杨10 小时前
架构师深剖:基于 Docker 容器化与边缘计算的 AI 视频管理平台——支持 GB28181/RTSP 多协议接入与全源码交付
人工智能·docker·边缘计算
IT_陈寒10 小时前
Python的os.path.join居然能这么坑?
前端·人工智能·后端
2401_8322981010 小时前
突破跨平台孤岛,OpenClaw全域系统互联能力,构建企业统一数字操作系统
人工智能
物联网IoT小易10 小时前
AI企业园区技术架构思考:大模型如何进入物理世界运营场景?
人工智能·智慧园区·智慧园区解决方案·ai智慧园区·aiot平台·ai企业园区
陈天伟教授10 小时前
图解人工智能(55)人工智能应用-机器翻译
人工智能·自然语言处理·机器翻译
watersink10 小时前
PagedAttention论文深度解析
人工智能
羊羊一洋10 小时前
对讲机核心技术解析:色码、亚音、脱网
人工智能·语音识别
OpenCSG10 小时前
不止 AI 编程:CSGLite 在多应用场景中的效率提升案例分析
人工智能
实在智能RPA10 小时前
航空维修知识库构建方法:从RAG到Agent-native的架构演进与全栈工程实践
人工智能·ai·架构