Awesome-Backbones-main——alexnet模型分析

AlexNet作为骨干网络相对较老,可能在复杂数据集上的表现不如一些最新的深度网络结构,如ResNet、EfficientNet等,学习率调整策略中采用了阶梯式学习率更新器,可能并不总是适合所有数据集和模型,需要根据具体情况调整学习率策略。

模型参数:

  1. Backbone(骨干网络):

    • 类型:AlexNet
    • 输出类别数:4
  2. Neck:

    • 在配置中未指定,为None
  3. Head(头部):

    • 类型:ClsHead
    • 损失函数:
      • 类型:CrossEntropyLoss
      • 损失权重:1.0
  4. 数据处理:

    • 图像归一化参数:
      • 均值:123.675, 116.28, 103.53
      • 标准差:58.395, 57.12, 57.375
      • 是否转为RGB格式:True
  5. 训练参数:

    • 批量大小:8
    • 训练数据加载器的工作线程数:4
    • 是否使用预训练权重:False
    • 是否冻结特定层:False
    • 要冻结的层:('backbone',)
    • 训练周期数:100
  6. 测试参数:

    • 检查点路径:''
    • 评估指标:准确率、精确率、召回率、F1分数、混淆矩阵
    • 评估指标选项:
      • topk:(1, 2)
      • thrs:None
      • 平均模式:'none'
  7. 优化器参数:

    • 类型:SGD
    • 学习率:0.001
    • 动量:0.9
    • 权重衰减:1e-4
  8. 学习率调整配置:

    • 类型:StepLrUpdater
    • 调整步数:每15个周期调整一次学习率

图1:

让batch-size缩小一倍:

图2:

图二数据损失对比图一更加平滑,且下降梯度更大,速度更快,下降过程中方向调整更为敏感。

但在拟合过程中ACC全局波动更大

相关推荐
枯木◊靠推文躺平版几秒前
Claude Code 替代品有哪些?TRAE vs Claude Code 从价格、门槛到中文开发,一篇看懂怎么选
人工智能
不惑_1 分钟前
我分析了麦当劳 1024 大赛的 149 个参赛项目,然后做了一个没人做的方向
人工智能·知识图谱
lisw054 分钟前
人类认知和语言学习中的控制论!
人工智能·学习·数学建模
residual_fan10 分钟前
基于控制感知域对抗网络的变工况故障诊断:从控制系统与运行状态协同的角度建立模型
人工智能·算法·数据挖掘·数据分析
Bode_200211 分钟前
数据智能层集成流程挖掘与自主智能体的架构与机制
人工智能·数据智能
企智汇-项目管理软件12 分钟前
离散制造管理系统怎么选?一套系统管住从研发到交付的全周期
java·人工智能·制造·项目经理·项目管理软件·项目管理系统·项目管理软件工程
Imagination官方博客13 分钟前
PowerVR 上的 LLM 性能与加速
人工智能·架构·llama·gpu算力
知几蜗牛13 分钟前
Python 处理 Responses SSE 流:超时、取消和增量渲染
人工智能
2601_9689007713 分钟前
面向Agent的视频编译链路:从语义标记到分层渲染
人工智能
王中阳Go14 分钟前
做了 8 年前端,简历改漂亮后面一个挂一个:差的不是前端,是这 3 块底子
人工智能·后端·面试