深度学习中常见的专业术语汇总

本硕博都是搞机械的匠人,当然也想做一下交叉学科的东西,蹭一下人工智能的热点。虽然世界是个草台班子,但是来都来了,咱也要把这场戏演好。

记得之前网上爆料有位大学生发了很多水文,对,是交叉学科的,把CS的东西用到自己的专业上。由于出名了,论文就立马受到各大网友关注,离谱的是有个SSIM(FID?越小越好)指标本来是越大越好,上界是1,结果论文列出的结果大于1。

因此,水归水,打好基础还是必要的,毕竟磨刀不误砍柴工,读了博士在打工也不迟。

Pipeline、Framework、Structure、Architecture

  • Pipeline:指的是一系列数据处理步骤或任务的集合。在机器学习项目中,pipeline可能包括数据收集、清洗、特征提取和模型训练等步骤。
  • Framework:指的是为解决一类特定问题而设计的预制结构或方法集合。
  • Structure:深度学习模型的网络结构,即具体的网络结构。
  • Architecture:比structure 更高一级,强调模型的整体设计,如整体拓扑结构。

Baseline 、Benchmark

  • Baseline:传统或已有的方法,作为新方法改进的参照。如果新方法在指标上超过baseline,就说明有进步。
  • Benchmark:通常指一组标准数据集或者评价指标,用于测试和比较不同方法的性能。

Backbone、Neck 、Head

  • Backbone:特征提取主干,常见的有CNN、ResNet等,负责抽取原始数据中的关键信息。
  • Neck:介于backbone和head之间的网络,一般指中间层,用于对来自backbone的输出进行降维或者调整。
  • Head:指模型的输出层,对来自neck处理后的特征进行输出。对于分类任务,则head可能是一些系列全连接层,并输出最终分类结果。

其他

  • Warmup:在模型训练时前面几个epoch用小的学习率热身,有助于收敛和提升训练的稳定性。一般而言,先用小的学习率热身,然后增大学习率,最后学习率衰减。
  • Bottleneck Layer:如ResNet中,对前一个输入先对通道数降维,然后恢复通道数与输入一致,这种类似瓶颈的结构,称为瓶颈层。
  • Ground truth:在图像分类中, 真实的标签称为ground truth。
相关推荐
最晚的py3 分钟前
参数初始化的方式
深度学习·初始化参数
jay神14 分钟前
基于YOLOv8的行人车辆检测系统
人工智能·深度学习·yolo·计算机视觉·毕业设计
囊中之锥.1 小时前
《深度学习》CUDA安装配置、pytorch库、torchvision库、torchaudio库安装
人工智能·pytorch·深度学习
ttttming1 小时前
day33 简单神经网络
人工智能·深度学习·神经网络
凌峰的博客2 小时前
基于深度学习的图像安全与隐私保护研究方向调研(中)
人工智能·深度学习·安全
上天夭8 小时前
模型训练篇
人工智能·深度学习·机器学习
Blossom.1188 小时前
AI编译器实战:从零手写算子融合与自动调度系统
人工智能·python·深度学习·机器学习·flask·transformer·tornado
泰迪智能科技019 小时前
分享图书推荐 | 数字图像处理实战
人工智能·深度学习·计算机视觉
Rabbit_QL9 小时前
【深度学习原理】数值稳定性(二):梯度是如何在深度网络中消失与爆炸的
人工智能·深度学习
wanzhong233310 小时前
CUDA学习5-矩阵乘法(共享内存版)
深度学习·学习·算法·cuda·高性能计算