深度学习中常见的专业术语汇总

本硕博都是搞机械的匠人,当然也想做一下交叉学科的东西,蹭一下人工智能的热点。虽然世界是个草台班子,但是来都来了,咱也要把这场戏演好。

记得之前网上爆料有位大学生发了很多水文,对,是交叉学科的,把CS的东西用到自己的专业上。由于出名了,论文就立马受到各大网友关注,离谱的是有个SSIM(FID?越小越好)指标本来是越大越好,上界是1,结果论文列出的结果大于1。

因此,水归水,打好基础还是必要的,毕竟磨刀不误砍柴工,读了博士在打工也不迟。

Pipeline、Framework、Structure、Architecture

  • Pipeline:指的是一系列数据处理步骤或任务的集合。在机器学习项目中,pipeline可能包括数据收集、清洗、特征提取和模型训练等步骤。
  • Framework:指的是为解决一类特定问题而设计的预制结构或方法集合。
  • Structure:深度学习模型的网络结构,即具体的网络结构。
  • Architecture:比structure 更高一级,强调模型的整体设计,如整体拓扑结构。

Baseline 、Benchmark

  • Baseline:传统或已有的方法,作为新方法改进的参照。如果新方法在指标上超过baseline,就说明有进步。
  • Benchmark:通常指一组标准数据集或者评价指标,用于测试和比较不同方法的性能。

Backbone、Neck 、Head

  • Backbone:特征提取主干,常见的有CNN、ResNet等,负责抽取原始数据中的关键信息。
  • Neck:介于backbone和head之间的网络,一般指中间层,用于对来自backbone的输出进行降维或者调整。
  • Head:指模型的输出层,对来自neck处理后的特征进行输出。对于分类任务,则head可能是一些系列全连接层,并输出最终分类结果。

其他

  • Warmup:在模型训练时前面几个epoch用小的学习率热身,有助于收敛和提升训练的稳定性。一般而言,先用小的学习率热身,然后增大学习率,最后学习率衰减。
  • Bottleneck Layer:如ResNet中,对前一个输入先对通道数降维,然后恢复通道数与输入一致,这种类似瓶颈的结构,称为瓶颈层。
  • Ground truth:在图像分类中, 真实的标签称为ground truth。
相关推荐
All The Way North-8 小时前
彻底掌握 RNN(实战):PyTorch API 详解、多层RNN、参数解析与输入机制
pytorch·rnn·深度学习·循环神经网络·参数详解·api详解
童话名剑9 小时前
情感分类与词嵌入除偏(吴恩达深度学习笔记)
笔记·深度学习·分类
咋吃都不胖lyh9 小时前
CLIP 不是一个 “自主判断图像内容” 的图像分类模型,而是一个 “图文语义相似度匹配模型”—
人工智能·深度学习·机器学习
咚咚王者11 小时前
人工智能之核心技术 深度学习 第七章 扩散模型(Diffusion Models)
人工智能·深度学习
逄逄不是胖胖11 小时前
《动手学深度学习》-60translate实现
人工智能·python·深度学习
koo36412 小时前
pytorch深度学习笔记19
pytorch·笔记·深度学习
哥布林学者13 小时前
吴恩达深度学习课程五:自然语言处理 第三周:序列模型与注意力机制(三)注意力机制
深度学习·ai
A先生的AI之旅13 小时前
2026-1-30 LingBot-VA解读
人工智能·pytorch·python·深度学习·神经网络
Learn Beyond Limits13 小时前
文献阅读:A Probabilistic U-Net for Segmentation of Ambiguous Images
论文阅读·人工智能·深度学习·算法·机器学习·计算机视觉·ai
下午写HelloWorld14 小时前
差分隐私深度学习(DP-DL)简要理解
人工智能·深度学习