深度学习中常见的专业术语汇总

本硕博都是搞机械的匠人,当然也想做一下交叉学科的东西,蹭一下人工智能的热点。虽然世界是个草台班子,但是来都来了,咱也要把这场戏演好。

记得之前网上爆料有位大学生发了很多水文,对,是交叉学科的,把CS的东西用到自己的专业上。由于出名了,论文就立马受到各大网友关注,离谱的是有个SSIM(FID?越小越好)指标本来是越大越好,上界是1,结果论文列出的结果大于1。

因此,水归水,打好基础还是必要的,毕竟磨刀不误砍柴工,读了博士在打工也不迟。

Pipeline、Framework、Structure、Architecture

  • Pipeline:指的是一系列数据处理步骤或任务的集合。在机器学习项目中,pipeline可能包括数据收集、清洗、特征提取和模型训练等步骤。
  • Framework:指的是为解决一类特定问题而设计的预制结构或方法集合。
  • Structure:深度学习模型的网络结构,即具体的网络结构。
  • Architecture:比structure 更高一级,强调模型的整体设计,如整体拓扑结构。

Baseline 、Benchmark

  • Baseline:传统或已有的方法,作为新方法改进的参照。如果新方法在指标上超过baseline,就说明有进步。
  • Benchmark:通常指一组标准数据集或者评价指标,用于测试和比较不同方法的性能。

Backbone、Neck 、Head

  • Backbone:特征提取主干,常见的有CNN、ResNet等,负责抽取原始数据中的关键信息。
  • Neck:介于backbone和head之间的网络,一般指中间层,用于对来自backbone的输出进行降维或者调整。
  • Head:指模型的输出层,对来自neck处理后的特征进行输出。对于分类任务,则head可能是一些系列全连接层,并输出最终分类结果。

其他

  • Warmup:在模型训练时前面几个epoch用小的学习率热身,有助于收敛和提升训练的稳定性。一般而言,先用小的学习率热身,然后增大学习率,最后学习率衰减。
  • Bottleneck Layer:如ResNet中,对前一个输入先对通道数降维,然后恢复通道数与输入一致,这种类似瓶颈的结构,称为瓶颈层。
  • Ground truth:在图像分类中, 真实的标签称为ground truth。
相关推荐
xiao5kou4chang6kai45 天前
MATLAB机器学习、深度学习--从数据预处理到模型训练
深度学习·机器学习·matlab·数据预处理
renhongxia15 天前
世界模型作为AGI落地底层底座的作用
人工智能·深度学习·生成对抗网络·自然语言处理·知识图谱·agi
计算机科研狗@OUC5 天前
(cvpr26) AIMDepth: Asymmetric Image-Event Mamba for Monocular Depth Estimation
人工智能·深度学习·计算机视觉
β添砖java5 天前
深度学习(22)网络中的网络NiN
人工智能·深度学习
Kobebryant-Manba5 天前
深度学习时候d2l报错和使用问题
人工智能·深度学习
zhangfeng11335 天前
deepspeed zero3 结合 llamafactory 微调 ,save_only_model: true 导致保存时候出错
开发语言·python·深度学习
大模型最新论文速读5 天前
06-16 · LLM 最新论文速览
论文阅读·人工智能·深度学习·机器学习·自然语言处理
宝贝儿好5 天前
【LLM】第二章:HuggingFace入门学习
人工智能·深度学习·神经网络·学习·算法·自然语言处理
Black蜡笔小新5 天前
企业私有化AI训练推理一体工作站DLTM深度学习推理工作站全流程技术解析
人工智能·深度学习
Kobebryant-Manba5 天前
学习门控循环单元gru
深度学习·学习·gru