zore-shot,迁移学习和多模态学习

1.zero-shot

定义:在ZSL中,某一类别在训练样本中未出现,但是我们知道这个类别的特征,然后通过语料知识库,便可以将这个类别识别出来。概括来说,就是已知描述,对未知类别(未在训练集中出现的类别)进行推理。

以下图为例简述:比方说我们有个1000分类的大模型,但这个模型从未训练过斑马,此时想基于大模型来识别斑马。现在回到大模型中,我们发现大模型中的马体型,老虎的纹络分布,熊猫的颜色,和斑马特征相似,我们基于这三种动物的特征,再加入一些描述,基于原大模型完成对斑马的识别。

2.迁移学习

定义:可以理解为zore-shot的升级版,迁移学习(Transfer Learning)是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务,虽然大多数机器学习算法都是为了解决单个任务而设计的,但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见。

例如:我们可能会发现学习识别苹果可能有助于识别梨,或者学习弹奏电子琴可能有助于学习钢琴。找到目标问题的相似性,迁移学习任务就是从相似性出发,将旧领域(domain)学习过的模型应用在新领域上。

3.多模态学习

定义:机器学习一般是对单模态像,视频,音频,文本,图片等单独学习,多模态可以理解为对多个单模态一起学习得到更全面的模型。

例如:我们但从图片识别就可以识别一个狗狗,但如果想从声音识别狗狗又要重新训练一个模型,各自为战的模型,必然不如一个多模态的大模型应用面广,更容易落地。所以训练一个可以从图片,音频,视频,问本,都可以识别狗狗的模型是一个很好的方向。

参考文献

1.Zero-shot_六六fan的博客-CSDN博客

2.Zero-shot(零次学习)简介_Unstoppable~~~的博客-CSDN博客

3.迁移学习(Transfer)_Sonhhxg_柒的博客-CSDN博客

4.多模态学习_卓晴的博客-CSDN博客

相关推荐
deephub30 分钟前
优化注意力层提升 Transformer 模型效率:通过改进注意力机制降低机器学习成本
人工智能·深度学习·transformer·大语言模型·注意力机制
搏博42 分钟前
神经网络问题之二:梯度爆炸(Gradient Explosion)
人工智能·深度学习·神经网络
KGback1 小时前
【论文解析】HAQ: Hardware-Aware Automated Quantization With Mixed Precision
人工智能
电子手信1 小时前
知识中台在多语言客户中的应用
大数据·人工智能·自然语言处理·数据挖掘·知识图谱
不高明的骗子1 小时前
【深度学习之一】2024最新pytorch+cuda+cudnn下载安装搭建开发环境
人工智能·pytorch·深度学习·cuda
Chef_Chen1 小时前
从0开始学习机器学习--Day33--机器学习阶段总结
人工智能·学习·机器学习
搏博1 小时前
神经网络问题之:梯度不稳定
人工智能·深度学习·神经网络
databook1 小时前
『玩转Streamlit』--布局与容器组件
python·机器学习·数据分析
GL_Rain1 小时前
【OpenCV】Could NOT find TIFF (missing: TIFF_LIBRARY TIFF_INCLUDE_DIR)
人工智能·opencv·计算机视觉
shansjqun2 小时前
教学内容全覆盖:航拍杂草检测与分类
人工智能·分类·数据挖掘