zore-shot,迁移学习和多模态学习

1.zero-shot

定义:在ZSL中,某一类别在训练样本中未出现,但是我们知道这个类别的特征,然后通过语料知识库,便可以将这个类别识别出来。概括来说,就是已知描述,对未知类别(未在训练集中出现的类别)进行推理。

以下图为例简述:比方说我们有个1000分类的大模型,但这个模型从未训练过斑马,此时想基于大模型来识别斑马。现在回到大模型中,我们发现大模型中的马体型,老虎的纹络分布,熊猫的颜色,和斑马特征相似,我们基于这三种动物的特征,再加入一些描述,基于原大模型完成对斑马的识别。

2.迁移学习

定义:可以理解为zore-shot的升级版,迁移学习(Transfer Learning)是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务,虽然大多数机器学习算法都是为了解决单个任务而设计的,但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见。

例如:我们可能会发现学习识别苹果可能有助于识别梨,或者学习弹奏电子琴可能有助于学习钢琴。找到目标问题的相似性,迁移学习任务就是从相似性出发,将旧领域(domain)学习过的模型应用在新领域上。

3.多模态学习

定义:机器学习一般是对单模态像,视频,音频,文本,图片等单独学习,多模态可以理解为对多个单模态一起学习得到更全面的模型。

例如:我们但从图片识别就可以识别一个狗狗,但如果想从声音识别狗狗又要重新训练一个模型,各自为战的模型,必然不如一个多模态的大模型应用面广,更容易落地。所以训练一个可以从图片,音频,视频,问本,都可以识别狗狗的模型是一个很好的方向。

参考文献

1.Zero-shot_六六fan的博客-CSDN博客

2.Zero-shot(零次学习)简介_Unstoppable~~~的博客-CSDN博客

3.迁移学习(Transfer)_Sonhhxg_柒的博客-CSDN博客

4.多模态学习_卓晴的博客-CSDN博客

相关推荐
北京耐用通信6 分钟前
从‘卡壳’到‘丝滑’:耐达讯自动化PROFIBUS光纤模块如何让RFID读写器实现‘零延迟’物流追踪?”
网络·人工智能·科技·物联网·网络协议·自动化
xier_ran12 分钟前
深度学习:Mini-batch 大小选择与 SGD 和 GD
人工智能·算法·机器学习
CodeLiving14 分钟前
MCP学习三——MCP相关概念
人工智能·mcp
Gitpchy14 分钟前
简单CNN——作业(补充)
人工智能·神经网络·cnn
齐齐大魔王16 分钟前
深度学习系列(二)
人工智能·深度学习
xier_ran17 分钟前
深度学习:学习率衰减(Learning Rate Decay)
人工智能·深度学习·机器学习
Baihai_IDP21 分钟前
如何提升 LLMs 处理表格的准确率?一项针对 11 种格式的基准测试
人工智能·面试·llm
Francek Chen26 分钟前
【CANN】开启AI开发新纪元,释放极致计算效率
人工智能·深度学习·cann·ai开发
工藤学编程33 分钟前
零基础学AI大模型之Milvus部署架构选型+Linux实战:Docker一键部署+WebUI使用
人工智能·架构·milvus
酷柚易汛智推官34 分钟前
阿里“千问”破局C端AI:开源基石与B端势能的双重革命
人工智能·开源·酷柚易汛