zore-shot,迁移学习和多模态学习

1.zero-shot

定义:在ZSL中,某一类别在训练样本中未出现,但是我们知道这个类别的特征,然后通过语料知识库,便可以将这个类别识别出来。概括来说,就是已知描述,对未知类别(未在训练集中出现的类别)进行推理。

以下图为例简述:比方说我们有个1000分类的大模型,但这个模型从未训练过斑马,此时想基于大模型来识别斑马。现在回到大模型中,我们发现大模型中的马体型,老虎的纹络分布,熊猫的颜色,和斑马特征相似,我们基于这三种动物的特征,再加入一些描述,基于原大模型完成对斑马的识别。

2.迁移学习

定义:可以理解为zore-shot的升级版,迁移学习(Transfer Learning)是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务,虽然大多数机器学习算法都是为了解决单个任务而设计的,但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见。

例如:我们可能会发现学习识别苹果可能有助于识别梨,或者学习弹奏电子琴可能有助于学习钢琴。找到目标问题的相似性,迁移学习任务就是从相似性出发,将旧领域(domain)学习过的模型应用在新领域上。

3.多模态学习

定义:机器学习一般是对单模态像,视频,音频,文本,图片等单独学习,多模态可以理解为对多个单模态一起学习得到更全面的模型。

例如:我们但从图片识别就可以识别一个狗狗,但如果想从声音识别狗狗又要重新训练一个模型,各自为战的模型,必然不如一个多模态的大模型应用面广,更容易落地。所以训练一个可以从图片,音频,视频,问本,都可以识别狗狗的模型是一个很好的方向。

参考文献

1.Zero-shot_六六fan的博客-CSDN博客

2.Zero-shot(零次学习)简介_Unstoppable~~~的博客-CSDN博客

3.迁移学习(Transfer)_Sonhhxg_柒的博客-CSDN博客

4.多模态学习_卓晴的博客-CSDN博客

相关推荐
xsd202411181 分钟前
地网腐蚀AI识别算法全解析:从锈蚀图像到地下腐蚀快速定位
人工智能
oooost4 分钟前
pytorch学习笔记2(transformer)
人工智能·机器学习
云杂项43 分钟前
Exploring Model Inversion Attacks in the Black-box Setting(个人笔记)
人工智能
还卿一钵无情泪1 小时前
Unsloth 微调 构建自己的大模型 没有GPU也能微调
linux·开发语言·人工智能·python·大模型·nlp·unsloth
冬奇Lab2 小时前
LLM 驱动的自动化测试系列(06):移动端自动化(二)——DroidRun/Mobilerun 的角色级模型拆分
人工智能·测试
冬奇Lab2 小时前
一天一个开源项目(第230篇):HandRaw-Style —— 把 327 种手绘风格、165 种排版、36 种配色编号化,让 AI 画图不再每次都飘
人工智能·开源·资讯
罗西的思考2 小时前
从陶哲轩的访谈看:AI 数学研究方法论 & 给其它行业的启示
人工智能
学...2 小时前
软件学报 2023 论文《面向复杂约束优化问题的进化算法综述》阅读笔记
人工智能·ga·cmop
EDPJ2 小时前
(2017|ICLR|Google Brain,主网络与超网络联合训练,静态/动态超网络,LSTM,RNN)超网络
神经网络·机器学习·lstm·超网络
xhy_07073 小时前
AI 在同一步上反复打转怎么办?WES Code 循环检测怎么用
人工智能·大模型·ai编程·wes code