1.zero-shot
定义:在ZSL中,某一类别在训练样本中未出现,但是我们知道这个类别的特征,然后通过语料知识库,便可以将这个类别识别出来。概括来说,就是已知描述,对未知类别(未在训练集中出现的类别)进行推理。
以下图为例简述:比方说我们有个1000分类的大模型,但这个模型从未训练过斑马,此时想基于大模型来识别斑马。现在回到大模型中,我们发现大模型中的马体型,老虎的纹络分布,熊猫的颜色,和斑马特征相似,我们基于这三种动物的特征,再加入一些描述,基于原大模型完成对斑马的识别。
2.迁移学习
定义:可以理解为zore-shot的升级版,迁移学习(Transfer Learning)是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务,虽然大多数机器学习算法都是为了解决单个任务而设计的,但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见。
例如:我们可能会发现学习识别苹果可能有助于识别梨,或者学习弹奏电子琴可能有助于学习钢琴。找到目标问题的相似性,迁移学习任务就是从相似性出发,将旧领域(domain)学习过的模型应用在新领域上。
3.多模态学习
定义:机器学习一般是对单模态像,视频,音频,文本,图片等单独学习,多模态可以理解为对多个单模态一起学习得到更全面的模型。
例如:我们但从图片识别就可以识别一个狗狗,但如果想从声音识别狗狗又要重新训练一个模型,各自为战的模型,必然不如一个多模态的大模型应用面广,更容易落地。所以训练一个可以从图片,音频,视频,问本,都可以识别狗狗的模型是一个很好的方向。
参考文献
2.Zero-shot(零次学习)简介_Unstoppable~~~的博客-CSDN博客