预训练模型

喵~来学编程啦

【论文精读】ID-like Prompt Learning for Few-Shot Out-of-Distribution Detection🌈 个人主页：十二月的猫-CSDN博客 🔥 系列专栏： 🏀论文精读_十二月的猫的博客-CSDN博客

【大模型系列篇】预训练模型：BERT & GPT2018 年，Google 首次推出 BERT（Bidirectional Encoder Representations from Transformers）。该模型是在大量文本语料库上结合无监督和监督学习进行训练的。 BERT 的目标是创建一种语言模型，可以理解句子中单词的上下文和含义，同时考虑到它前后出现的单词。

AI视觉相关的预训练模型、公开数据集

【文档智能】多模态预训练模型及相关数据集汇总大模型时代，在现实场景中或者企业私域数据中，大多数数据都以文档的形式存在，如何更好的解析获取文档数据显得尤为重要。文档智能也从以前的目标检测（版面分析）阶段转向多模态预训练阶段，本文将介绍目前一些前沿的多模态预训练模型及相关数据集。

一支绝命钩

深度学习：UserWarning: The parameter ‘pretrained‘ is deprecated since 0.13..解决办法pytorch版本：0.14.1 在利用pytorch中的预训练模型时，如resnet18会提示警告：

机器学习：Bert and its family先用无监督的语料去训练通用模型，然后再针对小任务进行专项训练学习。