大模型-模型预训练-预训练任务

一、简介

1、预训练任务目的

设计合适的自监督训练任务,使得模型能够从海量五标注数据中学习到广泛的语义知识与世界知识

2、常见预训练任务
  • 语言建模
  • 去噪自编码
  • 混合去噪器

二、语言建模

1、特点
  • 被目前绝大多数模型采用
  • 核心在于预测下一个词元
  • 经常被用于训练基于解码器架构的大模型
  • 是一种多任务学习过程,可同时学习到生成时用到的相关知识与能力
2、任务内容

基于前序内容生成或预测后续内容

3、变种
  • 前缀语言建模
    • 特点:主要应用与采用前缀解码器架构的大模型
    • 缺点:由于总损失仅计算后缀词元,性能稍逊于使用标准语言建模任务进行预训练的模型
  • 中间任务填充
    • 任务内容:训练模型对于中间部分文本的预测生成能力
    • 特点:
      • 常用于作为标准语言建模任务的辅助任务
      • 通常用于训练代码预训练模型,提升模型代码补全能力
4、应用情况
  • 应用范围:被绝大部分大模型采用
  • 代表模型:GPT

三、去噪自编码

1、特点
  • 实现比语言建模复杂,需要设定额外的优化策略,如词元替换策略、替换片段长度、替换词元比例
2、任务内容

输入文本经过一系列替换或删除,形成损坏文本,模型任务目标是根据损坏文本恢复出被替换或删除的片段

3、应用情况
  • 应用范围:比语言建模应用少
  • 代表模型:BERT、T5等模型

四、混合去噪器

1、任务内容

又称UL2损失,通过将语言建模和去噪自编码的目标均视为不同的去噪任务,对于预训练任务进行了统一建模

2、组成
  • S-去噪器
  • R-去噪器
  • X-去噪器
3、特点
  • S-去噪器与前缀语言建模目标相同
  • R-去噪器、X-去噪器与去噪自编码目标相似,二者在被掩盖(删除)片段的跨度以及损坏比例上有区别,R-去噪器掩盖比例约为15%,每个被掩盖片段包含3-5个词元;X-去噪器掩盖比例约为50%,每个被掩盖片段包含12个词元以上
4、如何选择去噪器

在句子开头设置特定词元(比如R、X、S)标记去噪器类型

5、应用情况
  • 应用范围:较小
  • 代表模型:UL2、PaLM2等
相关推荐
阿坡RPA11 小时前
手搓MCP客户端&服务端:从零到实战极速了解MCP是什么?
人工智能·aigc
用户277844910499311 小时前
借助DeepSeek智能生成测试用例:从提示词到Excel表格的全流程实践
人工智能·python
机器之心11 小时前
刚刚,DeepSeek公布推理时Scaling新论文,R2要来了?
人工智能
算AI13 小时前
人工智能+牙科:临床应用中的几个问题
人工智能·算法
凯子坚持 c14 小时前
基于飞桨框架3.0本地DeepSeek-R1蒸馏版部署实战
人工智能·paddlepaddle
你觉得20514 小时前
哈尔滨工业大学DeepSeek公开课:探索大模型原理、技术与应用从GPT到DeepSeek|附视频与讲义下载方法
大数据·人工智能·python·gpt·学习·机器学习·aigc
8K超高清15 小时前
中国8K摄像机:科技赋能文化传承新图景
大数据·人工智能·科技·物联网·智能硬件
hyshhhh15 小时前
【算法岗面试题】深度学习中如何防止过拟合?
网络·人工智能·深度学习·神经网络·算法·计算机视觉
薛定谔的猫-菜鸟程序员15 小时前
零基础玩转深度神经网络大模型:从Hello World到AI炼金术-详解版(含:Conda 全面使用指南)
人工智能·神经网络·dnn
币之互联万物15 小时前
2025 AI智能数字农业研讨会在苏州启幕,科技助农与数据兴业成焦点
人工智能·科技