昇思MindSpore第六课---Roberta Prompt Turning

1. Roberta Prompt Turning的概念

在了解预训练语言模型的基础,以及预训练语言模型在Pre-training和Fine-tuning之后,我们已经可以预想到 Prompt的目的是将Fine-tuning的下游任务目标转换为Pre-training的任务 。

Prompt-Tuning起源于GPT-3的提出《Language Models are Few-Shot Learners》(NIPS2020),其认为超大规模的模型只要配合好合适的模板就可以极大化地发挥其推理和理解能力。

2 实践

2.1 配置环境

安装mindnlp 套件

2.2 模型与数据集加载

本案例对roberta-large模型基于GLUE基准数据集进行prompt tuning。

2.3 模型微调(prompt tuning)

按照如下步骤定义训练逻辑:

  1. 构建正向计算函数
  2. 函数变换,获取微分函数
  3. 定义训练一个step的逻辑
  4. 遍历训练数据集进行模型训练,同时每一个epoch后,遍历验证数据集获取当前的评价指标(accuracy、f1 score)

3. 感悟

每节课的深度在不断增加,对于初学者确实有些难度,很多概念也是云里雾里,但是对于模型的架构还是有一个比较清晰的概念。对于模型与数据的加载以及模型的训练也更加熟悉。对于模型的微调也有了一个更清楚的认识。也了解了大模型通过提供"提示"来鼓励预先训练的模型做出特定的预测,指定要完成的任务。这对于大模型是一个非常重要的概念,也让我们更理解大模型运行的原理。

相关推荐
Yunlord1 天前
(五)善用背景设定,让 ChatGPT 回答更精准
深度学习·chatgpt·prompt·提示词
Yunlord1 天前
(六)优化 ChatGPT 交互:任务式 Prompt 的力量
人工智能·深度学习·chatgpt·prompt
大模型之路2 天前
提示词(Prompt)书写框架:解锁高效与精准的AI交互
人工智能·llm·prompt
loong_XL2 天前
LLM prompt提示构造案例:语音回复内容;o1思维链
大模型·prompt
小西blue3 天前
prompt提示词技巧
人工智能·prompt·提示词技巧·prompt技巧
三月七(爱看动漫的程序员)4 天前
SocraticLM: Exploring Socratic Personalized Teaching with Large Language Models
人工智能·语言模型·自然语言处理·chatgpt·prompt
Yunlord5 天前
(一)掌握未来的语言艺术:提示词工程与大语言模型的沟通奥秘
人工智能·gpt·chatgpt·prompt·提示词
风雨中的小七6 天前
解密prompt系列46. LLM结构化输出代码示例和原理分析
prompt
AIGC大时代7 天前
不只是工具:ChatGPT写作在学术中的创新思维与深度思考
人工智能·chatgpt·prompt·aigc·ai写作
一小彭水7 天前
Anaconda powershell prompt 显示路径不对 或者环境不存在
prompt