SELF-INSTRUCT: Aligning Language Models with Self-Generated Instructions

本文是LLM系列文章,针对《SELF-INSTRUCT: Aligning Language Models with Self-Generated Instructions》的翻译。

自我指导:将语言模型与自生成的指令相结合

  • 摘要
  • [1 引言](#1 引言)
  • [2 方法](#2 方法)
  • [3 来自GPT3的自学数据](#3 来自GPT3的自学数据)
  • [4 实验结果](#4 实验结果)
  • [5 相关工作](#5 相关工作)
  • [6 结论](#6 结论)

摘要

大型"指令调整"语言模型(即,微调以响应指令)已经证明了将零样本推广到新任务的显著能力。然而,它们在很大程度上依赖于人类书面指令数据,而这些数据在数量、多样性和创造性方面往往是有限的,因此阻碍了调优模型的通用性。我们介绍了SELFINSTRUCT,这是一个通过自举自己的生成来提高预训练语言模型的指令跟随能力的框架。我们的管道从语言模型中生成指令、输入和输出样本,然后过滤无效或类似的样本,然后使用它们来微调原始模型。将我们的方法应用于普通的GPT3,我们证明了在SUPERNATURALINSTRUCTIONS上比原始模型有33%的绝对改进,与使用私人用户数据和人工注释训练的InstructionGPT001的性能相当。为了进一步评估,我们为新任务策划了一组专家书面指令,并通过人工评估表明,使用SELF-instruction调整GPT3的性能大大优于使用现有公共指令数据集,仅与InstructionGPT001相差5%的绝对差距。SELF-instruction提供了一种几乎无注释的方法,用于将预训练的语言模型与指令对齐,我们发布了我们的大型合成数据集,以促进未来对指令调整的研究

1 引言

2 方法

3 来自GPT3的自学数据

4 实验结果

5 相关工作

6 结论

我们介绍了SELF-instruction,这是一种通过LMs自己生成指令数据来提高其指令跟随能力的方法。在对普通GPT3进行实验时,我们为不同的任务自动构建了一个由52K指令组成的大规模数据集,并在此数据上微调GPT3,使SUPERNI比原始GPT3有33%的绝对改进。此外,我们还为新颖的任务策划了一套专家书面说明。对该集的人工评估表明,使用SELF-instruction调优GPT3的性能大大优于使用现有公共指令数据集,并且与InstructionGPT001的性能非常接近。我们希望"自我指导"可以作为调整预训练的LMs以遵循人类指令的第一步,未来的工作可以建立在这些数据的基础上,以改进指令遵循模型。

相关推荐
跳跳糖炒酸奶13 分钟前
第四章、Isaacsim在GUI中构建机器人(2):组装一个简单的机器人
人工智能·python·算法·ubuntu·机器人
AI.NET 极客圈17 分钟前
AI与.NET技术实操系列(四):使用 Semantic Kernel 和 DeepSeek 构建AI应用
人工智能·.net
Debroon21 分钟前
应华为 AI 医疗军团之战,各方动态和反应
人工智能·华为
俊哥V22 分钟前
阿里通义千问发布全模态开源大模型Qwen2.5-Omni-7B
人工智能·ai
果冻人工智能28 分钟前
每一条广告都只为你而生: 用 人工智能 颠覆广告行业的下一步
人工智能
掘金安东尼32 分钟前
GPT-4.5 被 73% 的人误认为人类,“坏了?!我成替身了!”
人工智能·程序员
掘金一周1 小时前
金石焕新程 >> 瓜分万元现金大奖征文活动即将回归 | 掘金一周 4.3
前端·人工智能·后端
白雪讲堂1 小时前
AI搜索品牌曝光资料包(精准适配文心一言/Kimi/DeepSeek等场景)
大数据·人工智能·搜索引擎·ai·文心一言·deepseek
斯汤雷1 小时前
Matlab绘图案例,设置图片大小,坐标轴比例为黄金比
数据库·人工智能·算法·matlab·信息可视化
ejinxian2 小时前
Spring AI Alibaba 快速开发生成式 Java AI 应用
java·人工智能·spring