大语言模型:Large Language Models Are Human-Level Prompt Engineers概述

研究内容

如何通过prompt,在不进行微调大语言模型的前提下,增加大语言模型的表现

研究动机

  • prompt非常有用,但是人工设置的非常不自然;
  • 因此提出了要自动使用大语言模型自己选择prompt;
  • 取得了很好的效果。

作者主要是提出了三件事:

如何让大语言模型生成prompt

LLM是可以分为两类的,

  • 其中一类GPT是只能从前到后的,他们不支持句子补全(在一段话当中填写空缺位置);
  • 另一类,则是可以反向的例如T5、GLM、 InsertGPT,这些模型就会支持句子补全。

因此作者为这两类模型分别设置了两种方法,例子如下:

同时作者指出,也不一定要和这俩完全相同,使用回答评价指标一定可以找到一个更加适合指令instruction生成的prompt这里只是样板(template)。作者给出了在本文实验当中实际采用的prompt:

如何评价这些prompt

就是简单的让其跑一下分

如何进一步优化prompt

可以使用大语言模型进一步resample跑一下选出来的高分指令instruction:

再在这些指令当做选择更好的指令。

相关推荐
张小九9920 分钟前
Foldseek快速蛋白质结构比对
人工智能
云卓SKYDROID1 小时前
无人机延时模块技术难点解析
人工智能·无人机·高科技·云卓科技·延迟摄像
神齐的小马2 小时前
机器学习 [白板推导](十三)[条件随机场]
人工智能·机器学习
荼蘼2 小时前
CUDA安装,pytorch库安装
人工智能·pytorch·python
@Wufan2 小时前
【机器学习】7 Linear regression
人工智能·机器学习·线性回归
cxr8283 小时前
自动化知识工作AI代理的工程与产品实现
运维·人工智能·自动化
whaosoft-1433 小时前
51c自动驾驶~合集18
人工智能
即兴小索奇3 小时前
2025年AI Agent规模化落地:企业级市场年增超60%,重构商业作业流程新路径
人工智能·ai·商业·ai商业洞察·即兴小索奇
ReedFoley4 小时前
【笔记】动手学Ollama 第七章 应用案例1 搭建本地AI Copilot编程助手
人工智能·笔记·copilot
AKAMAI4 小时前
在分布式计算区域中通过VPC搭建私有网络
人工智能·分布式·云计算