大语言模型:Large Language Models Are Human-Level Prompt Engineers概述

研究内容

如何通过prompt,在不进行微调大语言模型的前提下,增加大语言模型的表现

研究动机

  • prompt非常有用,但是人工设置的非常不自然;
  • 因此提出了要自动使用大语言模型自己选择prompt;
  • 取得了很好的效果。

作者主要是提出了三件事:

如何让大语言模型生成prompt

LLM是可以分为两类的,

  • 其中一类GPT是只能从前到后的,他们不支持句子补全(在一段话当中填写空缺位置);
  • 另一类,则是可以反向的例如T5、GLM、 InsertGPT,这些模型就会支持句子补全。

因此作者为这两类模型分别设置了两种方法,例子如下:

同时作者指出,也不一定要和这俩完全相同,使用回答评价指标一定可以找到一个更加适合指令instruction生成的prompt这里只是样板(template)。作者给出了在本文实验当中实际采用的prompt:

如何评价这些prompt

就是简单的让其跑一下分

如何进一步优化prompt

可以使用大语言模型进一步resample跑一下选出来的高分指令instruction:

再在这些指令当做选择更好的指令。

相关推荐
程序员陆通2 分钟前
2024年大型语言模型(LLMs)的发展回顾
人工智能·语言模型·自然语言处理
Shiyuan736 分钟前
【IEEE冠名会议】2025年IEEE第二届深度学习与计算机视觉国际会议(DLCV 2025)
人工智能·深度学习·计算机视觉
是十一月末36 分钟前
Opencv实现Sobel算子、Scharr算子、Laplacian算子、Canny检测图像边缘
人工智能·python·opencv·计算机视觉
MYT_flyflyfly38 分钟前
计算机视觉之三维重建-摄像机标定
人工智能·算法·计算机视觉
云卓SKYDROID40 分钟前
无人机信道分配与频谱效率定义!
人工智能·计算机视觉·无人机·科普·云卓科技
paixiaoxin41 分钟前
CV-MLLM经典论文解读|OneLLM: One Framework to Align All Modalities with Language
人工智能·深度学习·机器学习·计算机视觉·语言模型·实时音视频·mllm
AI34561 小时前
壁纸样机神器,这个工具适合专业设计师用吗?
人工智能
love530love1 小时前
利用 AI 高效生成思维导图的简单实用方法
人工智能·信息可视化
背太阳的牧羊人1 小时前
df.groupby()方法使用在查询中用到的筛选条件函数对 数据进行分组
人工智能·数据挖掘·pandas
禁默1 小时前
第四届计算机、人工智能与控制工程
人工智能·控制工程