大语言模型:Large Language Models Are Human-Level Prompt Engineers概述

研究内容

如何通过prompt,在不进行微调大语言模型的前提下,增加大语言模型的表现

研究动机

  • prompt非常有用,但是人工设置的非常不自然;
  • 因此提出了要自动使用大语言模型自己选择prompt;
  • 取得了很好的效果。

作者主要是提出了三件事:

如何让大语言模型生成prompt

LLM是可以分为两类的,

  • 其中一类GPT是只能从前到后的,他们不支持句子补全(在一段话当中填写空缺位置);
  • 另一类,则是可以反向的例如T5、GLM、 InsertGPT,这些模型就会支持句子补全。

因此作者为这两类模型分别设置了两种方法,例子如下:

同时作者指出,也不一定要和这俩完全相同,使用回答评价指标一定可以找到一个更加适合指令instruction生成的prompt这里只是样板(template)。作者给出了在本文实验当中实际采用的prompt:

如何评价这些prompt

就是简单的让其跑一下分

如何进一步优化prompt

可以使用大语言模型进一步resample跑一下选出来的高分指令instruction:

再在这些指令当做选择更好的指令。

相关推荐
我叫张小白。2 分钟前
Dify系列(一):平台安装部署+界面操作
docker·ai·语言模型·大模型·dify·智能体
程序员Shawn4 分钟前
【机器学习 | 第五篇】- 决策树
人工智能·决策树·机器学习
LSssT.4 分钟前
《Python+AI Agent 30 天实战计划》专栏概述
人工智能
_李小白4 分钟前
【AI大模型学习笔记之平台篇】第五篇:Trae常用模型介绍与性能对比
人工智能·笔记·学习
蕤葳-27 分钟前
价值3万亿的教训:为什么员工考完CAIE,你的AI项目依然落不了地?
人工智能
GISer_Jing27 分钟前
AI Agent操作系统架构师:Harness Engineer解析
前端·人工智能·ai·aigc
禾小西30 分钟前
Spring AI :Spring AI的介绍
java·人工智能·spring
ん贤31 分钟前
AI 大模型落地系列|Eino 编排进阶篇:一文讲透编排(Chain 与 Graph)
人工智能·golang·编排·eino
红云梦34 分钟前
简历投了 100 份没回音?我给面试平台加了个“简历雷达“
人工智能·面试·职场和发展
嘉伟咯41 分钟前
动手做一个AIAgent - 简易框架搭建
人工智能·agent