大语言模型:Large Language Models Are Human-Level Prompt Engineers概述

研究内容

如何通过prompt,在不进行微调大语言模型的前提下,增加大语言模型的表现

研究动机

  • prompt非常有用,但是人工设置的非常不自然;
  • 因此提出了要自动使用大语言模型自己选择prompt;
  • 取得了很好的效果。

作者主要是提出了三件事:

如何让大语言模型生成prompt

LLM是可以分为两类的,

  • 其中一类GPT是只能从前到后的,他们不支持句子补全(在一段话当中填写空缺位置);
  • 另一类,则是可以反向的例如T5、GLM、 InsertGPT,这些模型就会支持句子补全。

因此作者为这两类模型分别设置了两种方法,例子如下:

同时作者指出,也不一定要和这俩完全相同,使用回答评价指标一定可以找到一个更加适合指令instruction生成的prompt这里只是样板(template)。作者给出了在本文实验当中实际采用的prompt:

如何评价这些prompt

就是简单的让其跑一下分

如何进一步优化prompt

可以使用大语言模型进一步resample跑一下选出来的高分指令instruction:

再在这些指令当做选择更好的指令。

相关推荐
小刘私坊6 分钟前
脑科学与人工智能的交叉:未来智能科技的前沿与机遇
人工智能·科技
怎么全是重名7 分钟前
VPN(2020)Cross-view Semantic Segmentation for Sensing Surroundings
人工智能·计算机视觉·目标跟踪
檀越剑指大厂26 分钟前
【零基础玩转多模态AI:Gemma3 27B开源视觉模型本地部署与远程访问】
人工智能·开源
tilblackout32 分钟前
机器学习详解(19):长短期记忆网络LSTM原理详解
人工智能·机器学习·lstm
人类群星闪耀时38 分钟前
从数据海洋中“淘金”——数据挖掘的魔法与实践
人工智能·数据挖掘
易安说AI44 分钟前
我用AI+高德MCP 10分钟搞定苏州三日游
人工智能
Lx35244 分钟前
📌《从Prompt工程到AI思维:开发者新技能树全解析》
人工智能
@MrLiu1 小时前
# 深度学习中的优化算法详解
人工智能·深度学习·算法·优化器
契合qht53_shine1 小时前
机器学习 从入门到精通 day_03
人工智能·机器学习
IT古董1 小时前
【漫话机器学习系列】199.过拟合 vs 欠拟合(Overfit vs Underfit)
人工智能