大语言模型prompt -Template

Template

Template Construction

  • 根据任务手动设计
  • 搜索算法/优化算法 生成优化
  • 文本 / 无意义字符 (3个soft token,例如s1,s2, s3,在训练过程中,第一个变成be动词的概念,比较玄学)
  • 结构化与规则相结合

Example of tasks and corresponding template

例如,在做Summarization时(表格倒数第二条),会加上TL;DR这个prompt,意思是Too Long;Don't Read

例子1 :Template:Incorporation Rules and Logic

例如,在上述图片中显示,在判断A(Mark Twain)与B(Langdon)的关系时,要约束A实体和B实体都是Person类别。

例子2 :Structured Template

  • Key-value pairs for all the prompts
  • organize different tasks to a structured format

例子3: Ensembling Template

  • 多个template融合策略:1. 做平均 2. 加权平均 3. 投票

AUTO PROMPT:Elicting Knowledge from Language Models with Automatically Generated Prompts 2020

额外加了一个T5模型,判断加入哪些prompt可以提升准确性

相关推荐
制冷男孩1 分钟前
机器学习算法-支持向量机SVM
人工智能·算法·机器学习·支持向量机
结冰架构8 分钟前
人工智能大语言模型与AI芯片新进展:技术演进与商业化路径
人工智能·ai·语言模型·自然语言处理·技术
小研学术26 分钟前
如何开展有组织的AI素养教育?
大数据·人工智能·ai·大模型·deepseek·ai素养
中杯可乐多加冰29 分钟前
CloudFront VPC Origins 实践流程深入解析 —— 安全高效架构的实战之道
人工智能·掘金·金石计划
Francek Chen34 分钟前
【现代深度学习技术】循环神经网络07:通过时间反向传播
人工智能·pytorch·rnn·深度学习·神经网络·bptt
ai问道武曲35 分钟前
ai环境conda带torch整体迁移。
人工智能·pytorch·ai·conda
点PY1 小时前
对VTK中的Volume Data体数据进行二维图像处理
图像处理·人工智能
小草cys1 小时前
AI工作流自动化与智能应用开发平台
运维·人工智能·自动化·dify
小可爱的大笨蛋1 小时前
Spring AI Alibaba - MCP连接 MySQL
人工智能·mysql·spring·mcp
小流苏生1 小时前
这只是一罐过期了七年的红牛……
前端·人工智能·程序员