论文笔记:SQLPrompt: In-Context Text-to-SQL with Minimal Labeled Data

导语

本文提出了SQLPrompt,通过创新的Prompt设计、基于执行一致性的解码策略,以及混合不同格式的Prompt和不同LLMs输出的方式,提高了LLM在Few-shot In-context Learning下的能力。

1 简介

这项研究介绍了"SQLPrompt",一种针对大型语言模型(LLMs)中的Text-to-SQL任务进行少标签数据下的上下文提示的方法。SQLPrompt通过创新的提示设计、基于执行一致性的解码策略(选择最一致的执行结果SQL),以及"MixPrompt"和"MixLLMs"方法(增加不同提示设计和基础模型中SQL提议的多样性)来提高少示例提示的能力。结果表明,SQLPrompt在少标签数据的上下文学习中表现优异,与使用数千标签数据进行微调的最新技术相比,缩小了差距。

2 方法

作者实际上提出了4个小的模块,构成了SQLPrompt,分别为:

  • Prompt设计:Prompt中包括数据库schema、主/外键和数据库内容。本文给出了两种不同的Prompt格式,分别为
    • Concise promptsTable1 name: column name 1, column name 2 (relevant database content) | Table2 name: column1 ...
    • Verbose promptsTable "CarNames" contains three columns. The column names and their types are : MakeID (number), Model (string) ..."; "Foreign keys are ... Use foreign keys to join Tables
  • Execution-based consistency decoding:基于执行一致性的解码策略实际上就是对LLM进行多次采样生成,然后对生成的SQL语句进行执行,选择执行结果最一致的那个SQL;
  • MixPrompt:将不同的Prompt格式进行混合作为Few-shot的示例;
  • MixLLMs:将输入分别输入给不同的LLM进行生成采样;

从作者给出的这个流程图中可以很清楚的看到这4个模块。

3 实验

  • 任务和数据集:考虑Spider跨领域大规模Text-to-SQL基准测试。
  • 模型:包括不同版本的PaLM和FLAN模型。
  • 微调模型:包括PICARD、RASAT和RESDSQL等。
  • 上下文学习模型:包括对CodeX、GPT-3和ChatGPT的评估。

4 结果

  • 性能比较:SQLPrompt在上下文学习和微调方法中表现优异,特别是在执行准确度(EX)和测试准确度(TS)方面。
  • 消融研究 :研究了SQLPrompt的多个组件各自对于最终结果的影响,包括
    • 提示设计、
    • 基于执行的一致性解码、
    • MixPrompt和
    • MixLLMs。

从表格2-5可以看到,作者提出的这四个模块都对最终的SQLPrompt方法有提升。

5 结论

SQLPrompt通过创新的提示设计和一致性解码策略,显著提高了Text-to-SQL任务的性能。其在处理少量标签数据时的能力尤其突出,为Text-to-SQL领域提供了一个有力的新工具。

相关推荐
杰说新技术1 分钟前
Meta AI最新推出的长视频语言理解多模态模型LongVU分享
人工智能·aigc
说私域4 分钟前
基于开源 AI 智能名片、S2B2C 商城小程序的用户获取成本优化分析
人工智能·小程序
东胜物联24 分钟前
探寻5G工业网关市场,5G工业网关品牌解析
人工智能·嵌入式硬件·5g
皓74135 分钟前
服饰电商行业知识管理的创新实践与知识中台的重要性
大数据·人工智能·科技·数据分析·零售
wangyue41 小时前
c# 深度模型入门
深度学习
川石课堂软件测试1 小时前
性能测试|docker容器下搭建JMeter+Grafana+Influxdb监控可视化平台
运维·javascript·深度学习·jmeter·docker·容器·grafana
985小水博一枚呀1 小时前
【深度学习滑坡制图|论文解读3】基于融合CNN-Transformer网络和深度迁移学习的遥感影像滑坡制图方法
人工智能·深度学习·神经网络·cnn·transformer
AltmanChan1 小时前
大语言模型安全威胁
人工智能·安全·语言模型
985小水博一枚呀1 小时前
【深度学习滑坡制图|论文解读2】基于融合CNN-Transformer网络和深度迁移学习的遥感影像滑坡制图方法
人工智能·深度学习·神经网络·cnn·transformer·迁移学习
数据与后端架构提升之路1 小时前
从神经元到神经网络:深度学习的进化之旅
人工智能·神经网络·学习