基于Prompt Learning的信息抽取

PTR: Prompt Tuning with Rules for Text Classification

清华;liuzhiyuan;通过规则制定subpromptRelation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

ACM SIGIR 22;浙大;chenhuajun & zhangningyu 团队;将关系抽取视为开卷,训练过程中通过MASK的向量,构建知识embedding库,以及KNN检索。Inference时,考虑KNN的topn结果,可以提升模型的鲁棒性和在长尾数据上的效果。

KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction;

WWW22;浙大;chenhuajun & zhangningyu 团队;我们在实体周围分配虚拟类型词,这些词使用潜在实体类型集合的聚合嵌入进行初始化;将MLM个具有额外可学习关系嵌入的头部层扩展为虚拟答案词集V',以完全表示对应的关系标签Y。

Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification;

ACL22;清华;liuzhiyuan;将 MASK 出来的词和 label 映射时,通过KB扩展label 对应的lable,去掉噪声优化这些词,在loss层面对扩展出来的词做区分对待。

AugPrompt: Knowledgeable augmented-trigger prompt for few-shot event classification

Information Processing & Management;设计了一个外部知识注入模块(External Knowledge Injection, EKI)以整合外部知识库(相关词)进行触发词扩充; 并提出事件提示生成(Event Prompt Generation, EPG)模块,以生成适当的离散提示来初始化连续提示和事件提示调优(Event Prompt Tuning, EPT)模块,在连续空间中自动搜索FSEC的提示预测输入的相应事件类型。

DictPrompt: Comprehensive dictionary-integrated prompt tuning for pre-trained language model

利用词典中的语义信息缓解PLM中低频词表示不足的问题,结合语料库中的词、定义及其例句设计了一套全面的提示模板。DictPrompt使用这些模板在预训练和微调之间插入一个单词游戏训练任务,允许模型向PLM注入更多语义信息。

相关推荐
阿昌喜欢吃黄桃19 小时前
提示词工程:User Prompt 与 System Prompt
ai·prompt·提示词·提示词工程
XLYcmy2 天前
大语言模型(LLM)核心技术梳理:从词元化到 RAG 的工程实践
自然语言处理·prompt·embedding·token·cot·tokenization·上下文工程
hrrrrxeeeee3 天前
文件读取→比对→风险标记,拆解采购 AI 完整工作链路
大数据·人工智能·机器学习·prompt
技灵AI4 天前
Wan 3.0 API怎么做多参考商品视频?从图片、视频、音频分工到30秒交付
人工智能·prompt·aigc·音视频·wan 3.0
“AI国潮设计-小江”4 天前
【SDXL实战】Python自动化生成3D潮汕美食IP,附ComfyUI工作流与商用变现思路
开发语言·人工智能·python·prompt·aigc
TK泰妞5 天前
2026TikTok带货视频怎么做?
人工智能·prompt·音视频
XLYcmy5 天前
Prompt 设计相关问题
网络安全·llm·prompt·agent·cot·漏洞检测·harness
七夜zippoe6 天前
Prompt 工程进阶:角色设定、任务分解、输出约束与示例引导
ai·prompt·openai·agent·工程进阶
小叶肥辉6 天前
LangChain链和LangGraph图的学习笔记【六】——提示语模板(3)——Few-Shot Prompting(少样本提示) 模板类
笔记·python·学习·langchain·prompt·aigc
znnnk6 天前
【AI应用】Agent:AI 为什么需要“自主决策”?
ai·prompt·agent·workflow·ai应用·skill·mcp