基于Prompt Learning的信息抽取

PTR: Prompt Tuning with Rules for Text Classification

清华;liuzhiyuan;通过规则制定subpromptRelation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

ACM SIGIR 22;浙大;chenhuajun & zhangningyu 团队;将关系抽取视为开卷,训练过程中通过[MASK]的向量,构建知识embedding库,以及KNN检索。Inference时,考虑KNN的topn结果,可以提升模型的鲁棒性和在长尾数据上的效果。

KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction;

WWW22;浙大;chenhuajun & zhangningyu 团队;我们在实体周围分配虚拟类型词,这些词使用潜在实体类型集合的聚合嵌入进行初始化;将MLM个具有额外可学习关系嵌入的头部层扩展为虚拟答案词集V',以完全表示对应的关系标签Y。

Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification;

ACL22;清华;liuzhiyuan;将 [MASK] 出来的词和 label 映射时,通过KB扩展label 对应的lable,去掉噪声优化这些词,在loss层面对扩展出来的词做区分对待。

AugPrompt: Knowledgeable augmented-trigger prompt for few-shot event classification

Information Processing & Management;设计了一个外部知识注入模块(External Knowledge Injection, EKI)以整合外部知识库(相关词)进行触发词扩充; 并提出事件提示生成(Event Prompt Generation, EPG)模块,以生成适当的离散提示来初始化连续提示和事件提示调优(Event Prompt Tuning, EPT)模块,在连续空间中自动搜索FSEC的提示预测输入的相应事件类型。

DictPrompt: Comprehensive dictionary-integrated prompt tuning for pre-trained language model

利用词典中的语义信息缓解PLM中低频词表示不足的问题,结合语料库中的词、定义及其例句设计了一套全面的提示模板。DictPrompt使用这些模板在预训练和微调之间插入一个单词游戏训练任务,允许模型向PLM注入更多语义信息。

相关推荐
居7然1 天前
解锁AI大模型:Prompt工程全面解析
人工智能·prompt·提示词
Jinkxs2 天前
Prompt Engineering+AI工具链:打造个人专属的智能开发助手
人工智能·prompt
爱分享的飘哥2 天前
第六十六篇:AI模型的“口才”教练:Prompt构造策略与自动化实践
人工智能·自动化·prompt·aigc·数据集·llm训练·数据工程
编码小袁2 天前
Prompt工程师基础技术学习指南:从入门到实战
prompt
zhurui_xiaozhuzaizai3 天前
OpenAI官方写的GPT-5 prompt指南
gpt·prompt
sssammmm3 天前
AI入门学习--如何写好prompt?
人工智能·学习·prompt
zzywxc7875 天前
深入解析大模型落地的四大核心技术:微调、提示词工程、多模态应用 及 企业级解决方案,结合代码示例、流程图、Prompt案例及技术图表,提供可落地的实践指南。
人工智能·深度学习·机器学习·数据挖掘·prompt·流程图·editplus
科大饭桶7 天前
AI大模型专题:LLM大模型(Prompt提示词工程)
人工智能·语言模型·llm·prompt·deepseek
六毛的毛7 天前
LangChain入门:内存、记录聊天历史 ChatMessageHistory、模型、提示 ( Prompt )、模式 ( Schema )
人工智能·langchain·prompt
一个天蝎座 白勺 程序猿10 天前
豆包新模型与PromptPilot工具深度测评:AI应用开发的全流程突破
人工智能·ai·大模型·prompt·豆包