基于Prompt Learning的信息抽取

PTR: Prompt Tuning with Rules for Text Classification

清华;liuzhiyuan;通过规则制定subpromptRelation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

ACM SIGIR 22;浙大;chenhuajun & zhangningyu 团队;将关系抽取视为开卷,训练过程中通过MASK的向量,构建知识embedding库,以及KNN检索。Inference时,考虑KNN的topn结果,可以提升模型的鲁棒性和在长尾数据上的效果。

KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction;

WWW22;浙大;chenhuajun & zhangningyu 团队;我们在实体周围分配虚拟类型词,这些词使用潜在实体类型集合的聚合嵌入进行初始化;将MLM个具有额外可学习关系嵌入的头部层扩展为虚拟答案词集V',以完全表示对应的关系标签Y。

Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification;

ACL22;清华;liuzhiyuan;将 MASK 出来的词和 label 映射时,通过KB扩展label 对应的lable,去掉噪声优化这些词,在loss层面对扩展出来的词做区分对待。

AugPrompt: Knowledgeable augmented-trigger prompt for few-shot event classification

Information Processing & Management;设计了一个外部知识注入模块(External Knowledge Injection, EKI)以整合外部知识库(相关词)进行触发词扩充; 并提出事件提示生成(Event Prompt Generation, EPG)模块,以生成适当的离散提示来初始化连续提示和事件提示调优(Event Prompt Tuning, EPT)模块,在连续空间中自动搜索FSEC的提示预测输入的相应事件类型。

DictPrompt: Comprehensive dictionary-integrated prompt tuning for pre-trained language model

利用词典中的语义信息缓解PLM中低频词表示不足的问题,结合语料库中的词、定义及其例句设计了一套全面的提示模板。DictPrompt使用这些模板在预训练和微调之间插入一个单词游戏训练任务,允许模型向PLM注入更多语义信息。

相关推荐
XLYcmy2 小时前
AI 赋能后中文与英文数据库对比分析报告 上
数据库·ai·llm·prompt·检索·wos·cnki
空空dream3 小时前
07 | FastAPI + llama.cpp 接入 Langfuse监控Prompt请求
prompt·fastapi·llama
forest_096 小时前
Agent 系列07|记忆与状态设计
人工智能·机器学习·架构·prompt·agi
for_ever_love__6 小时前
LangChain RunnableConfig 详解:运行时传参、并发控制与回调注入
语言模型·langchain·llm·prompt·config·invoke·运行时参数
const_qiu12 小时前
第一章 1.3:System Prompt 定义模型角色 —— 告诉 AI“你是谁“
人工智能·ubuntu·prompt
Joy T19 小时前
Agent 确定性上下文设计:从 Prompt 参数注入到能力分层
java·开发语言·微服务·架构·prompt·agent context
·云扬·1 天前
Prompt 工程与安全:从 System 设计到注入防御
java·人工智能·安全·ai·prompt
Raas1001 天前
MAI Gateway(魔芋企业级AI网关)功能全解:AI网关能做Prompt注入防护吗?一文看懂AI网关能力矩阵(v1.2.0)
网络·人工智能·gateway·prompt·mai gateway·企业级ai网关·企业级产品
Raas1001 天前
AI网关能做Prompt注入防护吗?MAI Gateway(魔芋企业级AI网关)实战能力深度解读
gateway·prompt
技灵AI1 天前
AI 家具视频提示词教程:单张客厅参考图生成竖版带货短片,提示词逐层怎么写
人工智能·prompt·aigc·电商运营