基于Prompt Learning的信息抽取

PTR: Prompt Tuning with Rules for Text Classification

清华;liuzhiyuan;通过规则制定subpromptRelation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

ACM SIGIR 22;浙大;chenhuajun & zhangningyu 团队;将关系抽取视为开卷,训练过程中通过[MASK]的向量,构建知识embedding库,以及KNN检索。Inference时,考虑KNN的topn结果,可以提升模型的鲁棒性和在长尾数据上的效果。

KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction;

WWW22;浙大;chenhuajun & zhangningyu 团队;我们在实体周围分配虚拟类型词,这些词使用潜在实体类型集合的聚合嵌入进行初始化;将MLM个具有额外可学习关系嵌入的头部层扩展为虚拟答案词集V',以完全表示对应的关系标签Y。

Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification;

ACL22;清华;liuzhiyuan;将 [MASK] 出来的词和 label 映射时,通过KB扩展label 对应的lable,去掉噪声优化这些词,在loss层面对扩展出来的词做区分对待。

AugPrompt: Knowledgeable augmented-trigger prompt for few-shot event classification

Information Processing & Management;设计了一个外部知识注入模块(External Knowledge Injection, EKI)以整合外部知识库(相关词)进行触发词扩充; 并提出事件提示生成(Event Prompt Generation, EPG)模块,以生成适当的离散提示来初始化连续提示和事件提示调优(Event Prompt Tuning, EPT)模块,在连续空间中自动搜索FSEC的提示预测输入的相应事件类型。

DictPrompt: Comprehensive dictionary-integrated prompt tuning for pre-trained language model

利用词典中的语义信息缓解PLM中低频词表示不足的问题,结合语料库中的词、定义及其例句设计了一套全面的提示模板。DictPrompt使用这些模板在预训练和微调之间插入一个单词游戏训练任务,允许模型向PLM注入更多语义信息。

相关推荐
Swizard19 小时前
逐行解剖:扒开 Lovable Agent 源码,看顶级 AI 是如何“思考”与“动刀”的
ai·prompt
杜子不疼.2 天前
大模型应用开发实战:从 Prompt 工程到企业级落地全流程
prompt
觅特科技-互站2 天前
告别手动微调Prompt:DevOps用陌讯Skills重构AI运维工作流
运维·prompt·线性回归·kmeans·devops
小马_xiaoen2 天前
AI Prompt 工程完全指南:从入门到精通的提示词设计艺术
人工智能·prompt
Swizard3 天前
还在无脑堆砌提示词?三分钟看懂 Vercel v0 价值千万的 System Prompt 底层逻辑
ai·prompt
Loo国昌3 天前
【AI应用开发实战】Guardrail风险控制中间件:Agent系统的安全防线
人工智能·python·安全·自然语言处理·中间件·prompt
啦啦啦_99993 天前
SpringAI Alibaba(SAA) 之 Prompt
prompt
AC赳赳老秦3 天前
DeepSeek助力云原生AI降本:容器化部署资源优化与算力利用率提升技巧
网络·python·django·prompt·tornado·ai-native·deepseek
All The Way North-3 天前
【实战分享】人名国籍分类:从人名分类任务看循环神经网络的特征提取与序列建模能力
文本分类·tqdm·序列模型·实战分享·top-k算法·字符级嵌入·rnn系列
Loo国昌4 天前
【AI应用开发实战】09_Prompt工程与模板管理:构建可演进的LLM交互层
大数据·人工智能·后端·python·自然语言处理·prompt