基于Prompt Learning的信息抽取

PTR: Prompt Tuning with Rules for Text Classification

清华;liuzhiyuan;通过规则制定subpromptRelation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

ACM SIGIR 22;浙大;chenhuajun & zhangningyu 团队;将关系抽取视为开卷,训练过程中通过MASK的向量,构建知识embedding库,以及KNN检索。Inference时,考虑KNN的topn结果,可以提升模型的鲁棒性和在长尾数据上的效果。

KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction;

WWW22;浙大;chenhuajun & zhangningyu 团队;我们在实体周围分配虚拟类型词,这些词使用潜在实体类型集合的聚合嵌入进行初始化;将MLM个具有额外可学习关系嵌入的头部层扩展为虚拟答案词集V',以完全表示对应的关系标签Y。

Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification;

ACL22;清华;liuzhiyuan;将 MASK 出来的词和 label 映射时,通过KB扩展label 对应的lable,去掉噪声优化这些词,在loss层面对扩展出来的词做区分对待。

AugPrompt: Knowledgeable augmented-trigger prompt for few-shot event classification

Information Processing & Management;设计了一个外部知识注入模块(External Knowledge Injection, EKI)以整合外部知识库(相关词)进行触发词扩充; 并提出事件提示生成(Event Prompt Generation, EPG)模块,以生成适当的离散提示来初始化连续提示和事件提示调优(Event Prompt Tuning, EPT)模块,在连续空间中自动搜索FSEC的提示预测输入的相应事件类型。

DictPrompt: Comprehensive dictionary-integrated prompt tuning for pre-trained language model

利用词典中的语义信息缓解PLM中低频词表示不足的问题,结合语料库中的词、定义及其例句设计了一套全面的提示模板。DictPrompt使用这些模板在预训练和微调之间插入一个单词游戏训练任务,允许模型向PLM注入更多语义信息。

相关推荐
小白说大模型12 小时前
AI Agent 调试实战:链路追踪、Prompt 可视化与异常定位的系统方法
java·人工智能·python·算法·prompt
老谷子.AI原始技术1 天前
《Claude Code工程化实践》加课4-Claude Code 的底层内功:Prompt Engineering
prompt·claude code
中微极客1 天前
从Prompt到RAG:LLM工程实战全链路解析
人工智能·python·prompt
黑夜路人1 天前
可靠 Agent 设计:从一句 Prompt 到稳定交付
数据库·人工智能·prompt
kp000002 天前
System Prompt Leakage(系统提示词泄露)及安全防御
网络·安全·网络安全·信息安全·prompt·ai安全
kp000002 天前
AI大模型,如何区分善意提问与Prompt注入攻击
人工智能·网络安全·信息安全·prompt·ai安全
城事漫游Molly4 天前
科研数据可视化的5步AI工作流:从原始数据到发表级图表
人工智能·信息可视化·数据分析·prompt·ai for science·科研数据绘图·博士生必读
ddshub_cc4 天前
理解 Loop Engineering 与 AI 编程成本优化
大数据·人工智能·gpt·prompt·ai编程
自己的九又四分之三站台4 天前
Prompt 工程实战:把一句需求写成 AI 能稳定交付的任务规格
人工智能·prompt
All The Way North-4 天前
【NLP文本分类实战】随机森林 + TF-IDF 完整流程,准确率82.5%(数据分析/分词/模型训练)
随机森林·机器学习·nlp·tf-idf·文本分类·sklearn·保姆级教程