Exploring Large Language Models for Knowledge Graph Completion

本文是LLM系列文章,针对《Exploring Large Language Models for Knowledge Graph Completion》的翻译。

探索用于知识图谱补全的大型语言模型

  • 摘要
  • [1 引言](#1 引言)
  • [2 相关工作](#2 相关工作)
  • [3 方法](#3 方法)
  • [4 实验](#4 实验)
  • [5 结论](#5 结论)
  • 局限性

摘要

知识图谱在众多人工智能任务中发挥着至关重要的作用,但它们经常面临不完全性问题。在这项研究中,我们探索利用大型语言模型(LLM)来补全知识图谱。我们将知识图谱中的三元组视为文本序列,并引入了一个名为知识图谱LLM(KGLLM)的创新框架来对这些三元组进行建模。我们的技术使用三元组的实体和关系描述作为提示,并利用响应进行预测。在各种基准知识图谱上的实验表明,我们的方法在三重分类和关系预测等任务中取得了最先进的性能。我们还发现,微调相对较小的模型(例如,LLaMA-7B、ChatGLM6B)的性能优于最近的ChatGPT和GPT-4。

1 引言

2 相关工作

3 方法

4 实验

5 结论

在这项工作中,我们提出了一种新的KG补全方法,称为KG-LLM。我们的方法在KG补全任务(如三重分类和关系预测)中获得了最先进的性能。对于未来的工作,我们计划将我们的KG-LLM作为一个知识增强的语言模型应用于其他NLP任务,并结合KGs的结构信息。此外,我们将探索更有效的LLM的提示工程和上下文指令。

局限性

尽管我们的方法在使用LLM补全KG方面已经证明了有希望的结果,但它目前缺乏处理缺乏实体和关系的文本名称或描述的KG的能力。此外,我们还没有充分利用KG结构信息,这有可能显著改善结果,特别是在实体预测任务中。

相关推荐
zenRRan1 分钟前
用中等难度prompt做高效post training
人工智能·深度学习·机器学习·计算机视觉·prompt
格林威35 分钟前
短波红外相机的简单介绍和场景应用
人工智能·数码相机·计算机视觉·目标跟踪·视觉检测·工业相机·工业镜头
风口猪炒股指标39 分钟前
《白日梦想家》片段与认知模式的思考
人工智能·博弈论·群体博弈·人生哲学·自我引导觉醒
lihuayong1 小时前
LangGraph React智能体 - 推理与行动的完美结合
人工智能·langgraph·react 智能体
机器之心1 小时前
Meta用40万个GPU小时做了一个实验,只为弄清强化学习Scaling Law
人工智能·openai
曾经的三心草1 小时前
OpenCV5-图像特征harris-sift-特征匹配-图像全景拼接-答题卡识别判卷
人工智能·opencv·计算机视觉
慧星云1 小时前
魔多 AI 支持 Wan 系列在线训练 :解锁视频生成新高度
人工智能
麻辣兔变形记2 小时前
Solidity 合约超限问题及优化策略:以 FHEFactory 为例
人工智能·区块链
渡我白衣2 小时前
未来的 AI 操作系统(二)——世界即界面:自然语言成为新的人机交互协议
人工智能·语言模型·人机交互
墨利昂2 小时前
词向量:自然语言处理技术体系的核心基石
人工智能·自然语言处理