Knowledge graphs and black box LLMs
文章摘要
本文探讨了大语言模型在生物医学研究中的局限性，提出了通过知识图谱增强LLM可解释性的解决方案，并详细介绍了统一KG-LLM框架在生物自然语言处理中的应用前景和实践价值。
引言：大语言模型在生物医学领域的机遇与挑战
近年来，大语言模型(LLMs)在各个领域都展现出了革命性的潜力，生物医学研究也不例外。然而，当ChatGPT被问及大语言模型在生物研究中的局限性时，它给出了一个相当全面的清单：缺乏特定领域知识、上下文理解能力有限、无法获取最新信息，以及可解释性和可解释性不足 。
尽管存在这些局限性，我们必须承认，LLM确实能够对生物和生物医学研究产生变革性影响。毕竟，这些模型已经在基于生物序列数据的任务中取得了成功应用，如蛋白质结构预测，并且可能扩展到更广泛的生物化学语言领域 。
化学语言模型(CLMs)等专业化LLM在传统小分子药物以及抗体的药物发现过程中具有超越传统方法的潜力。更广泛地说，使用大规模预训练语言模型从大量未标注的生物医学数据中提取价值存在巨大机遇 。
预训练：生物特定LLM发展的关键
预训练无疑是开发生物领域特定LLM的关键。研究表明，像生物医学这样拥有大量未标注文本的领域，最能从特定领域预训练中受益，而不是从通用领域语言模型开始 。
仅在特定领域词汇上预训练的生物医学语言模型覆盖了更广泛的应用范围，更重要的是，它们在性能上大大超过了目前可用的生物医学NLP工具 。
然而，基于transformer的LLM存在一个更大的可解释性和可解释性问题 。
LLM黑盒问题的深度剖析
自然语言处理(NLP)模型的发展传统上根植于本质上可解释的白盒技术。然而，此后的演进转向了更复杂和先进的黑盒技术，这些技术无疑促进了最先进的性能表现，但也模糊了可解释性 。
为了理解LLM中可解释性挑战的巨大规模，我们可以参考OpenAI今年早些时候发表的《Language models can explain neurons in language models》论文，该论文开篇即指出："语言模型变得更加强大，部署更加广泛，但我们不理解它们是如何工作的。"
为了完全理解LLM，需要分析数百万个神经元，该论文提出了一种自动化可解释性的方法，以便能够扩展到语言模型中的所有神经元。然而，问题在于"神经元可能无法解释" 。
因此，即使在可解释LLM的工作仍在继续的情况下，生命科学行业需要一个更直接的解决方案来利用LLM的力量，同时减轻可解释性和可解释性等问题。而知识图谱可能就是这个解决方案 。
利用知识图谱增强生物NLP的可解释性
对LLM的一个批评是，它们基于"词序列的统计可能延续"生成的预测未能捕捉到科学知识创造核心的关系功能。这些关系功能对于有效的生命科学研究至关重要 。
生物医学数据来源于不同层次的生物组织，使用不同的技术和模式，分散在多个非标准化数据存储库中。研究人员需要连接所有这些点，跨越不同的数据类型、格式和来源，并理解它们之间的关系/动态，以获得有意义的见解 。
知识图谱(KGs)已成为生命科学技术基础设施的关键组成部分，因为它们帮助映射数百万不同数据点之间的语义或功能关系 。
知识图谱使用NLP创建一个语义网络，该网络根据系统中所有对象之间的关系来可视化这些对象。基于本体匹配的语义数据集成有助于将不同的结构化/非结构化信息组织和链接到一个统一的、人类可读的、计算可访问的、可追踪的知识图谱中，该图谱可以进一步查询新的关系和更深层的见解 。
统一LLM与知识图谱的创新框架
将这些不同的本体驱动和自然语言驱动系统相结合，创造了一种协同技术，既增强了每种系统的优势，又解决了两者的局限性。KG可以为LLM提供解决可解释性问题所需的可追踪事实知识 。
针对LLM和KG统一的路线图提出了三种不同的框架 ：
1. KG增强的LLM
在这种框架中，来自KG的结构化可追踪知识增强了LLM的知识感知和可解释性。在预训练阶段纳入KG有助于知识转移，而在推理阶段，它增强了LLM在访问特定领域知识方面的性能 。
2. LLM增强的KG
LLM可以在两种不同的上下文中使用------它们可以用于处理原始语料库并提取关系和实体，为KG构建提供信息。同时，还可以处理KG中的文本语料库以丰富表示 。
3. 协同LLM + KG
两个系统统一到一个包含四层的通用框架中。第一层是数据层，处理文本和结构数据，可以扩展到包含多模态数据，如视频、音频和图像。第二层是协同模型层，两个系统的特征在此协同以增强能力和性能。第三层是技术层，将相关的LLM和KG集成到框架中。第四层是应用层，用于解决不同的实际应用 。
KG-LLM统一方法的显著优势
统一的KG-LLM方法为生物NLP提供了一个直接解决方案，以应对阻碍生命科学大规模部署的黑盒问题。结合特定领域的KG、本体和词典可以在语义理解和可解释性方面显著增强LLM性能。同时，LLM也可以帮助用来自电子健康记录、科学出版物等的真实世界数据丰富KG，从而扩大语义网络的范围和规模，增强生物医学研究 。
BioStrand的实践案例
BioStrand公司已经创建了一个综合知识图谱，整合了来自生物圈和其他数据源(如科学文献)的超过6.6亿个对象，通过超过250亿个关系相互连接。此外，他们的LENS ai平台由HYFT技术驱动，利用LLM的最新进展来弥合语法(多模态序列和结构数据)和语义(功能)之间的鸿沟 。
通过集成检索增强生成(RAG)模型，BioStrand能够利用LLM的推理能力，同时解决知识截止、幻觉和缺乏可解释性等相关局限性。与封闭循环语言建模相比，这种增强方法产生了多重好处，包括清晰的来源和归属，以及随着知识库更新和扩展而获得的最新上下文参考 。
技术实现与应用前景
在实际应用中，KG-LLM统一框架可以通过以下方式实现：
数据层面的集成
-
整合结构化和非结构化生物医学数据
-
支持多模态数据处理，包括文本、图像、分子结构等
-
建立标准化的数据接口和格式
模型层面的协同
-
利用知识图谱的结构化知识指导LLM训练
-
通过LLM的语言理解能力增强知识图谱的语义表示
-
实现两种技术的互补优势
应用层面的创新
-
药物发现和开发
-
疾病机制研究
-
个性化医疗方案设计
-
科学文献挖掘和知识发现
面临的挑战与解决方案
尽管KG-LLM统一框架展现出巨大潜力，但在实际应用中仍面临一些挑战：
数据质量与标准化
生物医学数据来源多样，质量参差不齐，需要建立统一的数据质量评估和标准化流程 。
模型可解释性
虽然知识图谱增强了可解释性，但如何在复杂的生物系统中提供直观、准确的解释仍需进一步研究 。
计算资源与效率
大规模知识图谱与复杂LLM的结合需要大量计算资源，如何优化效率是关键挑战 。
未来发展趋势与展望
KG-LLM统一框架在生物医学领域的发展前景广阔：
技术发展方向
-
更高效的知识图谱构建和维护方法
-
更强的多模态数据处理能力
-
实时知识更新和推理能力
应用扩展领域
-
精准医疗和个性化治疗
-
新药研发的全流程支持
-
临床决策支持系统
-
生物医学教育和培训
产业化前景
-
降低药物研发成本和时间
-
提高医疗诊断准确性
-
加速科学发现和知识转化
-
推动生物医学产业数字化转型
结论与启示
知识图谱与大语言模型的统一为生物医学研究带来了前所未有的机遇。这种协同方法不仅解决了传统LLM的黑盒问题，还为生命科学研究提供了更可靠、可解释的智能工具 。
随着技术的不断进步和应用场景的扩展，KG-LLM统一框架有望成为推动生物医学研究和产业发展的重要驱动力。对于专业人士、研究机构和投资者而言，及早布局这一技术领域，将为未来的竞争优势奠定坚实基础。
标签： #知识图谱 #KnowledgeGraphs #LLM #大语言模型 #生物医学AI #BioNLP
欢迎加入「知识图谱增强大模型产学研」知识星球，获取最新产学研相关"知识图谱+大模型"相关论文、政府企业落地案例、避坑指南、电子书、文章等，行业重点是医疗护理、医药大健康、工业能源制造领域，也会跟踪AI4S科学研究相关内容，以及Palantir、OpenAI、微软、Writer、Glean、OpenEvidence等相关公司进展。