【论文阅读】Can Large Language Models Empower Molecular Property Prediction?

文章目录

0、基本信息

1、研究动机

分子属性预测得到巨大的关注,分子图能够被描述为图结构的数据或SMILES (Simplified Molecular-Input Line-Entry System)文本。LLMs的快速发展给NLP领域带来颠覆性变化,但是,LLM如何影响分子性质预测的探索仍处于早期阶段。

本文,从两个视角------零样本和少样本分子分类,通过LLMs生成分子原始SMILESD的新解释。

  • 首先提示LLM进行上下文分子分类并评估其性能。
  • 然后,我们使用LLM为原始SMILES生成语义丰富的分析和解释。文本解释可以作为分子的新表征。
  • 最后,利用它来微调多个下游任务的小规模LM模型

2、创新性

由于分子可以表示为SMILES序列,因此使用具有强大文本理解能力的LLM来处理分子数据是一个不错的想法。简而言之,大模型在分子预测任务上的迁移。

例如,对于给定分子的SMILES,ChatGPT可以准确地描述分子的功能组、化学性质和潜在的药物应用。如下图所示。

基本思想:

对于所给的SMILES序列,设计合理的提示,提示LLM进行zero/few-shot 分类,并总结出新的表征,即Caption as new Representation,用新的表征在下游任务上微调小规模LMs。

3、方法论

情境学习(ICL)已经成为NLP的新范式。使用包含以自然语言模板编写的多个示例作为输入的上下文,LLM可以对未看到的输入进预测,而不需要额外的参数更新。利用ChatGPT的ICL能力,通过设计的提示来帮助分子分类任务,如下图所示。

这种模式使得通过改变演示和模板将人类知识融入LLM变得更加容易。

在PTC数据集上,使用"毒性"、"癌症"和"有害"等术语进行关键字搜索,以检索ChatGPT为原始SMILES格式PTC数据集生成的所有解释。值得注意的是,观察到这些关键字中的大多数主要出现在标记为-1的条目中。这表明ChatGPT能够为原始SMILES字符串提供有意义和独特的专业解释,从而使下游任务受益。

总之,利用ChatGPT来理解原始SMILES字符串并生成包含各个方面的文本描述;然后,微调预训练的小规模LM用于各种下游任务,例如分子分类和性质预测。

4、实验结果

ChatGPT具有一定水平的少样本分子分类能力。然而,在整个实验中,发现ChatGPT的分类性能并不一致,对于相同的提示,不同的提示也有显着的影响的结果。因此,设计有效的提示,并聚合合理的先验信息实现更好的零样本和少样本分类至关重要的.

相关推荐
不去幼儿园26 分钟前
【MARL】深入理解多智能体近端策略优化(MAPPO)算法与调参
人工智能·python·算法·机器学习·强化学习
想成为高手49932 分钟前
生成式AI在教育技术中的应用:变革与创新
人工智能·aigc
YSGZJJ1 小时前
股指期货的套保策略如何精准选择和规避风险?
人工智能·区块链
无脑敲代码,bug漫天飞1 小时前
COR 损失函数
人工智能·机器学习
HPC_fac130520678162 小时前
以科学计算为切入点:剖析英伟达服务器过热难题
服务器·人工智能·深度学习·机器学习·计算机视觉·数据挖掘·gpu算力
小陈phd5 小时前
OpenCV从入门到精通实战(九)——基于dlib的疲劳监测 ear计算
人工智能·opencv·计算机视觉
Guofu_Liao6 小时前
大语言模型---LoRA简介;LoRA的优势;LoRA训练步骤;总结
人工智能·语言模型·自然语言处理·矩阵·llama
ZHOU_WUYI10 小时前
3.langchain中的prompt模板 (few shot examples in chat models)
人工智能·langchain·prompt
如若12310 小时前
主要用于图像的颜色提取、替换以及区域修改
人工智能·opencv·计算机视觉
老艾的AI世界10 小时前
AI翻唱神器,一键用你喜欢的歌手翻唱他人的曲目(附下载链接)
人工智能·深度学习·神经网络·机器学习·ai·ai翻唱·ai唱歌·ai歌曲