摘要
虚拟细胞是解析细胞机制、细胞行为与细胞动力学的极具前景的研究范式。虚拟细胞的实现依赖于基于大规模多模态单细胞数据对细胞动力学进行精准建模。然而，实验带来的技术噪声以及固有的生物学异质性，给虚拟细胞建模带来巨大挑战。为解决该问题，本文提出融合去噪扩散模块、具备上下文感知能力的Transformer模型scDifformer，并专门增设后训练阶段。该框架分为３阶段：掩码语言模型预训练、扩散驱动的后训练、下游微调，能够直接增强模型对稀疏噪声数据的去噪能力以及跨研究数据集泛化性能。
在7种组织、多个独立数据集上开展基准测试表明，扩散模块可以持续提升跨数据集性能，尤其在批次效应显著的场景提升效果突出。结合Transformer与扩散模型２者优势，scDifformer在多套数据集的细胞类型注释任务上取得当前最优性能。同时该模型在多种组织中可以稳健识别免疫细胞身份，精准复原关键标记基因、功能通路以及跨组织细胞分化轨迹。最后，将scDifformer与图神经网络结合，拓展至空间转录组分析，显著提升空间斑点反卷积精度。
综上，scDifformer提供可扩展、具备生物学依据的框架，用于对异质性单细胞数据开展建模，为构建高保真多模态虚拟细胞模型提供强有力基础。
#scDifformer #单细胞基础模型 #扩散模型 #后训练 #虚拟细胞 #细胞类型注释 #空间转录组反卷积 #细胞轨迹推断
scDifformer基础模型的4大任务
输入单细胞转录组（3,420万细胞），经过包含24层自注意力、层归一化、前馈神经网络、非马尔可夫扩散过程的scDifformer基础模型；支持4大任务：任务1细胞类型识别；任务2标记基因/通路识别；任务3细胞发育谱系推断；任务4空间反卷积。
材料与方法
scDifformer后训练
图1 scDifformer架构以及训练数据集的组织分布
(A) 3阶段训练总览：预训练、后训练、微调。在传统掩码语言模型预训练之后新增基于扩散的后训练阶段，对Transformer表征做精细化优化。该阶段融合Transformer与扩散模型优势，提升知识获取能力、加快收敛速度。
(B) 预训练与后训练所用scRNA‑seq数据集的组织构成，包含来自人体多种组织的超过3,420万细胞。
结果
扩散后训练提升模型跨研究数据集泛化能力
表1 跨数据集条件下，有无扩散模块的细胞注释性能对比
测试7种组织（骨髓、外周血单核细胞、肺、胰腺、肝脏、心脏、肾脏），分别使用12层/24层Transformer架构，开启/关闭扩散模块。表格数值代表每种组织对应的两套配对数据集上平均准确率；加粗为该列最优结果。
scDifformer在多数据集细胞类型注释任务取得最优性能
图2 数据集内与跨数据集场景下细胞注释性能基准测试
(A,B) 箱线图展示8种细胞注释方法在5套单细胞数据集上的准确率；
(A) 数据集内测试，每套数据集内部执行5折交叉验证；
(B) 跨数据集测试，配对数据集交替分别用作训练集、测试集。
(C) 跨数据集场景下肾脏样本注释的混淆矩阵，对比scDifformer、Geneformer、scBERT。
基于注意力引导的基因与通路解析，解读异质性细胞身份
图3 基于注意力识别细胞类型相关基因及其功能富集结果
(A) 热图展示scDifformer最后1层Transformer输出的经log转换的注意力权重；展示来自Travaglini肺数据集B细胞、纤毛细胞、成纤维细胞、NK细胞注意力得分排名前10基因；不同颜色列代表对应细胞类型注意力图谱：浅蓝色B细胞、赭黄色纤毛细胞、深蓝色成纤维细胞、红色NK细胞。
(B) 基于各细胞类型注意力权重排名前100基因的细胞类型富集分析的‑log10(P值) 条形图；每类显著富集条目均与真实细胞注释身份匹配。
(C‑F) 各细胞类型排名前100基因的GO富集分析（C：B细胞；D：纤毛细胞；E：成纤维细胞；F：NK细胞）。每个节点代表1条富集GO条目；节点颜色区分功能大类；节点大小代表映射到该条目的输入基因占比；边宽度代表条目之间语义相似度。
基于嵌入表征引导的轨迹推断，追踪跨组织免疫细胞发育过程
图4 scDifformer与其他模型嵌入结果在免疫细胞分辨、发育轨迹推断上的对比
(A) 未整合的单细胞基因表达谱UMAP投影图，上方按细胞类型着色，下方按组织来源着色；可见显著批次效应，细胞类型区分效果差。
(B) 基于scVI嵌入得到的UMAP以及Slingshot推断伪时间轨迹；scVI减轻批次效应，但得到的轨迹较为稀疏，生物学方向性有限。
(C) scDifformer嵌入得到的UMAP与伪时间轨迹；相同类型细胞形成紧凑连续的聚类，在骨髓、脾脏、胸腺、外周血样本中清晰呈现从造血干祖细胞向分化免疫亚群的谱系转换。相比scVI，更好保留发育连续性，与经典造血层级更吻合。
(D) 基于scFoundation嵌入的UMAP与Slingshot伪时间轨迹。
(E) 基于scGPT嵌入的UMAP与Slingshot伪时间轨迹。
scDifformer跨模态应用：空间斑点反卷积
图5 scDifformer用于空间转录组反卷积
(A) scDifformer‑GraphSAGE空间转录组反卷积流程示意。首先基于单细胞RNA‑seq数据随机生成混合细胞的伪空间斑点；结合伪斑点与真实斑点，利用表达矩阵寻找每个斑点的k近邻，构建链接图；利用图卷积网络将伪斑点与真实斑点数据传播至隐层，分辨每个斑点内不同细胞类型的组分。将scDifformer提取的细胞嵌入与斑点表达矩阵拼接，作为GraphSAGE模块输入，最终输出包含每个斑点各类细胞占比的斑点‑细胞类型矩阵。
(B) 小鼠皮层空间分辨单细胞转录组数据集；每个点代表单个细胞，不同颜色代表不同细胞类型；按照细胞坐标网格化生成已知细胞组分的斑点。
(C,D) 雷达图展示不同反卷积方法在各项指标上的性能排名；雷达图最外层代表性能最优，对应PCC/SSIM数值越高越好，JSD/RMSE数值越低越好；测试样本分别为网格化处理的小鼠皮层单细胞样本(C)，以及人胰腺scRNA‑seq生成的模拟空间转录组数据(D)。
详细总结
思维导图
研究背景与现存痛点
数据集与编码方案
细胞类型注释任务
跨组织免疫发育伪时间轨迹推断
⚠️局限性
参考
Nucleic Acids Res. 2026 Jul 3;54(13):gkag706. doi: 10.1093/nar/gkag706.
scDifformer: diffusion-based post-training for virtual cell modeling across large-scale single-cell data
注：AI辅助创作，如有不当欢迎指出。内容仅供参考，不构成任何建议。