VCWM-State：面向单细胞扰动预测的细胞虚拟世界模型简介

摘要

单细胞扰动测序（Perturb‑seq）技术可以观测基因敲除、药物刺激等干预之后细胞转录组的变化，但湿实验成本高昂、实验条件受限，很难遍历全部基因、药物以及不同细胞背景。Arc Institute发表在Cell上的State模型 ，是一套用于预测细胞扰动响应的深度学习框架，由SE（State Embedding，细胞状态嵌入模块）与 ST（State Transition，状态迁移模块）两大核心组件构成。该模型不再对单个细胞进行建模，而是直接对细胞群体分布 进行学习，能够在全新细胞背景下零样本预测扰动带来的转录组改变。同时文章配套开源评测套件Cell‑Eval，为扰动预测模型建立统一的量化评估标准。本文围绕论文核心思想、模块架构、评测基准、实验效果、局限与未来方向展开解析。

一、研究背景与现存痛点

Perturb‑seq可以获得扰动之后单细胞RNA测序数据，但现实中存在几大核心难题：

1. 细胞观测的破坏性 ：scRNA‑seq测序会直接裂解细胞，我们只能得到扰动之后的细胞，无法观测同一个细胞扰动前的真实状态；
2. 细胞内在异质性：同一细胞系内部细胞本身就存在细胞周期、表观状态差异，扰动效果会被本底异质性掩盖；
3. 技术批次噪声：不同测序批次、实验流程带来技术噪声，混淆真实扰动信号；
4. 泛化能力不足 ：已有模型如scVI、CPA、GEARS、scGPT，在已知细胞类型上表现尚可，但迁移到完全未见过的细胞背景时性能大幅下降。

很多传统方法假设细胞群体异质性可以忽略 ，简单将扰动细胞直接匹配对照组细胞；或者用最优传输OT做细胞一对一映射。但细胞是群体分布，并非简单的一一对应关系。State的核心创新：不去做单细胞一对一匹配，直接学习从"对照组细胞分布"变换到"扰动后细胞分布"的迁移算子。

核心数据生成假设： Xp=X0+Tp(X0)+α

X0 ：未扰动本底细胞状态；Tp ：扰动p带来的状态改变；α为实验技术噪声。

X0无法直接观测，State从群体分布层面拟合这一变换，规避单细胞不可观测的问题。

二、State整体架构：SE嵌入模块 + ST状态迁移模块

State分为两大可独立使用又可以组合使用的子模块：

1. SE（State Embedding） ：自监督预训练细胞嵌入模型，从海量无标签单细胞数据学习稳健的细胞低维表征，降低批次噪声干扰，为ST提供高质量输入**(可选)**
2. ST（State Transition）：群体级Transformer迁移模型，输入对照组细胞集合+扰动标签，输出扰动之后的细胞群体转录组分布

2.1 SE 细胞状态嵌入模块

SE是大规模自监督预训练编码器，在1.67亿人类单细胞数据上完成预训练，目标输出细胞的低维隐向量，抑制实验批次噪声，保留真实生物学信号。

关键设计点

1. 基因输入融合蛋白预训练先验 利用ESM‑2蛋白大模型得到每个蛋白编码基因的预训练嵌入，作为基因的初始特征，把蛋白功能先验注入模型。非蛋白编码基因做特殊处理过滤。
2. 以"高表达基因集合"作为序列输入 每个细胞挑选表达最高的L个基因，组装成序列，增加特殊token：{CLS}（聚合细胞全局信息）、{DS} （数据集token，用来分离数据集/批次技术噪声）；Transformer处理基因序列，从**{CLS}**位置提取整个细胞的表征向量。
3. 表达量软分箱编码(soft-binning) 不直接把原始计数值(UMIcounts)输入网络，使用MLP做软分箱，将基因表达强度编码到基因特征中，兼顾表达大小信息。
4. 双重自监督损失函数

• 基因表达预测损失 ：模型根据细胞嵌入，预测基因的表达量，同时兼顾细胞内基因重建 、跨细胞基因表达模式一致性(即soft bin 重建损失--- SE主目标)
• 数据集分类辅助损失 ：利用**{DS}** token预测这条数据来自哪一个数据集，迫使模型把技术批次信息放到这个专用token，把细胞真正生物学特征保留在**{CLS}输出(其里面的全局信息就是后面交给ST的)**

SE输出的细胞嵌入，既保留细胞类型、分化状态、通路活性等生物学信息，又很大程度剥离测序平台、批次等技术噪声。推理阶段不需要metadata元信息就可以得到细胞表征。

2.2 ST 状态迁移模块（State Transition）

ST是State的核心预测模块，以细胞集合（cell set）为输入单位，而非单个细胞。

传统模型输入：单个细胞；ST输入：一批S个细胞构成的细胞集合(也可以是经过SE编码后的隐状态)。

1. 数据组织：按协变量分组构建细胞集合 把细胞按照：细胞系/细胞类型、扰动标签、批次分组。训练时，每一条训练样本由配对集合构成：一组对照组细胞集合（未扰动）+一组对应的扰动后细胞集合。集合内部S个细胞做自注意力，建模群体内部的细胞异质性。

   论文实验中集合大小S=768，集合尺寸对性能影响巨大，过小会丢失群体异质性信息。

2. ST内部网络流程

• 编码器将对照组细胞（原始表达矩阵或者SE输出嵌入）映射到隐空间；
• 扰动标签、batch标签编码为嵌入，加到细胞特征上；
• Transformer主干（GPT‑2/LLaMA改造为双向注意力，不使用位置编码，因为集合内细胞没有有序序列含义），在集合内全部细胞之间做自注意力，建模群体异质性；
• 残差式设计：Transformer学习的是扰动带来的状态变化残差，而不是完全重写细胞表征；
• 解码头把隐特征还原回基因表达空间。

3. 损失函数：MMD最大均值差异 ST不使用MSE单细胞损失，使用MMD衡量「预测的扰动后细胞分布」和「真实观测扰动后细胞分布」两个概率分布之间的距离。

使用能量距离内核，优化目标是：让预测出来的细胞集合整体分布，和真实扰动后分布尽可能接近。

重要理论结论：在满足分布正则条件的前提下，ST模型的解空间包含最优传输OT映射，但不会强制约束必须是OT映射，相比专门的Neural‑OT模型拥有更大自由度，适配真实生物复杂变换。

两种运行模式

• ST+HVG：直接使用原始高可变基因表达作为输入，不需要SE预训练嵌入；适合数据集充足
• ST+SE ：输入使用SE预训练出来的细胞嵌入，再通过解码器映射回基因表达；零样本、跨数据集泛化能力大幅提升

三、Cell‑Eval：单细胞扰动预测的标准化评测框架

过去不同扰动预测论文使用五花八门评价指标，很难横向对比。该论文提出Cell‑Eval完整评测套件，从三个维度衡量模型预测质量：

1. 基因表达计数层面：扰动区分度得分、预测与真实表达的皮尔逊相关；
2. 差异表达DE层面：p‑value预测、log fold‑change、差异基因DE重叠准确率；
3. 扰动效应大小层面：预测扰动整体效应强弱的排序能力。

核心指标说明：

1. Perturbation discrimination（扰动区分度）：判断模型能不能区分不同扰动带来的转录组改变；
2. DE Overlap Accuracy：预测得到的差异基因集合，和真实实验DE基因重合度；
3. 效应大小预测：模型能否正确排序哪些扰动强、哪些扰动弱；
4. 同时包含DE基因的方向一致性（上调/下调是否预测正确）。

Cell‑Eval不仅给出数值指标，也配套可视化工具，现已开源，成为Virtual Cell Challenge虚拟细胞竞赛官方评测基准。

四、实验结果与关键发现

论文使用多套大规模扰动数据集：

• Tahoe‑100M：50多种癌细胞系，数百种药物化学扰动；
• Parse‑PBMC：人外周血，细胞因子扰动；
• Replogle‑Nadig：CRISPR基因敲除遗传扰动。

设置两类测试任务：

1. 弱泛化任务：目标细胞背景训练集中见过一小部分扰动（30%），测试剩下70%；
2. 零样本上下文泛化 ：目标细胞背景训练阶段完全没有见过任何该细胞的扰动数据，只见过别的细胞的扰动，直接做预测。

主要实验结论

1. 在大规模异质性数据集（Tahoe‑100M药物扰动）上，State对比scVI、CPA、GEARS、scGPT基线取得大幅度提升，扰动区分度指标相对提升超过30%；
2. ST+SE组合模式在零样本场景收益最大：依靠SE学到跨数据集通用细胞表征，在从未见过扰动的细胞系上依然可以合理预测扰动响应；仅用HVG原始特征（ST+HVG）零样本性能会明显下降；
3. State可以捕捉细胞类型特异性扰动响应。例如trametinib药物，不同细胞系DE基因不一样，State可以复现这种细胞背景依赖的扰动效果；
4. 模型可以模拟药物组合效应：连续两次输入不同药物扰动，能够预测药物之间协同/拮抗的非加性效应；
5. 跨模态迁移：在药物扰动数据预训练之后，可以零样本模拟遗传CRISPR扰动的细胞存活效应，和DepMap实验观测有显著相关性；
6. 模型注意力头可以分为两类：异质性敏感头、伪批量平均头，说明模型内部自动学习了多种策略处理细胞群体内部多样性。

五、State的优势与现存局限性

优势

1. 面向群体分布建模，而不是单细胞一对一映射，适配单细胞测序固有的本底异质性，避开"扰动前细胞不可观测"难题；
2. SE大规模预训练得到可迁移细胞表征，实现跨细胞背景、跨数据集泛化，支持零样本扰动模拟；
3. 不强制最优传输约束，解空间更加灵活，适配真实生物复杂非线性扰动；理论证明OT映射属于模型可到达的解集合；
4. Cell‑Eval提供统一评测标准，结束领域评测指标碎片化；
5. 完整开源：模型权重、评测工具、数据加载器全部开源，权重上传HuggingFace。

局限性

1. 零样本能力依然有限：只能外推和训练集分布接近的细胞背景；完全全新组织、完全全新扰动类型，预测可靠性下降；
2. 当前主要针对高可变基因HVG进行预测，不支持全基因组所有基因同时输出高质量预测；
3. ST的扰动编码使用one‑hot编码，不能直接输入训练集从未见过的全新扰动标签；无法直接对新基因、新化合物做生成，只能做已知扰动在新细胞背景下的迁移；
4. 依赖大规模高质量扰动训练数据；小规模数据集性能优势会缩小；
5. 预测是群体分布层面，虽然输出单细胞表达谱，但并不是追踪真实的单个细胞时间轨迹，是分布层面的虚拟仿真，不等同真正的细胞动力学时间演化。

六、应用价值与未来展望

现实应用价值

1. 药物靶点筛选：在计算机内模拟药物、基因敲除在多种细胞系中的转录响应，优先筛选高价值靶点，降低湿实验通量；
2. 药物重定位：预测老药在不同肿瘤细胞的潜在作用；模拟药物组合的协同效应；
3. 解读CRISPR扰动筛选结果：预测不同细胞背景下同一基因敲除带来的特异性反应；
4. 辅助实验设计：在做昂贵Perturb‑seq实验前，用虚拟仿真优先预判哪些扰动值得做湿实验。

未来方向

1. 拓展扰动嵌入，支持训练集中完全没见过的新扰动（新基因、新小分子药物），现在one‑hot编码无法做到；
2. 结合因果推断，进一步解耦混杂因素；
3. 拓展到空间单细胞、多组学扰动预测；
4. 结合AI生物Agent，实现"虚拟仿真→预测→设计实验"的闭环；
5. 进一步改进架构，支持全基因组输出而不仅仅局限高可变基因；
6. 引入Jacobian正则约束，有选择地让模型收敛到最优传输映射，进一步提升可解释性。

七、总结

State代表单细胞AI从"静态细胞表征"走向**细胞虚拟仿真（Virtual Cell）**的重要一步。

• SE解决了跨数据集、跨批次的细胞表征问题；
• ST跳出传统单细胞建模范式，以细胞群体分布为单元，直接学习扰动对细胞群体的变换；
• Cell‑Eval为整个领域建立扰动预测模型的评测基准。

State并不是真正完整细胞世界模型，它擅长"给定扰动，模拟细胞群体转录组分布变化"，但还缺少自主推演全新扰动、完整细胞生命周期动态演化的能力。但它已经证明：大规模单细胞扰动数据驱动下，在硅片上模拟细胞干预响应具备可行性，为虚拟细胞、AI辅助药物开发开辟了新路径。

项目开源地址： GitHub - ArcInstitute/state: State is a machine learning model that predicts cellular perturbation response across diverse contexts · GitHub Cell‑Eval评测库：https://github.com/ArcInstitute/cell‑eval