GPN-Star 基因组语言模型
基因组语言模型（genomic language model, gLM）这两年很热：不用标注数据，只靠"读完"海量 DNA 就能给变异打分。但尴尬的是，Nucleotide Transformer、Evo 2 这类单序列模型把参数和算力堆到夸张，在一些变异效应预测任务上却输给更简单的系统发育模型（PhyloP、PhastCons），人类基因组的远端调控区尤其明显。
问题不在"模型不够大"，而在进化信息没被放到台面上。加州大学伯克利分校 Yun S. Song 团队（Chengzhong Ye、Gonzalo Benegas 共同一作）最近在 Nature 发表题为 Predicting genome-wide functional constraints with GPN-Star 的研究。他们的解法很直接：把多物种全基因组比对（whole-genome alignment, WGA）和物种树一起喂给模型，让进化从"隐式学习"变成"显式输入"。
论文信息
| 项目 | 内容 |
|---|---|
| 期刊 | Nature（2026） |
| 团队 | 加州大学伯克利分校统计学系/计算机系（通讯作者：Yun S. Song） |
| 共同一作 | Chengzhong Ye、Gonzalo Benegas |
| 时间 | 2025-09-10 投稿，2026-08-07 接收 |
| DOI | 10.1038/s41586-026-11005-5 |
| 数据规模 | 200M 参数，8×A100 训数天 |
它解决什么问题？
单序列 gLM 的思路是：遮住一段 DNA，让模型根据上下文把碱基猜回来，猜的准不准就反映了进化约束。问题是，它得在训练中"顺便"学会跨物种的同源性------这件事对模型很奢侈。
量级就很直观：Nucleotide Transformer 用 128 张 A100 训了一个月，Evo 2 用超过 2,000 张 H100 训了数月，部分任务上仍不如系统发育模型。
而很多信号就写在多物种比对里：一个位点在几十个物种里保不保守、以什么速率变化，MSA/WGA 都是现成的。GPN-MSA 验证过"比对 + gLM"的方向，但没把系统发育结构真正用进架构。GPN-Star 要做的，就是把这部分信息显式建模。
GPN-Star 的输入是一个 WGA 窗口和对应的物种树。模型把比对分成 target 和 source 两类序列，按物种树用注意力池化把 source 压成 clade 级表示，再送进一叠编码器块。
每个编码器块里有三件事：序列内 self-attention 编码上下文；"系统发育感知"的 cross-attention 用物种树距离决定 source 权重；最后是前馈网络。训练目标仍是掩码语言建模------遮住 target 的核苷酸，用上下文和 source 的进化信息去猜。
变异打分用的是校准的对数似然比（calibrated log-likelihood ratio, cLLR），比较参考碱基和替代碱基的概率。两个细节值得记：
一是显式进化。 把物种树和比对当输入，这件事相当于把一本进化教科书摊在模型面前，而不是让它自己从单序列里猜。
二是突变率校准。 作者用高置信中性位点估计背景突变效应，把"突变"和"选择"拆开，避免把高突变位点误判成受约束。
作者在人类上训了三套模型：脊椎动物、哺乳、灵长类三个时间尺度，分别记作 GPN-Star (V)、(M)、§，都是 200M 参数，8 张 A100 训几天。换成小鼠、鸡、果蝇、线虫、拟南芥，只需要换 WGA 和物种树，几乎不用改超参。
结果一：变异效应预测全面领先
编码区先看 ClinVar 致病 vs 良性 missense（20,973 vs 26,238）：GPN-Star (V) 的 AUPRC 最高，与蛋白语言模型 ESM-1b 相当，超过 ESM-2 和 ESM-3-open。
COSMIC 体细胞变异上它大幅领先所有对照；ProteinGym 的 31 个 DMS 数据上超过所有 genome-wide 模型，只比蛋白专属模型略低。再加一步 gnomAD 频率后处理，ClinVar 上还能反超 PrimateAI-3D、逼近 AlphaMissense。
非编码区更能说明问题：OMIM、HGMD 两个基准上 GPN-Star (M) 都是第一；启动子变异（OMIM 与 GWAS fine-mapped）也第一，领先 PromoterAI、SpeciesLM 等专用模型。
Enformer、Borzoi、AlphaGenome 这类 sequence-to-function 模型明显更弱，远端增强子差距最大。GWAS fine-mapping 也一样：65 个性状编码、83 个性状非编码，GPN-Star (M) 都第一，且超过用了人群频率的 AlphaMissense、PrimateAI-3D。
结果二：进化约束与遗传力富集
用 gnomAD v3.1.2（76,156 人）chr22 的约 770 万个变异检验：GPN-Star 约束分位越低，平均次等位基因频率（MAF）越低；三个时间尺度都比 PhyloP、PhastCons 更"压得住"。
最受约束尾部，稀有变异富集也更高，GPN-Star (V) 最强。作者还检验了与 Roulette 突变率估计的相关性：校准后相关性明显降低，下游多数基准反而更好------说明抓到的更多是选择，不是突变。
S-LDSC 更直观：106 个独立性状、96 个 baseline 特征、取打分前 0.1% 的常见变异，GPN-Star § 的遗传力富集明显超过此前 SOTA 的 PhastCons §，(M) 次之，τ* 也领先。
拆开看，前 0.1% 变异里 missense 占 33%（富集 170 倍），远端增强子占 26%（2.4 倍）。规律也有意思：GPN-Star § 对高多基因性性状更有效（精神分裂症，有效多基因性约 13,069），(M) 对低多基因性性状更有效（LDL，约 89）。用哪个时间尺度，取决于性状的遗传架构。
结果三：罕见变异关联与跨物种
把三种 GPN-Star 打分加进 DeepRVAT：34 个 UK Biobank 定量性状、161,822 名无关欧洲个体、MAF<0.1%、3 次随机种子。平均显著基因数从 383 提到 402，其中能在更大样本 RVAT 中复现的从 338 提到 353。DeepRVAT 本来就带了 AlphaMissense、PrimateAI、DeepSEA，GPN-Star 还能加分，说明信息互补。
跨物种也做了：小鼠、鸡、果蝇、线虫、拟南芥各训一套（WGA 覆盖 18--135 个物种），5 个物种的稀有变异富集都优于 PhyloP/PhastCons；小鼠、果蝇、线虫的致病变异基准上也更好。拟南芥的优势小一些，作者归因于比对规模小和植物 WGA 质量。
值得注意
- 推理必须提供 WGA：这是它的前提，也限制了使用门槛；对 indel 和结构变异不友好（固定比对格式）。
- 上下文变长的收益有限：WGA 是相对参考物种构建的，窗口在非参考物种里可能不连续，长上下文反而会引入误导信息。
- 分数是"特定时间尺度下的约束"，不是通用致病性；选哪个尺度要看问题，建议用数据驱动的方式融合（比如 DeepRVAT 的做法）。
- 原文很多基准的具体 AUPRC 数值放在图里，本文只引用文字给出的结论和可核对数字。
如果做变异注释、GWAS fine-mapping、罕见病变异优先级排序，GPN-Star 是值得优先试的"进化先验"打分器。
模型和全基因组单核苷酸变异的预计算打分都已公开，可以直接做注释、过滤和排序。
对作物育种，思路也能迁移，但前提是可靠的 WGA------植物这边比对质量还是个坎。一句话：语言模型不必自己"重新发明"进化，把比对和树喂进去更省算力，也更准。