1.论文链接：Comparison of Mixture Bayesian and Mixture Regression Approaches to Infer Gene Networks
摘要：
大多数贝叶斯网络应用于基因网络重建假设一个单一的分布模型在所有的样本和治疗分析。这种假设可能是不切实际的，特别是当描述一系列对网络有潜在不同影响的治疗方法中基因之间的关系时。为了解决这个问题，混合贝叶斯网络的方法已经开发出来。此外，贝叶斯网络和回归方法之间的等价性已被证明。在这里，两种策略进行了比较：混合贝叶斯网络方法和混合回归方法，当用于基因网络推理的目的。整合到这两种策略中的Nite混合模型允许表征特定条件下特有的基因关系，以及识别跨条件共享的相互作用。本章回顾了真实的数据的表现，描述了在多达九种不同的实验条件下分析的途径，并强调了评估方法的优势。
**关键词：**基因网络，混合模型，贝叶斯网络
大多数贝叶斯网络应用于基因网络重建假设一个单一的分布模型在所有的样本和治疗分析。这种假设可能是不现实的，特别是在描述一系列对网络有潜在不同影响的治疗方法中基因之间的关系时。为了解决这个问题，混合贝叶斯网络的方法已经开发出来。此外，贝叶斯网络和回归方法之间的等价性已被证明。本章的目的是比较两种策略，混合贝叶斯网络方法和混合回归方法，当用于基因网络推理的目的。整合到这两种策略中的夜间混合模型可以表征特定条件下特有的基因关系，以及识别不同条件下共享的相互作用。本章回顾了这两种方法，并比较了它们在描述多达九种不同实验条件下分析的通路的真实数据上的表现，并强调了所评估方法的优势。提供了对估计为最佳描述数据的混合模型的解释。
4.1介绍
通常使用微阵列、RNA测序（RNA-seq）或实时定量PCR实验在代表一系列治疗或条件的样品中测量基因表达。从基因表达谱之间简单的成对相关到贝叶斯网络，已经提出了几种方法来利用基因表达谱推断基因网络。这些基因网络可以验证已知的途径，或者作为发现基因之间新关系的试点工作。
贝叶斯网络是一种直观的基因间关系模型，使用基于概率框架的无环有向图，可以容纳缺失数据和先验信息[11]。贝叶斯网络很适合识别网络中基因之间的关系[11，16，24]。大多数贝叶斯网络应用于基因网络重建假设一个单一的分布模型在所有的样本和治疗分析。这种假设可能是不现实的，特别是在描述一系列对网络有潜在不同影响的治疗方法中基因之间的关系时。为了解决这一局限性，我们开发了一种混合贝叶斯网络方法，并在广泛的途径和数据集上证明了这种方法的优越性[17，18，23]。这些结果展示了混合贝叶斯网络推断不同治疗之间基因关系的灵活性。当利用来自跨越许多治疗的大型基因表达数据集的信息时，这是一个有价值的特征。
贝叶斯网络学习是NP难的，并且可以施加强烈的计算挑战[2，32，26]。这是由于存在大型且密集连接的网络，这些网络难以进行精确计算[32]。可能的网络数量随着所考虑的基因数量超指数地增加[26]。例如，在一个由10个基因组成的小网络中，有1018种可能的网络拓扑结构。贪婪搜索[17]，遗传算法[34]，自举[5]或马尔可夫链蒙特卡罗（MCMC）[14，23]方法已被提出来学习贝叶斯网络。因此，贝叶斯网络应用程序需要足够的计算环境和实施的专业知识，很少提供给生命科学的研究人员。此外，推断网络所需的长时间可能会阻碍贝叶斯网络在许多基因表达实验中的应用。
本章的目标是比较两种策略，混合贝叶斯网络方法和混合回归方法，推断基因网络。后一种策略很容易实现，并且是一种计算效率很高的方法来推断基因网络。贝叶斯网络和回归方法之间的等效性已经得到证明[25]。整合到这两种策略中的nite混合模型允许表征特定条件下独有的基因关系或跨条件共享的基因关系。本章分为以下几节。第4.2节回顾了混合贝叶斯方法，介绍了混合回归方法，并描述了用于评估网络方法的数据。第4.3节包括应用于粘附连接途径中的基因的两种方法的性能的比较，混合物模型提供的关于不同条件下基因之间关系的变异性的见解的证明，以及混合物回归在具有更多基因的网络中的应用。最后，第4.4节总结了结果并强调了所评估方法的优势。
4.2方法
4.2.1混合贝叶斯网络
网络拓扑的推断包括两个主要步骤：1）每个子基因子网络的推断，2）这些网络整合成一个整体网络[3,17]。每个子基因的父代基因可以使用稀疏候选算法[11, 17]或模拟退火方法[30, 18]来识别。在稀疏候选算法中，父代基因按照与子基因表达谱的关联程度逐一添加到子网络中。这个过程一直迭代，直到贝叶斯信息准则（BIC）[27]表明添加下一个父代基因不会显著提高子基因表达谱的预测[17]。模拟退火方法可以解决稀疏候选方法检测到的潜在局部最大值[17, 18]。在每次迭代中，模拟退火算法通过添加、删除或反转边，从当前子网络结构中的一组父代基因随机移动到一个类似的结构。移动到另一个结构的概率取决于基于试验运行经验调整的退火温度。这个过程重复迭代直到收敛。一旦每个子基因子网络获得，子网络就使用子基因在给定父代基因条件下的独立性合并成一个整体网络，并移除基因之间的任何循环关系。这个过程的示意图在[17]中提供。
一旦为每个子基因子网络确定了父基因，期望最大化（EM）。算法用于估计每个基因子网络内的混合参数[4]。在[17]中详细描述了EM公式。布里说，期望步骤提供基因表达观察属于每个混合物组分的概率，条件是来自最大化步骤的参数估计（即，平均值和方差）。最大化步骤提供了估计的混合成分权重和参数估计值，这些估计值在给定混合成分上的观测分布的情况下最大化观测数据的限制对数似然。BIC用于识别每个基因子网络的混合物数量，并评估整个网络[27]。在各个子网络和混合模型的推理之间进行迭代，直到整个网络的基于似然的标准没有改善。
已经提出了限制被评估的基因子网络的超指数数量的方法[17，18]。这些方法可能导致不完整的总网络拓扑，因为不超过限制标准的子网络将不被考虑，尽管该子网络将改善总网络。除了推断基因网络的计算复杂性之外，与网络的潜在维度（基因和关系的数量）相比，可用于推断网络的微阵列实验的大小通常较小。在下一小节中，我们提出了一种基于回归分析来推断基因网络的替代策略。贝叶斯网络和回归分析之间的相似性已经被证明，回归方法解决了混合贝叶斯网络方法的计算复杂性。
4.2.2混合回归方法
有几种策略可以实现可以推断基因网络并识别每个子基因的父基因的混合贝叶斯网络方法，包括稀疏候选算法[17]和模拟退火[17，18]。这些策略通常是计算密集型的。重建基因网络的另一种方法是利用贝叶斯网络和回归之间的等价性。该方法将回归分析、亲本-基因选择和混合模型相结合。这一战略可以使用标准的统计或编程语言软件来应用，从而使一般研究界都可以使用。在这一小节中，介绍了贝叶斯网络和回归之间的关系;然后讨论了父基因选择方法;最后，考虑了与混合模型的集成。
根据子基因与父基因之间的共关联强度以及所选LASSO约束的值，LASSO方法可能在计算上效率不高。LARS方法提供了一种更高效的计算策略来识别父基因[6]。确定与子基因表达残差（已考虑任何父基因调整的表达）最相关的父基因，并基于父基因与子基因之间的协变，使回归估计向该父基因方向变化。估计变化的幅度使得下一个潜在的父基因与当前父基因集合具有相同的表达交叉乘积和，因此，与当前残差的相关性相同。这种方法的标准不同于以前的方法，以前的方法是通过估计变化来最小化当前模型选择阶段的残差。对于表示父基因与子基因之间关联程度的角度，LARS参数估计在与每个潜在父基因与残差相关的角度相等的方向上进行修改。这个过程重复进行，直到所有父基因都在模型中。
部分中描述的方法来描述每个子基因子网络。使用[17]中描述的期望最大化公式，计算每个混合物的权重和描述每个混合物中父基因和子基因之间关系的参数估计。类似于混合贝叶斯网络方法，混合回归网络推理包括每个子基因子网络的推理、混合模型以及将这些网络集成到整体网络中。基因子网络被组合成一个整体网络，假设子基因在给定父基因的情况下具有条件独立性，并且去除基因之间的任何循环关系。因此，混合回归方法提供了与混合贝叶斯网络方法提供的基因网络等效的基因网络。使用现实生活中的实验和已知的途径，粘附连接途径的混合贝叶斯网络和混合回归方法来推断基因网络的性能进行了评估。
4.2.3数据
使用混合贝叶斯网络和混合回归方法表征粘附连接途径中基因之间的关系。粘附连接是一种类型的细胞-细胞粘附结构或连接，其在细胞之间的物理关联的维持中具有主要作用[20]。结构的完整性依赖于连环蛋白和相关分子、肌动蛋白、微管和循环机制。粘附连接途径中几个基因之间的关系可在KEGG（京都基因和基因组百科全书）途径（http：//www.genome.jp/）中获得，并作为本研究中提出的应用的基准。
粘附分子连接途径中基因之间的关系是使用来自9个小鼠微阵列实验的基因表达蛋白推断的，这些实验评估了多种毒性或致畸剂，这些毒性或致畸剂有能力干扰正常胚胎发育并导致出生缺陷[24]。这些表达蛋白获自国家生物技术信息中心基因表达综合文库或GEO资料库（http：//www.ncbi.nlm.nih.gov/geo）.考虑的地球同步轨道实验或系列包括GSE 1068、GSE 1069、GSE 1070、GSE 1072、GSE 1074、GSE 1075、GSE 1076、GSE 1077和GSE 1079。各实验中的样品数量见表4.1。研究了四种致畸剂（乙醇、甲基汞、低氧和2-脱氧腺苷的代谢毒素2-氯类似物）和两种干预剂（PK 11195或Ro 5 -4864）[13]。每个实验使用小鼠胚胎的头褶和前脑样本。在授精后第8天和母鼠注射致畸剂后约3小时采集这些样品。处理剂量和时间、采样时间、小鼠品系、平台、RNA分离、标记和杂交在GEO数据库和Nemeth et al.中有详细描述，Singh等人，和绿色等人[22，28，13]。布里，GSE 1068研究了注射后3小时5.0、2.5、1.25或0.625 mg/kg的2-氯-2-脱氧腺苷.GSE 1069分别在注射后3小时和6小时研究了2.5和4.5 mg/kg 2-氯-2-脱氧腺苷。GSE 1070在注射后3、4.5和6小时研究了2-氯-2-脱氧腺苷与PK 11195的干预。GSE 1072研究了注射后4.5小时2-氯-2-脱氧腺苷、乙醇和甲基汞加PK 11195或Ro 5 -4864干预。GSE 1074研究了2.9 g乙醇/kg体重的乙醇和PK 11195的干预，GSE 1075研究了10、5、2.5或1.25 mg/kg甲基汞。GSE 1076在注射后1.5、3、4.5、6或12小时研究了5 mg/kg甲基汞。GSE 1077研究了5 mg/kg甲基汞在注射后3、4.5和6小时以及PK 11195干预后的变化。GSE 1079研究了21%和5%的氧气以及PK 11195或Ro 5 -4864的干预。
9项实验使用了相同的斑点双染料互补DNA（cDNA）平台和荧光强度（见第1章，第1.3节，第16页），可用于与小鼠靶信使RNA（mRNA）杂交的2382个经序列验证的艾德人类基因元件。微阵列包括两个样品;每个实验中的所有样品都以反向标记设计用两种染料标记，因此，所有条件或处理水平存在于至少两个微阵列中。研究的实验设计包括两种类型的直接比较;接受不同治疗的样品之间的比较（例如，乙醇，甲基汞，低氧，代谢毒素2-氯类似物2脱氧腺苷在不同的时间点或剂量），并比较处理和对照样品。90个微阵列用于混合贝叶斯网络和混合回归分析。
数据预处理包括当两种染料的中值背景扣除强度不超过200的最小阈值时去除观察结果。随后，对减去背景的强度进行log-2转换，应用黄土归一化以去除通道依赖性偏差，并针对全局染料或微阵列技术噪声调整归一化强度[24]。在Beehive（http：//stagbeetle.animal.uiuc.edu/Beehive）中实施基因表达数据处理。
研究了小鼠粘附连接途径的两个网络，其使用的基因数量不同。第一个网络包括[17]报道的混合贝叶斯网络应用中使用的相同的七个基因。从那时起，平台注释的改进允许推断第二个网络，该网络包括小鼠粘附连接途径中的24个基因。比较了通过两种策略推断的网络;还将这些网络与KEGG数据库中的小鼠粘附连接途径进行了比较（mmu 04520，2011年10月访问）。
存在于KEGG粘附连接途径中的几个基因在微阵列平台中没有相应的探针。因此，推断出基因之间的两种类型的关系：a）KEGG途径中存在的直接关系（用直线或边表示）和，B）通过微阵列平台中不存在的一个或多个中间基因的间接关系（用虚线表示）。
混合贝叶斯网络和混合回归方法都能够预测父基因和子基因节点被艾德的方向关系。此外，KEGG数据库中的粘附蛋白-连接小鼠途径包括非定向基因关系。因此，通过混合方法推断的KEGG数据库中的非方向性基因关系用没有方向性或箭头的线描绘。
4.3结果
4.3.1混合物的比较
网络拓扑结构从混合贝叶斯网络和混合回归方法获得，这些方法应用于粘附连接途径中的七个基因。在混合回归方法中，从逐步前进，LASSO和LARS方法获得的网络拓扑结构是一致的，并且仅呈现从LASSO实现的结果。混合贝叶斯网络方法能够检测KEGG途径数据库中除一个基因关系外的所有基因关系[17]。混合回归方法能够检测KEGG通路数据库中基因之间的所有关系。两种方法都没有推断出假边缘。由混合贝叶斯网络和混合回归方法艾德的基因之间的关系由图4.1中的边表示。在图4.1中，仅用混合回归方法检测到的基因关系用点划线表示。这一结果表明，混合贝叶斯网络和混合回归方法的性能相当。
使用混合贝叶斯网络和混合回归方法对七个基因推断粘附连接网络。节点代表基因。MLLT 4：afadin，VCL：黏着斑蛋白，TJP 1：紧密连接蛋白1或ZO 1，ACTB：β-肌动蛋白，RHOA：ras同源基因家族，成员A，CTNNA 1：连环蛋白或钙粘蛋白相关蛋白α1，α 2：α-肌动蛋白2。线表示代表基因之间关系的边。直线和虚线分别表示通过混合贝叶斯和混合回归网络方法检测到并在KEGG途径中确认的直接和间接关系。点划线表示仅通过混合回归方法检测到并在KEGG途径中确认的基因之间的间接关系。与每条边相关的数字表示基因之间的部分相关性。边缘的厚度指示偏相关的强度。箭头表示与KEGG途径一致的边缘的方向性。
4.3.2基因关系变化的混合模型
在混合贝叶斯网络方法中，EM算法的估计表明，三个混合组分描述了基因α-辅肌动蛋白2的子网络。每个混合物组分对应于低、中和高水平的基因表达，相关权重分别为0.28、0.57和0.16 [17]。与混合贝叶斯网络方法类似，混合回归方法检测了不同样本和条件下α-辅肌动蛋白2子网络中基因之间关系的变化。混合物成分估计值如图4.2所示。α-辅肌动蛋白2与其4个亲本基因的关系最好由3个组分的混合物来描述。混合回归方法的结果与混合贝叶斯网络实施报告的结果一致[17]。具体而言，在混合贝叶斯方法中，三个混合组分的权重分别为0.28、0.57和0.16，在混合回归方法中分别为0.24、0.55和0.21。
描述子基因α-辅肌动蛋白和父基因在三个混合组分中的不同关系。节点代表基因。子基因：ACTN2：α-辅肌动蛋白2;亲本基因，MLLT 4：afadin，CTNNA 1：连环蛋白α 1，TJP 1：紧密连接蛋白1或ZO 1，和RHOA：ras同源基因家族，成员A。线条表示边缘或基因之间的关系;箭头表示正关联，平头表示由边缘连接的基因对之间的负关联。边用混合物组分权重（混合物组分1：Mix_1，混合物组分2：Mix_2，混合物组分3：Mix_3）标记，然后是回归系数±标准误差。
从网络推理方法的混合物实现中获得的另一个见解是，尽管α-辅肌动蛋白2和一些亲本基因之间的关系在一些基因的混合物中是一致的（与紧密连接蛋白1（TJP 1）的所有正关联或与afadin（MLLT 4）的所有负关联），但与其他亲本基因的关系，例如，ras同源基因家族成员A（RHOA）和连环蛋白（CTNNA 1）在混合物组分中变化（阳性到阴性）。在本章的上下文中，父母和孩子基因之间的积极和消极联系分别表明增强和抑制孩子基因的表达。即使对于那些在混合物中与α-辅肌动蛋白2表现出相同关系（阳性或阴性）的基因，混合物也会在这些关系的强度上有所不同。例如，在所有9个实验中，MLLT 4和α-辅肌动蛋白2之间的关系估计可以用三个组分的混合物来描述，每个组分的权重分别为0.24、0.55和0.21，混合物组分1、2和3的相关性分别为-0.14、-0.05和-0.56（见图4.2）。从回归估计和标准误差，计算出亲本基因和α-辅肌动蛋白2之间关联的统计学意义。考虑到多重检验，在p值< 0.005时与α-辅肌动蛋白2表现出显著关系的亲本基因是CTNNA 1和RHOA（混合组分1），RHOA（混合组分2），MLLT 4，TJP 1，CTNNA 1和RHOA（混合组分3）。
4.3.3混合物的解释
混合贝叶斯网络方法估计，两个高斯分量的混合提供了β-肌动蛋白基因子网络的最佳描述[17]。在这个子网络中，大多数样本被分配到第一个混合组分。这一结果表明，在实验中研究的条件对β-肌动蛋白子网络中基因之间的关系没有重大影响[17]。只有在p53蛋白诱导的关键事件之前（3小时）或之后（6小时）接受2-氯-2-脱氧腺苷的样品和用Ro 5 -4864处理的样品被分配到混合物组分2。
研究的大多数粘附连接途径基因被分配到两种混合物中，一种混合物被分配到CTNNA 1，三种混合物被分配到ACTN 2。对于具有两种混合物的基因，实验内和共同处理内分配给每种混合物的样品数量分别见表4.1和4.2。与混合贝叶斯网络一致，在肌动蛋白子网络中，实验中的所有样品被分配到一个混合物组分。在其他基因子网络中，样本被分配到两个混合组分。考虑混合分布证实，在一个基因网络（在我们的情况下，粘附连接途径），有一些基因之间的关系，不随条件而变化，因此，被分配到一个单一的混合物组件。其他基因关系更灵活，并且在不同条件下变化，可能导致多种混合成分。
混合物贝叶斯网络[17]和混合物回归方法之间的混合物组分样本分布一致。与粘附连接网络中研究的基因的实验（见表4.1）相比，最常见处理（见表4.2）中的样本在混合物组分中分布更均匀。这一结果表明，所研究的不同致畸剂在实验中对基因关系造成了类似的破坏。
计算了表4.1中列出的所有研究中分配给具有两种混合物的基因对之间的每种混合物的样品数量的相关性。未评价基因与CTNNA 1的相关性，因为该基因由单一组分的混合物表示，并且没有变异。没有评估基因与ACTN2的相关性，因为该基因由三个组分的混合物代表，并且与由两个组分的混合物代表的所有其他基因不同。相关性的目的是鉴定跨基因的样品对混合物的一致分配。计算了同一混合物组分（一比一和二比二）和不同混合物组分（一比二和二比一）之间的相关性，并考虑了最大相关性。MLLT 4和RHOA、MLLT 4和ACTB、RHOA和ACTB以及VCL和ACTB之间的样品分配到混合物的相关性非常高，平均相关性等于0.68。同样，计算了分配给各混合物的样本数量与处理间两种混合物的基因对之间的相关性（见表4.2）。样本分配到处理间所有基因对之间的混合物的相关性甚至高于实验间的相关性，平均相关性等于0.91。这些结果得到了图4.1中观察到的这些基因之间的强相关性的支持。
4.3.4大型网络的推理
自从第一个推断的粘附连接途径发表以来[17]，已经鉴定了与该途径中的其他基因对应的其他探针艾德。应用混合物回归方法来推断这一更完整的途径（见图4.3）。除了转化生长因子β受体2（TGFBR 2）（对应于弱粘附途径组分）和强粘附途径上的基因之间的关系外，所有基因之间的关系都在KEGG途径中得到证实。此外，Wiskott-Aldrich综合征（WAS）基因与粘附连接途径的强粘附组分的其他成员之间的一些关系在KEGG途径中无法证实。尽管目前KEGG通路中未包括TGFBR 2或WAS与强粘附基因（如α-辅肌动蛋白）之间的艾德关系已被报道[33，12，7]。
基于24个基因的粘附连接通路的重建。白色结节：使用七种基因在先前推断的粘附连接途径中的基因; MLLT 4：afadin，VCL：黏着斑蛋白，TJP 1：紧密连接蛋白1或ZO 1，ACTB：β-肌动蛋白，RHOA：ras同源基因家族，成员A，CTNNA 1：连环蛋白或钙粘蛋白相关蛋白α 1，以及α 2：α-辅肌动蛋白2。灰色节点：包括在后续通路推断中的基因; ACP 1：酸性磷酸酶1或LMW-PTP，PTPN 1：蛋白酪氨酸磷酸酶，非受体1型，α 4：α-辅肌动蛋白4，CTNND 1：连环蛋白δ 1或P120，CTNNA 2：连环蛋白α 2，CDC 42：细胞分裂周期42同源物，FYN：Fyn原癌基因酪氨酸蛋白激酶，INSR：胰岛素受体，Fgfr 1：成纤维细胞生长因子受体1或Hspy，PTPRF：蛋白酪氨酸磷酸酶，F型受体或LAR，RAC 3：RAS相关C3肉毒杆菌毒素底物3，WAS：Wiskott-Aldrich综合征蛋白或Wasp，WASL：WAS样，ACTG 1：肌动蛋白γ 1，TGFBR 2：转化生长因子β受体2。线表示边缘。边缘的厚度表明基因之间偏相关的强度。
4.4结论
基因表达实验为研究基因网络提供了丰富的实验资源.网络中的大量基因和实验中通常可获得的有限数量的基因表达观察结果对网络的推断提出了挑战。此外，很少有网络推断方法允许在多个处理或被分析的样品之间的基因关系的变化。混合贝叶斯网络是一个灵活而强大的框架，可以推断基因网络拓扑结构，并适应不同治疗之间基因关系的变化。混合回归方法为推断基因网络提供了另一种方法。贝叶斯网络和回归方法之间的关系是通过使用不同数据集的基因网络的相似性来证明的。因此，本文提出的混合回归方法可以看作是一种学习基于混合的贝叶斯网络模型的策略。
混合贝叶斯和回归方法推断一致的基因网络拓扑结构，支持的经验证据。同样，两种方法的参数估计值是一致的，从混合成分估计值中可以深入了解基因之间的关系。混合物组分适应了所考虑的处理或条件之间基因之间关系的变化。这项研究表明，混合贝叶斯和混合回归方法具有相当的性能支持的实验证据。后一种方法在计算上更简单，并且可以很容易地由生物研究社区实现。
参考文献
略