基于信息最大化的ICA算法的主要依据是使输入端与输出端的互信息达到最大,且输出各个分量之间的相关性最小化,即输出各个分量之间互信息量最小化,其算法的系统框图如图所示。
基于信息最大化的ICA算法的主要依据是使输入端与输出端的互信息达到最大,且输出各个分量之间的相关性最小化,即输出各个分量之间互信息量最小化,其算法的系统框图如图所示。
图 3 基于改进的信息最大化的ICA算法的系统框图
上图中,U=[u1,u2,u3,...]T是经过该算法之后输出的信号向量,可以用来逼近输入信号,U=W×X。分离信号Y=G(U),G(U)是非线性函数,该函数直接影响分离性能。
信息最大化的ICA算法的判断准则是信息最大传输的原则具体的说就是以分离矩阵W为变量,在熵的表达式中不断调整W,使H(Y)最大化,此时就表明恢复的原始信号U的各个分量之间互信息量极小,非线性输出信号Y与输入X之间互信息满足
对该公式两边关于分离矩阵W进行微分,然后通过公式推导可得,使得H(Y)极大的分离矩阵W的迭代计算公式
其中非线性函数采用G U =11+e -U ,μ是该算法的学习参数取0.05。而 是对第K次迭代输出的各个分量之间的互信息进行度量,理想情况该项应该为-I。
在该算法中,非线性函数G(U)的选择将会直接影响算法性能,因此对非线性函数进行修改是基于信息最大化的ICA算法的主要改进方向之一,文献中讨论了不同的非线性函数对算法性能的影响,发现非线性函数特性越陡峭,越适合作为基于信息最大化的ICA算法的非线性转换函数,而符号函数具有最陡峭的特性,因此采用符号函数作为基于信息最大化的ICA算法的非线性转换函数。
基于信息最大化的ICA算法主要有两点优点,一是该方法拥有较快的收敛速度,二是采用不同非线性函数可以有效降低分离误差。