互信息 - 互信息技术,学习,经验文章

Paul-LangJun

3 小时前

互信息和InfoNCE的关系简单来说，InfoNCE 是互信息的一个可计算的下界估计器。通过优化 InfoNCE 损失，我们实际上是在最大化互信息的一个紧下界。