技术栈
infonce
Paul-LangJun
6 天前
人工智能
·
对比学习
·
infonce
·
互信息
互信息和InfoNCE的关系
简单来说，InfoNCE 是互信息的一个可计算的下界估计器。通过优化 InfoNCE 损失，我们实际上是在最大化互信息的一个紧下界。
winner8881
1 年前
学习
·
算法
·
对比学习
·
infonce
对比学习损失函数 - InfoNCE
对比学习中的InfoNCE损失函数是自监督学习领域的重要进展，它通过最大化正样本对之间的相似度并最小化负样本对的相似度，有效地引导模型学习到数据的本质特征。InfoNCE不仅提高了表示学习的质量，还为下游任务如分类、聚类等提供了强大的基础。
我是有底线的