CLIP-LITE造假

起因:

训练发现JSD完全不收敛
不收敛原因:

翻到了这篇博客:https://blog.csdn.net/weixin_44441131/article/details/105878383,JS在两个分布完全不重合时为常量log2梯度为0,导致无法收敛,我没学过信息论,给文章搞蒙了

翻了一下作者是个印度人,发表在CCF-C会议,草泥马的,浪费老子一天时间

也算是学到了一点关于散度的东西,看文章前一定要看下作者和发表在哪

相关推荐
β添砖java5 分钟前
深度学习(20)深度卷积神经网络AlexNet
人工智能·深度学习·cnn
MATLAB代码顾问1 小时前
Transformer时序预测:PatchTST原理与PyTorch实现
pytorch·深度学习·transformer
学习是种信仰1 小时前
Git工作流
git·深度学习
数智工坊4 小时前
【Transfer CLIP论文阅读】跨模态大模型赋能!CLIP迁移学习实现超强泛化图像去噪
论文阅读·人工智能·迁移学习
AI周红伟4 小时前
三年狂赚1.75亿!卖课,才是中国AI最容易赚钱的生意
人工智能·深度学习·学习·机器学习·copilot·openclaw
沪漂阿龙5 小时前
从买菜做饭到大模型:一份真正看懂深度学习的硬核指南
人工智能·深度学习
2zcode6 小时前
基于深度学习的肺部听诊音疾病智能诊断方法研究
人工智能·深度学习
YBAdvanceFu6 小时前
开源音乐生成新王炸!ACE-Step用Qwen3+扩散模型实现音色克隆,代码深度解析
人工智能·深度学习·机器学习·llm·数据科学·ace·ai时代
2zcode7 小时前
基于MATLAB深度学习的非酒精性脂肪性肝病超声图像分类研究( GUI界面+数据集+训练代码)
深度学习·matlab·分类
江南十四行7 小时前
YOLOv9 从零开始部署实战指南(CPU版本):环境配置、项目搭建与测试详解(二)
人工智能·深度学习