概率和信息量负相关 小概率事件有较大的信息量，大概率事件有较小的信息量
熵是概率分布的信息量期望
当预测结果越接近真实值，损失函数的值越接近于0。
深度学习学习日记4.8(上午)信息量，熵，交叉熵，相对熵，交叉熵损失函数
湘溶溶2024-04-09 12:06
相关推荐
大千AI助手31 分钟前
指数分布：从理论到机器学习应用MATLAB代码顾问34 分钟前
MATLAB绘制多种混沌系统搬砖的小码农_Sky35 分钟前
人形机器人：Tesla Optimus的AI集成细节做运维的阿瑞1 小时前
2025 年度国产大模型「开源 vs. 闭源」深度评测与实战指南渡我白衣1 小时前
深度学习入门（三）——优化算法与实战技巧可触的未来，发芽的智生1 小时前
触摸未来2025.10.10：记忆的种子，当神经网络拥有了临时工作区，小名喜忆记系统极客BIM工作室1 小时前
演化搜索与群集智能：五种经典算法探秘繁花与尘埃1 小时前
HTML5简介与基本骨架(本文为个人学习笔记，内容整理自哔哩哔哩UP主【非学者勿扰】的公开课程。 ＞ 所有知识点归属原作者，仅作非商业用途分享)Guheyunyi1 小时前
消防管理系统如何重构现代空间防御体系东方芷兰1 小时前
LLM 笔记 —— 04 为什么语言模型用文字接龙，图片模型不用像素接龙呢？