深度学习学习日记4.8(上午)信息量,熵,交叉熵,相对熵,交叉熵损失函数



概率和信息量负相关 小概率事件有较大的信息量,大概率事件有较小的信息量

熵是概率分布的信息量期望











当预测结果越接近真实值,损失函数的值越接近于0。

相关推荐
XD7429716361 分钟前
科技晚报|2026年5月15日:AI 代理开始补协作、编排和护栏
人工智能·科技·开发者工具·科技晚报
Chloeis Syntax2 分钟前
JavaEE学习日记(2)---文件操作和IO
java·笔记·学习·java-ee
金融小师妹2 分钟前
基于AI通胀风险识别模型与联储决策框架的政策分歧研究:鹰派权重上升后的全球流动性再定价分析
大数据·深度学习·逻辑回归·线性回归
南境十里·墨染春水2 分钟前
linux学习进展 Redis详解
linux·redis·学习
测试员周周4 分钟前
【Appium 系列】第08节-pytest 集成 — conftest.py 中的 fixture 与 hook
开发语言·人工智能·python·功能测试·appium·测试用例·pytest
(initial)4 分钟前
B-05. Unified Memory:Page Fault、Prefetch、Advise 的性能边
人工智能·cuda
Hui_AI7207 分钟前
电商桌面自动化实战:用RPA实现抖店批量铺货
运维·开发语言·人工智能·自然语言处理·自动化·开源软件·rpa
电子科技圈8 分钟前
XMOS推出适配VS Code编辑器的XTC工具插件
人工智能·mcu·编辑器·视觉检测·音视频·语音识别·视频编解码
云栖梦泽在11 分钟前
AI安全实战:AI供应链安全防护的实战案例
大数据·人工智能·安全
2601_9557819811 分钟前
飞书远程控机:OpenClaw+AI机器人配置全攻略
人工智能·机器人·飞书·open claw部署