FPGA离散数列信源熵:原理、计算与硬件实现全解一、基本概念 离散数列信源熵,全称离散无记忆信源的信息熵(香农熵),是衡量离散随机序列不确定性/信息量大小的核心指标。 在FPGA工程中,我们处理的所有量化数据——8bit灰度图像素序列、ADC采样量化序列、二值化边缘序列,本质都是离散数列信源;熵值直接决定了数据的压缩极限、随机程度与纹理复杂度。 二、数学定义与物理意义 1. 核心公式 对于一个离散信源,符号集合为 X=\{x_1,x_2,...,x_N\},每个符号独立出现,对应出现概率为 p(x_i),且满足 \sum_{i=1}^N p(x_i)=