信息熵(香农) 使用指南
信息熵(香农)计算器。输入离散信源各符号概率,计算平均信息量 H(bit/符号),概率应和为 1、零概率项记 0,是数据压缩与加密强度分析的基础指标。
计算公式与原理
H = −Σ pᵢ · log₂(pᵢ)
信息熵(香农)计算器。输入离散信源各符号概率,计算平均信息量 H(bit/符号),概率应和为 1、零概率项记 0,是数据压缩与加密强度分析的基础指标。
典型使用场景
- 压缩下限:熵即无损压缩平均码长的理论下限。
- 随机性评估:高熵提示数据接近均匀分布、更"随机"。
- 密码学强度:密钥/ nonce 的熵衡量抗猜测能力。
算例参考
- 示例:公平硬币:p=0.5/0.5 → H=−2×0.5·log2(0.5)=1 bit/符号;偏倚越小熵越低。
注意事项
本工具纯前端运行,输入内容不上传服务器;结果为按上述口径得到的理论估算值。实际应用受设备参数、测量条件与当地规范影响,请以设备铭牌、检测报告与现行标准为准,重大决策建议咨询专业人士。
- 概率必须和为 1 吗?
- 是,离散信源概率归一;若输入频率会自动归一化。
- 零概率项怎么处理?
- 按极限 0·log(0)=0 计入,不贡献熵。
- 熵高一定好?
- 压缩场景高熵意味着难压缩;安全场景高熵(密钥)是好事。