資訊熵(夏農) 使用指南
資訊熵(夏農)計算器。輸入離散信源各符號機率,計算平均資訊量 H(bit/符號),機率應和為 1、零機率項記 0,是資料壓縮與加密強度分析的基礎指標。
計算公式與原理
H = −Σ pᵢ · log₂(pᵢ)
資訊熵(夏農)計算器。輸入離散信源各符號機率,計算平均資訊量 H(bit/符號),機率應和為 1、零機率項記 0,是資料壓縮與加密強度分析的基礎指標。
典型使用場景
- 壓縮下限:熵即無失真壓縮平均碼長的理論下限。
- 隨機性評估:高熵提示資料接近均勻分佈、更"隨機"。
- 密碼學強度:金鑰/ nonce 的熵衡量抗猜測能力。
算例參考
- 示例:公平硬幣:p=0.5/0.5 → H=−2×0.5·log2(0.5)=1 bit/符號;偏倚越小熵越低。
注意事項
本工具純前端執行,輸入內容不上傳伺服器;結果為按上述口徑得到的理論估算值。實際應用受裝置引數、測量條件與當地規範影響,請以裝置銘牌、檢測報告與現行標準為準,重大決策建議諮詢專業人士。
- 機率必須和為 1 嗎?
- 是,離散信源機率歸一;若輸入頻率會自動歸一化。
- 零機率項怎麼處理?
- 按極限 0·log(0)=0 計入,不貢獻熵。
- 熵高一定好?
- 壓縮場景高熵意味著難壓縮;安全場景高熵(金鑰)是好事。