Softmax 概率 使用指南
Softmax 概率转换器,将一组 logits 归一化为概率分布(和为1),用于多分类模型输出层概率化。
计算公式与原理
Pᵢ = e^{zᵢ} / Σⱼ e^{zⱼ}
Softmax 把 logits 变成和为 1 的概率分布,指数放大差距使最大值更突出。实现上通常先减去 max(z) 再取指数以避免上溢;输出概率并不等于模型置信度,未经校准的模型常过度自信。
使用步骤
- 填写「Logit 1」。
- 填写「Logit 2」。
- 填写「Logit 3」。
- 填写「Logit 4」。
- 结果区会即时更新;可一键复制结果用于记录或汇报。
典型使用场景
- softmax(z)_i=exp(z_i)/Σⱼexp(z_j),将 logits 归一化为和为 1 的概率分布。
- 输出具平移不变性(全体加常数不变),但对尺度敏感(乘系数放大差异)。
- 多分类输出层标配,配合交叉熵作损失;数值上先减最大值防溢出。
算例参考
- 概率归一化:logits=[2,1,0.1],减最大值 2 得 [0,−1,−1.9],exp=[1,0.368,0.149],Σ=1.517 → 概率=[0.659,0.243,0.098],和为 1。
注意事项
结果为按上述公式得到的理论估算值,实际表现受数据分布、实现细节与运行环境影响,落地决策请以实测为准;本工具纯前端运行,输入不上传服务器。
- 为什么要减去最大值?
- exp 大数会溢出。softmax 具平移不变性,先减最大值不改变结果却把所有指数压到 ≤0,避免 exp 上溢、数值稳定。
- softmax 和 sigmoid 在二分类下等价吗?
- 等价。二分类 softmax 两维概率互为补数,与对单 logit 用 sigmoid 一致;多分类才必须用 softmax 归一化。