溫度縮放 Logits 使用指南

溫度縮放 Logits 演示器，在 softmax 前對 logits 做溫度縮放，演示校準對機率分佈形態的影響(不改變 argmax)。

計算公式與原理

z′ = z/T（T>1 平滑分佈，T<1 銳化分佈）

對 logits 統一除以溫度是最簡單的機率校準手段，T 在驗證集上用 NLL 搜尋得到，不改變 argmax 因此不影響準確率，只改善置信度的可靠性（ECE）。它只能校正整體過度/不足自信，無法修正逐類別偏差。

使用步驟

1. 填寫「logit 值」。
2. 填寫「溫度」。
3. 填寫「對比 logit」。
4. 結果區會即時更新；可一鍵複製結果用於記錄或彙報。

典型使用場景

• 在 softmax 前對 logits 做 z/T，演示溫度對機率形態的影響，不改變 argmax。
• T>1 平滑分佈(置信度降低)，T<1 銳化(更自信)，是模型校準常用手段。
• 與生成溫度同源：同一機制既可用於校準也可調生成多樣性。

算例參考

• 校準演示：logits=[3,1,0]，T=1 機率≈[0.79,0.11,0.10]；T=2 → [0.59,0.23,0.18] 更不確定；模型原自信 79% 經校準可能更接近真實準確率。

注意事項

結果為按上述公式得到的理論估算值，實際表現受資料分佈、實現細節與執行環境影響，落地決策請以實測為準；本工具純前端執行，輸入不上傳伺服器。

溫度縮放能提升準確率嗎？

不直接提升分類準確率(argmax 不變)，只讓輸出置信度更'誠實'地反映正確率，對需要可靠機率的應用(如風險決策)很有價值。

T 用什麼值校準？

在驗證集上用負對數似然最小化搜尋最優 T(通常略大於 1)，使預測置信度與經驗準確率對齊；是後處理、不改模型權重。