溫度縮放能提升準確率嗎？

不直接提升分類準確率(argmax 不變)，只讓輸出置信度更'誠實'地反映正確率，對需要可靠機率的應用(如風險決策)很有價值。

T 用什麼值校準？

在驗證集上用負對數似然最小化搜尋最優 T(通常略大於 1)，使預測置信度與經驗準確率對齊；是後處理、不改模型權重。

溫度縮放 Logits - 演示校準對機率分佈形態的影響

🖼️ Temperature-Scaled Logits Demo

Scale logits by a temperature before softmax and watch the calibrated distribution change, a practical demo of confidence calibration.

📐 計算公式 / 原理

z′ = z/T（T>1 平滑分佈，T<1 銳化分佈）

對 logits 統一除以溫度是最簡單的機率校準手段，T 在驗證集上用 NLL 搜尋得到，不改變 argmax 因此不影響準確率，只改善置信度的可靠性（ECE）。它只能校正整體過度/不足自信，無法修正逐類別偏差。

logit 值

溫度

對比 logit

📚 深度解析：溫度縮放 Logits

💡 常見使用場景

在 softmax 前對 logits 做 z/T，演示溫度對機率形態的影響，不改變 argmax。
T>1 平滑分佈(置信度降低)，T<1 銳化(更自信)，是模型校準常用手段。
與生成溫度同源：同一機制既可用於校準也可調生成多樣性。

校準演示

logits=[3,1,0]，T=1 → 機率≈[0.8438,0.1142,0.0420]；T=2 → [0.6285,0.2312,0.1402]，最高機率由 84.38% 降到 62.85%，更接近真實準確率即達到校準目的；T=0.5 → [0.9796,0.0179,0.0024] 過度自信。注意縮放只改數值大小，argmax 仍是第 1 類。

❓ 常見問題（FAQ）

溫度縮放能提升準確率嗎？: 不直接提升分類準確率(argmax 不變)，只讓輸出置信度更'誠實'地反映正確率，對需要可靠機率的應用(如風險決策)很有價值。
T 用什麼值校準？: 在驗證集上用負對數似然最小化搜尋最優 T(通常略大於 1)，使預測置信度與經驗準確率對齊；是後處理、不改模型權重。

溫度縮放 Logits

🖼️ Temperature-Scaled Logits Demo

📐 計算公式與說明

📚 深度解析：溫度縮放 Logits

💡 常見使用場景

❓ 常見問題（FAQ）

🔗 相關工具