溫度縮放 Softmax

📚 深度解析：溫度縮放 Softmax

💡 常見使用場景

• 溫度縮放 y_i=exp(z_i/T)/Σexp(z_j/T)，T>1 使分佈更平滑(更不確定)，T<1 更尖銳。
• T→∞ 趨近均勻分佈，T→0 趨近 one-hot(argmax)。
• 溫度常用於調節生成多樣性與模型校準，不改變 argmax 類別。

❓ 常見問題（FAQ）

溫度能校準模型嗎？

溫度縮放是最簡單的後校準方法，調 T 使輸出置信度匹配實際準確率；但它只縮放分佈、不能修正錯誤預測的方向。

生成時溫度設多高？

創意寫作用較高 T(0.7~1.0)增多樣性，事實問答用低 T(0~0.3)增確定性；過高會胡言亂語，過低則重複僵化。

頁面上為什麼要同時給出 T=1、T/2、T×2 三行？

單看一個溫度看不出趨勢。三行分別代表基準、低溫(更尖銳、更自信)與高溫(更平緩、更不確定)，可直接讀出「T 減半最大機率從 62.85% 升到 84.38%、T 翻倍降到 48.10%」這種量級變化，便於判斷該往哪個方向調。溫度必須大於 0，T=0 時 logits÷T 無定義。