過擬合診斷

🔍 Overfitting Diagnosis

Compare training and validation loss curves to tell overfitting from underfitting, and get targeted regularization and early-stopping advice.

📐 計算公式 / 原理
損失差距 = 驗證損失 − 訓練損失;準確率差距 = 訓練準確率 − 驗證準確率;風險判據:損失差 > 0.3 或準確率差 > 10%
訓練指標持續優於驗證指標就是過擬合訊號,差距越大越強。閾值 0.3 / 10% 是常用經驗線,但不同任務量綱差異很大,更可靠的是看驗證損失是否開始回升(應觸發早停)。

📐 計算公式與說明

過擬合:訓練表現遠好於驗證表現

準確率差距 >10% 或損失差距 >0.3 通常視為過擬合訊號。

📚 深度解析:過擬合診斷

💡 常見使用場景

損失曲線判讀
訓練 loss 從 0.9 降到 0.1,驗證 loss 從 0.9 降到 0.5 後回升到 0.7 → 第 5 輪附近開始過擬合,應在驗證最低點(0.5)早停並回退權重。

❓ 常見問題(FAQ)

訓練和驗證都很高怎麼辦?
這是欠擬合,模型容量或訓練不足。可增大網路、延長訓練、降低正則強度,或檢查特徵與標籤質量。
驗證集必須和訓練集同分布嗎?
應儘量同分布以反映真實泛化;若驗證集分佈偏移,驗證損失只能衡量對該子集的擬合,不能代表線上表現。