過擬合診斷 使用指南
對比訓練與驗證損失曲線,判斷過擬合或欠擬合程度並給出正則化建議,適用於模型訓練調優、早停策略制定與泛化評估。
計算公式與原理
損失差距 = 驗證損失 − 訓練損失;準確率差距 = 訓練準確率 − 驗證準確率;風險判據:損失差 > 0.3 或準確率差 > 10%
訓練指標持續優於驗證指標就是過擬合訊號,差距越大越強。閾值 0.3 / 10% 是常用經驗線,但不同任務量綱差異很大,更可靠的是看驗證損失是否開始回升(應觸發早停)。
使用步驟
- 填寫「訓練損失」。
- 填寫「驗證損失」。
- 填寫「訓練準確率 %」。
- 填寫「驗證準確率 %」。
- 結果區會即時更新;可一鍵複製結果用於記錄或彙報。
典型使用場景
- 對比訓練與驗證損失:訓練降而驗證升→過擬合;兩者都高→欠擬合。
- 過擬合時加大 dropout、權重衰減或資料增強;欠擬合時加深加寬或減小正則。
- 早停在驗證損失連續上升前儲存最優權重,是價效比最高的正則手段。
算例參考
- 損失曲線判讀:訓練 loss 從 0.9 降到 0.1,驗證 loss 從 0.9 降到 0.5 後回升到 0.7 → 第 5 輪附近開始過擬合,應在驗證最低點(0.5)早停並回退權重。
注意事項
結果為按上述公式得到的理論估算值,實際表現受資料分佈、實現細節與執行環境影響,落地決策請以實測為準;本工具純前端執行,輸入不上傳伺服器。
- 訓練和驗證都很高怎麼辦?
- 這是欠擬合,模型容量或訓練不足。可增大網路、延長訓練、降低正則強度,或檢查特徵與標籤質量。
- 驗證集必須和訓練集同分布嗎?
- 應儘量同分布以反映真實泛化;若驗證集分佈偏移,驗證損失只能衡量對該子集的擬合,不能代表線上表現。