L1/L2 正則項 使用指南
L1/L2 正則項計算器，輸入權重向量求 L1 與 L2 範數及對應懲罰項，用於理解稀疏化與平滑化正則效果。
計算公式與原理
L1 範數 = Σ|wᵢ|；L2 範數 = √(Σwᵢ²)
兩個範數量化權重矩陣的整體規模：L1 反映絕對值總量，對少量大權重敏感；L2（Frobenius 範數）反映能量，常被直接寫進損失作為懲罰項。監控範數隨訓練的變化能快速判斷是否出現權重爆炸。
使用步驟
- 填寫「權重1」。
- 填寫「權重2」。
- 填寫「權重3」。
- 填寫「權重4」。
- 結果區會即時更新；可一鍵複製結果用於記錄或彙報。
典型使用場景
- L1 範數 ‖w‖₁=Σ|wᵢ|，L2 範數 ‖w‖₂=√(Σwᵢ²)，分別衡量權重大小。
- 對應懲罰項 λ‖w‖₁(Lasso,促稀疏)與 (λ/2)‖w‖₂²(Ridge,促平滑)。
- 正則項加入損失函式，限制權重幅度以抑制過擬合。
算例參考
- 範數計算：w=[3,−4]：‖w‖₁=|3|+|−4|=7；‖w‖₂=√(9+16)=5，L2 懲罰=(λ/2)·25。L1 對大權重同等懲罰，L2 更壓大權重。
注意事項
結果為按上述公式得到的理論估算值，實際表現受資料分佈、實現細節與執行環境影響，落地決策請以實測為準；本工具純前端執行，輸入不上傳伺服器。
- L1 為什麼能稀疏？
- L1 在零點不可導、等高線為菱形，最優解易落在座標軸上使部分權重恰為 0，實現特徵選擇；L2 只縮小不置零。
- 正則係數 λ 怎麼選？
- 用驗證集網格/貝葉斯搜尋；λ 過小過擬合、過大欠擬合。通常對權重先標準化，再在 10⁻⁴~10 量級掃描。