L1/L2 正则项 使用指南
L1/L2 正则项计算器，输入权重向量求 L1 与 L2 范数及对应惩罚项，用于理解稀疏化与平滑化正则效果。
计算公式与原理
L1 范数 = Σ|wᵢ|；L2 范数 = √(Σwᵢ²)
两个范数量化权重矩阵的整体规模：L1 反映绝对值总量，对少量大权重敏感；L2（Frobenius 范数）反映能量，常被直接写进损失作为惩罚项。监控范数随训练的变化能快速判断是否出现权重爆炸。
使用步骤
- 填写「权重1」。
- 填写「权重2」。
- 填写「权重3」。
- 填写「权重4」。
- 结果区会即时更新；可一键复制结果用于记录或汇报。
典型使用场景
- L1 范数 ‖w‖₁=Σ|wᵢ|，L2 范数 ‖w‖₂=√(Σwᵢ²)，分别衡量权重大小。
- 对应惩罚项 λ‖w‖₁(Lasso,促稀疏)与 (λ/2)‖w‖₂²(Ridge,促平滑)。
- 正则项加入损失函数，限制权重幅度以抑制过拟合。
算例参考
- 范数计算：w=[3,−4]：‖w‖₁=|3|+|−4|=7；‖w‖₂=√(9+16)=5，L2 惩罚=(λ/2)·25。L1 对大权重同等惩罚，L2 更压大权重。
注意事项
结果为按上述公式得到的理论估算值，实际表现受数据分布、实现细节与运行环境影响，落地决策请以实测为准；本工具纯前端运行，输入不上传服务器。
- L1 为什么能稀疏？
- L1 在零点不可导、等高线为菱形，最优解易落在坐标轴上使部分权重恰为 0，实现特征选择；L2 只缩小不置零。
- 正则系数 λ 怎么选？
- 用验证集网格/贝叶斯搜索；λ 过小过拟合、过大欠拟合。通常对权重先标准化，再在 10⁻⁴~10 量级扫描。