L1 L2 正则化惩罚

← ToolBox / L1 L2 正则化惩罚

🔧 L1 L2 正则化惩罚

计算 L1 和 L2 正则化对损失的惩罚项。

📐 计算公式与说明

L1 = λ₁Σ|w|
L2 = λ₂Σw²

L1 产生稀疏权重，L2 使权重平滑。

🔗 相关工具

🎲 Dropout 保留期望Dropout 保留期望 📥 RAG 召回率RAG 召回率 📈 ROC AUC 近似ROC AUC 近似 R ReLU 与 LeakyReLUR ReLU 与 LeakyReLU S Sigmoid 输出S Sigmoid 输出 🎲 Softmax 概率Softmax 概率