信息增益近似

← ToolBox / 信息增益近似

💡 信息增益近似

用基尼指数或熵评估二分类分裂前后的不纯度变化。

📐 计算公式与说明

基尼 = 2p(1−p)
熵 = −p·log₂p − (1−p)·log₂(1−p)
增益 = 父不纯度 − 加权子不纯度

决策树分裂选择增益最大的特征。

🔗 相关工具

🎲 Dropout 保留期望Dropout 保留期望 🔧 L1 L2 正则化惩罚L1 L2 正则化惩罚 📥 RAG 召回率RAG 召回率 📈 ROC AUC 近似ROC AUC 近似 R ReLU 与 LeakyReLUR ReLU 与 LeakyReLU S Sigmoid 输出S Sigmoid 输出