模型融合加权投票

🤖 Ensemble Weighted Voting

Combine several models by weighted voting or weighted averaging to get an ensemble probability, and see how each model weight shifts the result.

📐 计算公式 / 原理
加权平均概率 = Σpᵢwᵢ / Σwᵢ;硬投票 = Σ[pᵢ ≥ 0.5] ≥ 2 判正类;集成置信度 = |加权概率 − 0.5| × 2
软投票用权重平均概率,能利用模型输出的置信度信息,通常优于硬投票的多数决。权重可按各模型验证集表现分配;若子模型同质性太强(同一架构不同种子),集成增益会非常有限。

📐 计算公式与说明

P_ensemble = Σ(wᵢ·pᵢ) / Σwᵢ

权重可基于模型验证性能分配。

📚 深度解析:模型融合加权投票

💡 常见使用场景

两模型加权融合
模型A对类别1概率0.7(权重0.6),模型B 0.4(权重0.4) → 融合=0.7×0.6+0.4×0.4=0.58,仍判为类别1。若B权重更高(0.7)则=0.7×0.3+0.4×0.7=0.49 翻转为类别0。

❓ 常见问题(FAQ)

融合一定比单模型好吗?
不一定。若基模型高度相关(同源训练),融合增益很小甚至过拟合;只有误差多样、互补的模型融合才稳定提升。
权重怎么定?
常用各模型在验证集的准确率或 AUC 作权重,也可用网格搜索/线性规划优化组合系数,避免随意设定。