模型融合加权投票

← ToolBox / 模型融合加权投票
📖 查看「模型融合加权投票使用指南」

🤖 Ensemble Weighted Voting

Combine several models by weighted voting or weighted averaging to get an ensemble probability, and see how each model weight shifts the result.

📐 计算公式 / 原理
加权平均概率 = Σpᵢwᵢ / Σwᵢ；硬投票 = Σ[pᵢ ≥ 0.5] ≥ 2 判正类；集成置信度 = |加权概率 − 0.5| × 2
软投票用权重平均概率，能利用模型输出的置信度信息，通常优于硬投票的多数决。权重可按各模型验证集表现分配；若子模型同质性太强（同一架构不同种子），集成增益会非常有限。

📐 计算公式与说明

集成概率（加权平均口径）：P_ensemble = Σ(wᵢ×pᵢ) ÷ Σwᵢ，即三个模型概率按权重归一加权平均；同页另给硬投票（Σ[pᵢ ≥ 0.5] ≥ 2 判正类）与集成置信度 = |P_ensemble − 0.5| × 2。校验：无强校验，非数输入按 0 兜底，分母 Σwᵢ = 0 等无定义结果输出「—」并追加警告「部分结果无定义（分母为 0 或输入为空）」。判据：权重和固定时概率越高集成概率越高，置信度越接近 1 各模型判断越一致。

权重可基于模型验证性能分配。

📚 深度解析：模型融合加权投票

💡 常见使用场景

两模型加权融合
模型A对类别1概率0.7(权重0.6)，模型B 0.4(权重0.4) → 融合=0.7×0.6+0.4×0.4=0.58，仍判为类别1。若B权重更高(0.7)则=0.7×0.3+0.4×0.7=0.49 翻转为类别0。

❓ 常见问题（FAQ）

融合一定比单模型好吗？
不一定。若基模型高度相关(同源训练)，融合增益很小甚至过拟合；只有误差多样、互补的模型融合才稳定提升。
权重怎么定？
常用各模型在验证集的准确率或 AUC 作权重，也可用网格搜索/线性规划优化组合系数，避免随意设定。

Formula & Standard References

Item Formula / Note Source / Standard
Weighted fusion fused probability sums model outputs weighted and normalised Ensemble learning
Soft and hard voting soft voting averages probabilities while hard voting counts labels Ensemble learning
Diversity gain gains grow when member errors are less correlated Ensemble learning

🔗 相关工具

🤖 Dropout 保留期望Dropout 期望输出计算器，输入保留概率求 dropout 后的期望输出与推理期缩放因子，辅助… 🔍 L1 L2 正则化惩罚L1/L2 正则化惩罚计算器，输入权重与正则系数求对损失函数的惩罚项，对比 Lasso 与 Rid… 🤖 RAG 召回率RAG 召回率计算器，输入相关文档数与检索命中数求召回率，评估检索增强生成的检索覆盖质量。 🤖 ROC AUC 近似输入正负样本预测得分，估算 ROC 曲线下面积 AUC，评估分类器排序能力，适用于模型选型、阈值无… 🤖 ReLU 与 LeakyReLUR ReLU 与 LeakyReLU 🤖 Sigmoid 输出S Sigmoid 输出

🔗 相关工具

🤖 Dropout 保留期望Dropout 期望输出计算器，输入保留概率求 dropout 后的期望输出与推理期缩放因子，辅助神 🔍 L1 L2 正则化惩罚L1/L2 正则化惩罚计算器，输入权重与正则系数求对损失函数的惩罚项，对比 Lasso 与 Ridg 🤖 RAG 召回率RAG 召回率计算器，输入相关文档数与检索命中数求召回率，评估检索增强生成的检索覆盖质量。 🤖 ROC AUC 近似输入正负样本预测得分，估算 ROC 曲线下面积 AUC，评估分类器排序能力，适用于模型选型、阈值无关 🤖 ReLU 与 LeakyReLUR ReLU 与 LeakyReLU