参数数量估算 使用指南
输入层宽、卷积核数与通道数,估算全连接层与卷积层参数量,适用于模型规模评估、显存预算与轻量化设计。
计算公式与原理
全连接参数 = in × out + out(偏置);3×3 卷积参数 = in × out × 9 + out;显存 MB = 参数 × 4 / 1024 / 1024
按层的权重矩阵规模累加估算参数量,再按每参数 4 字节(FP32)折算显存。这只是推理权重的下限,训练还要额外放梯度、优化器状态(Adam 再翻 2 倍)与激活值,实际占用通常是权重的 4–6 倍。
使用步骤
- 填写「输入维度」。
- 填写「输出维度」。
- 填写「是否含偏置 1=是」。
- 填写「是否卷积 1=是」。
- 结果区会即时更新;可一键复制结果用于记录或汇报。
典型使用场景
- 全连接层参数=(输入维度+1)×输出维度,+1 为偏置。
- 卷积层参数=(k²×C_in+1)×C_out,k 为核边长;深度可分离卷积参数量显著降低。
- 参数量直接决定显存(≈参数量×精度字节)与推理延迟,是轻量化设计的核心约束。
算例参考
- 卷积层参数量:3×3 卷积、输入通道 64、输出通道 128:参数=(3²×64+1)×128=(576+1)×128=73728。若改为深度可分离(3×3×64+1×64×128)=576+8192=8768,仅为原先约 12%。
注意事项
结果为按上述公式得到的理论估算值,实际表现受数据分布、实现细节与运行环境影响,落地决策请以实测为准;本工具纯前端运行,输入不上传服务器。
- 为什么卷积层参数量远小于全连接?
- 卷积权值共享且局部连接,参数只与核大小、通道数有关,与特征图尺寸无关;全连接则随输入输出维度乘积增长。
- 偏置是否总要加?
- 并非必须。BN 后接的卷积常设 bias=False 以免冗余;最后一层或需学习截距时保留偏置。