引數數量估算

🔮 Neural Network Parameter Count Estimator

Estimate the parameter count of fully-connected and convolutional layers from layer widths, kernel sizes and channel counts. Useful for model sizing and memory budgeting.

📐 計算公式 / 原理
全連線引數 = in × out + out(偏置);3×3 卷積引數 = in × out × 9 + out;視訊記憶體 MB = 引數 × 4 / 1024 / 1024
按層的權重矩陣規模累加估算引數量,再按每引數 4 位元組(FP32)折算視訊記憶體。這只是推理權重的下限,訓練還要額外放梯度、最佳化器狀態(Adam 再翻 2 倍)與啟用值,實際佔用通常是權重的 4–6 倍。

📐 計算公式與說明

全連線:params = in × out + out(bias)
卷積 3×3:params = in × out × 9 + out

用於快速估算模型規模。

📚 深度解析:引數數量估算

💡 常見使用場景

卷積層引數量
3×3 卷積、輸入通道 64、輸出通道 128:引數=(3²×64+1)×128=(576+1)×128=73728。若改為深度可分離(3×3×64+1×64×128)=576+8192=8768,僅為原先約 12%。

❓ 常見問題(FAQ)

為什麼卷積層引數量遠小於全連線?
卷積權值共享且區域性連線,引數只與核大小、通道數有關,與特徵圖尺寸無關;全連線則隨輸入輸出維度乘積增長。
偏置是否總要加?
並非必須。BN 後接的卷積常設 bias=False 以免冗餘;最後一層或需學習截距時保留偏置。

如何使用引數數量估算

  1. 按頁面提示逐項填寫或選擇所需引數。
  2. 點選「計算」或「生成」按鈕執行。
  3. 在結果區檢視輸出,可複製結果或匯出使用。

引數說明

適用場景

全連線層引數=(輸入維度+1)×輸出維度,+1 為偏置。

常見問題

為什麼卷積層引數量遠小於全連線?
卷積權值共享且區域性連線,引數只與核大小、通道數有關,與特徵圖尺寸無關;全連線則隨輸入輸出維度乘積增長。
偏置是否總要加?
並非必須。BN 後接的卷積常設 bias=False 以免冗餘;最後一層或需學習截距時保留偏置。