引數數量估算 使用指南
輸入層寬、卷積核數與通道數,估算全連線層與卷積層引數量,適用於模型規模評估、視訊記憶體預算與輕量化設計。
計算公式與原理
全連線引數 = in × out + out(偏置);3×3 卷積引數 = in × out × 9 + out;視訊記憶體 MB = 引數 × 4 / 1024 / 1024
按層的權重矩陣規模累加估算引數量,再按每引數 4 位元組(FP32)折算視訊記憶體。這只是推理權重的下限,訓練還要額外放梯度、最佳化器狀態(Adam 再翻 2 倍)與啟用值,實際佔用通常是權重的 4–6 倍。
使用步驟
- 填寫「輸入維度」。
- 填寫「輸出維度」。
- 填寫「是否含偏置 1=是」。
- 填寫「是否卷積 1=是」。
- 結果區會即時更新;可一鍵複製結果用於記錄或彙報。
典型使用場景
- 全連線層引數=(輸入維度+1)×輸出維度,+1 為偏置。
- 卷積層引數=(k²×C_in+1)×C_out,k 為核邊長;深度可分離卷積引數量顯著降低。
- 引數量直接決定視訊記憶體(≈引數量×精度位元組)與推理延遲,是輕量化設計的核心約束。
算例參考
- 卷積層引數量:3×3 卷積、輸入通道 64、輸出通道 128:引數=(3²×64+1)×128=(576+1)×128=73728。若改為深度可分離(3×3×64+1×64×128)=576+8192=8768,僅為原先約 12%。
注意事項
結果為按上述公式得到的理論估算值,實際表現受資料分佈、實現細節與執行環境影響,落地決策請以實測為準;本工具純前端執行,輸入不上傳伺服器。
- 為什麼卷積層引數量遠小於全連線?
- 卷積權值共享且區域性連線,引數只與核大小、通道數有關,與特徵圖尺寸無關;全連線則隨輸入輸出維度乘積增長。
- 偏置是否總要加?
- 並非必須。BN 後接的卷積常設 bias=False 以免冗餘;最後一層或需學習截距時保留偏置。