批次大小迭代次數

📚 深度解析：批次大小迭代次數

💡 常見使用場景

• 每輪迭代步數 steps=⌈N/batch_size⌉，N 為訓練樣本總數。
• 總最佳化步數=epochs×steps；batch 越大單輪步數越少但視訊記憶體與通訊開銷越高。
• 分散式有效批次=單卡 batch×梯度累積步數×GPU 數。

❓ 常見問題（FAQ）

batch size 是不是越大越好？

不是。大 batch 收斂快但泛化常變差，需配合更大學習率與更強正則；小 batch 梯度噪聲大卻常泛化更好，需在視訊記憶體與泛化間權衡。

最後一個不完整的 batch 怎麼處理？

預設保留尾批(大小不足 batch)；也可 drop_last 丟棄以避免形狀不一致，步數用向上取整即包含該尾批。