batch size 是不是越大越好？

不是。大 batch 收敛快但泛化常变差，需配合更大学习率与更强正则；小 batch 梯度噪声大却常泛化更好，需在显存与泛化间权衡。

最后一个不完整的 batch 怎么处理？

默认保留尾批(大小不足 batch)；也可 drop_last 丢弃以避免形状不一致，步数用向上取整即包含该尾批。

🤖 Batch Size and Iterations Calculator

Enter dataset size and batch size to get the number of iterations per epoch, and sanity-check your training loop configuration.

📐 计算公式 / 原理

每轮步数 = ⌈样本数 / 批量⌉；总步数 = 每轮步数 × 轮数；最后一批大小 = 样本数 mod 批量（余 0 则取批量）

参数更新次数由"样本数/批量"决定而非轮数，直接决定训练时长与学习率调度横坐标。最后一批不满时需要决定是否丢弃（drop_last）：丢弃可让 BatchNorm 统计稳定，保留则能多用一点数据。

样本总数

Batch size

训练 epoch 数

一万样本每批 32

N=10000, batch=32 → steps=⌈10000/32⌉=313 步/轮；训练 10 轮共约 3130 步。若 4 卡数据并行每卡 batch=32，等效 batch=128，steps 降至 79/轮。

batch size 是不是越大越好？: 不是。大 batch 收敛快但泛化常变差，需配合更大学习率与更强正则；小 batch 梯度噪声大却常泛化更好，需在显存与泛化间权衡。
最后一个不完整的 batch 怎么处理？: 默认保留尾批(大小不足 batch)；也可 drop_last 丢弃以避免形状不一致，步数用向上取整即包含该尾批。

Item	Formula / Note	Source / Standard
Steps per epoch	steps per epoch = ceil(samples / batch size)	Deep learning practice
Total steps	total updates = steps per epoch x epochs	Deep learning practice
Learning rate scaling	scaling the batch by k usually scales the learning rate too	Linear scaling rule