深度学习中使用的batchsize, step(iteration), epoch 含义以及其关系

莫斯

发布于 2020-09-10 11:16:00

2.9K0

文章被收录于专栏：备份备份

变量	含义
epoch	一个epoch表示所有训练样本运算学习一遍
iteration/step	表示每运行一个iteration/step，更新一次参数权重，即进行一次学习，每一次更新参数需要batch size个样本进行运算学习，根据运算结果调整更新一次参数。
batch size	1次迭代所使用的样本量

其关系为：

iteration=\frac{exampleNums * epoch}{batch size}

举例：假设有20000个样本，batch size 为200，epoch为1，则

iteration=\frac{20000 * 1}{200}=100

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2019/05/10 ，如有侵权请联系 cloudcommunity@tencent.com 删除