xtuner icon indicating copy to clipboard operation
xtuner copied to clipboard

Published 20 hours ago • verified publisher icon InternLM

log输出中的time的意思

Open shockjiang opened this issue 9 months ago • 2 comments

log输出：

eta: 0:00:03  time: 0.0768  data_time: 0.0137  memory: 9806

其中time & data_time 分别是什么意思？是否包含梯度回传的时间？ memory的单位是什么？

谢谢

shockjiang avatar May 14 '24 06:05 shockjiang

time表示前传 + 反传 + 参数更新（如果当前iter需要）的总时间 data_time表示读取训练数据所需时间 memory的单位是MB

HIT-cwh avatar May 14 '24 13:05 HIT-cwh

谢谢。 是指rank=0的GPU设备上，整个batch的时间，对吗？

shockjiang avatar May 16 '24 01:05 shockjiang

谢谢。 是指rank=0的GPU设备上，整个batch的时间，对吗？

对

hhaAndroid avatar May 17 '24 11:05 hhaAndroid