Open-Sora icon indicating copy to clipboard operation
Open-Sora copied to clipboard

RuntimeError: memory format option is only supported by strided tensors

Open xuhzyy opened this issue 1 year ago • 10 comments

xuhzyy avatar Mar 18 '24 07:03 xuhzyy

不要使用apex就可以了,配置文件里把enable_layernorm_kernel设为False

tanghaom avatar Mar 19 '24 07:03 tanghaom

不要使用apex就可以了,配置文件里把enable_layernorm_kernel设为False

设置为False,依然报错

lyc6749 avatar Mar 19 '24 12:03 lyc6749

Same issue

wileewang avatar Mar 19 '24 14:03 wileewang

不要使用apex就可以了,配置文件里把enable_layernorm_kernel设为False

设置为False,依然报错

WillDreamer avatar Mar 19 '24 17:03 WillDreamer

兄弟们,只要把modelng_t5.py的264-275行注释掉就infer起来了

WillDreamer avatar Mar 19 '24 18:03 WillDreamer

这些方法都试了,还是没法解决我的问题

ipp1215 avatar Mar 20 '24 07:03 ipp1215

对不起我的疏忽,要结合两个人的一起搞

ipp1215 avatar Mar 20 '24 07:03 ipp1215

whati is modelng_t5.py ? Could you please show me the path of the modelng_t5.py?

w815526955 avatar Mar 22 '24 03:03 w815526955

whati is modelng_t5.py ? Could you please show me the path of the modelng_t5.py? anaconda3/envs/opensora/lib/python3.10/site-packages/transformers/models/t5/modeling_t5.py

w815526955 avatar Mar 22 '24 05:03 w815526955

兄弟们,只要把modelng_t5.py的264-275行注释掉就infer起来了

我之前尝试把FusedRMSNorm替换成nn.LayerNorm,结果sample的输出全是nan🤡

MqLeet avatar Apr 08 '24 08:04 MqLeet

不要使用apex就可以了,配置文件里把enable_layernorm_kernel设为False

请问这里的配置文件是在哪里设置什么呀,我的项目里好像没找到

zhoujuner avatar May 07 '25 13:05 zhoujuner