Houjiang Chen
Houjiang Chen
最新版本已经修复该问题,请安装最新的oneflow, python3 -m pip install -U --pre oneflow -f https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu121
你这个问题是不是显存不足引起的,你跑的时候可以监控一下显存占用。另外请问一下你跑的是什么模型,是svd吗
> > 你这个问题是不是显存不足引起的,你跑的时候可以监控一下显存占用。另外请问一下你跑的是什么模型,是svd吗 > > 两个问题都是显存不足吗? > > 不是 svd 就是 sdxl。我观察到,使用 onediff 进行加速的时候,使用的显存占用量会多很多,这个有什么解决方案吗?我的 A10 只有 24g 显存 首先你可以先尝试把vae的编译加速关掉,另外请问一下你使用的分辨率是多大的,如果不用onediff加速的时候正常的显存占用是多少?
后续可以顺便支持一下cache功能
please set env variable ONEFLOW_ATTENTION_ALLOW_HALF_PRECISION_ACCUMULATION=0 or ONEFLOW_ATTENTION_ALLOW_HALF_PRECISION_SCORE_ACCUMULATION_MAX_M=0
> 这个分支里,comfyui 跑不起来了 > > ``` > File "", line 883, in exec_module > File "", line 241, in _call_with_frames_removed > File "/data/home/yaochi/onediff/ComfyUI/comfy/ops.py", line 20, in > import comfy.model_management >...
> 修改oneflow版本为0.8.1+cu112.git.506cb3f1即可正常运行。 你是用eager模式跑的吧,因为add op还没支持non-contiguous输入,所以non-contiguous输入的inplace add是不支持的,以前的版本能支持,但计算出来的结果肯定是错的。这个问题正在统一解决中。