莫小苝

Results 30 comments of 莫小苝

> i have solved it! I meet a error, TypeError: ONNX node of type Clip is not supported. Can you tell me how to solved it?

> > i have solved it! > > Can you post how you solved it? this repo is no longer maintained

> 可以设置环境变量ONEFLOW_CONV_ALLOW_HALF_PRECISION_ACCUMULATION=0和ONEFLOW_MATMUL_ALLOW_HALF_PRECISION_ACCUMULATION=0再试试,设置之后对于conv和linear,onediff会采用更高精度的计算方式 但这样设置之后,后影响推理速度吗?

> > > 可以设置环境变量ONEFLOW_CONV_ALLOW_HALF_PRECISION_ACCUMULATION=0和ONEFLOW_MATMUL_ALLOW_HALF_PRECISION_ACCUMULATION=0再试试,设置之后对于conv和linear,onediff会采用更高精度的计算方式 > > > > > > 但这样设置之后,后影响推理速度吗? > > 预估影响 5% 的性能,可以试下,看能否解决问题。 试了你说的这种方案,得到了改善,但还会有一些差异。这个还有进一步的提升方案吗? 没有添加环境变量的结果: ![base-0_0-onediff-before](https://github.com/siliconflow/onediff/assets/14770340/ffc3d363-5d4c-4877-b9a1-b6ac1a872ff9) 添加环境变量之后的结果: ![base-0_0-onediff](https://github.com/siliconflow/onediff/assets/14770340/4dd7c99b-c9fd-4e39-9ecd-2e805611fa36)

> 确实改善了,现在哪里还有差异呢 现在就剩下颜色上的差异了,可以把我上传的 “加速前生成图像”图像和 “添加环境变量之后的结果”图像 下载到本地,切换着看下,就能发现差异了。

> conv kernel diff: oneflow vs torch cuda v8 api 👌,感谢回复

> 另外因为 torch 不同版本的 conv 也会带来写差异,比如 conv kernel cuda v8 api > > pytorch的cudnn_convolution计算函数从v7(调用cudnnConvolutionForward,与oneflow一致)更新到了v8(调用cudnnBackendExecute),默认为v8版本 > > ![image](https://github.com/Oneflow-Inc/OneTeam/assets/56420840/a76d7e98-431f-4506-9b7a-fd8567b83a48) > > 设置TORCH_CUDNN_V8_API_DISABLED=1后pytorch和oneflow的计算结果一致 > > (https://github.com/Oneflow-Inc/OneTeam/issues/2198) 辛苦再给看下这个问题 https://github.com/siliconflow/onediff/issues/762

> @chengzeyi @hjchen2 Let's take a look 这个问题好解决吗?

> 最新版本已经修复该问题,请安装最新的oneflow, > > python3 -m pip install -U --pre oneflow -f https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu121 我用了您说的最新版本,但出现了新的错误。 ``` Stack trace (most recent call last) in thread 1098: W20240408 19:33:49.514078 994 cudnn_conv_util.cpp:105] Currently available...