Results 5 comments of coswind

I have the same problem when I upgrade Dify from 0.5.11 to 0.6.0-fix1

我是用 github main 最新的分支部署后还是不可用,我试着升级了 whisper-large-v3 到最新的模型版本(目前的版本还落后两个),之后就正常能用了。 错误信息:Whisper did not predict an ending timestamp, which can happen if audio is cut off in the middle of a word. Also make sure...

> > 我是用 github main 最新的分支部署后还是不可用,我试着升级了 whisper-large-v3 到最新的模型版本(目前的版本还落后两个),之后就正常能用了。 > > 错误信息:Whisper did not predict an ending timestamp, which can happen if audio is cut off in the middle of a...

> > pip install git+https://github.com/xorbitsai/inference.git > > 用这种方式升级后,确实可以了。但悲催的是xinference的web ui打不开了, 直接报404,只能在命令行下部署模型。大佬你有这个现象吗? @coswind 是的,这种方式安装 web 没有打包构建,你不嫌麻烦可以先 git clone,然后在 xinference/web/ui 目录下面,npm install & npm run build,最后再回到根目录 python setup.py install 安装。(我没有试过,但看代码应该是如此)

遇到同样的性能问题,使用的是 Xinference 方式部署,bge-rerank-v2-m3 没有这个问题。