zc317414
zc317414
docker run -it --gpus all -v E:\infinity:/models -p 8081:8081 michaelf34/infinity:latest v2 --no-bettertransformer --model-id "/models/jinaai/jina-reranker-v2-base-multilingual" --port 8081 add --no-bettertransformer , but the above error is still not resolved
@ztxz16 恳请指导，感谢
有计划什么时间解决此问题吗？
旧的P104-100算力太低，只有6.1，Vllm不支持，所以就转fastllm了
Strongly support ！