FlagEmbedding
FlagEmbedding copied to clipboard
bge-reranker-v2-m3 环境配置咨询
本机环境:python=3.8,pytorch=1.11.0,nvidia-smi=450.119.04,cuda version=11.0,nvcc -V=11.3.109 执行pip install FlagEmbedding成功 python控制台执行 from FlagEmbedding import FlagReranker reranker = FlagReranker('/root/workspace/bge-reranker-v2-m3', use_fp16=True) 会大约1分钟没响应,然后显示“killed”并退出了python控制台 请问下是因为配置环境导致这样问题,或者是其他?或者在哪里可以看到具体报错日志?
可能是pytorch版本比较低的缘故
可以尝试reranker = FlagReranker('/root/workspace/bge-reranker-v2-m3', use_fp16=False, device='cpu')将模型放在CPU上看是否可以顺利加载