FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

关于训练和评估使用不同显卡,性能完全不同。

Open coasxu opened this issue 1 year ago • 1 comments

我训练时使用了3090,评估时使用2080ti,用2080ti预测的结果比较理想,但是使用3090预测结果就不能看。 请问有遇到过类似的情况吗?

coasxu avatar Jul 30 '24 16:07 coasxu

更新一下: 我的环境是Driver Version: 535.171.04 CUDA Driver Version: 12.2 一台机器有两张卡3090和2080ti 我发现使用CUDA_VISIBLE_DEVICES设置不同的卡时,评估的结果完全不同,3090的性能不正常运行。 我的评估代码是参考了https://github.com/FlagOpen/FlagEmbedding/blob/e3699b84deb690eabaee7512433cc1e6865f611f/FlagEmbedding/baai_general_embedding/finetune/eval_msmarco.py 文件。 我怀疑是faiss库的问题,因此我切换成了faiss-cpu,并把下图中的内容注释了。两个卡运行都正常了。 大家可以留意一下这个地方的代码。

image

coasxu avatar Jul 31 '24 03:07 coasxu