Wei Wang

[email protected]

ZheJiang University China,ZheJiang,HangZhou RecSys | NLP

Results 4 comments of


                                            Wei Wang

使用Qwen1.5-14B-int8-Chat 进行微调完成后不释放显存

同样显存泄露问题也发生在baichuan2 13b上，批量推理数据总是跑一半会OOM

坐等大神给出微调代码

+1

坐等大神给出微调代码

有交流群么可以整一个

ds_train_finetune.sh之前没有任何报错，最后直接sigkill_handler] Killing subprocess

一个是内存问题，一个是共享内存问题，遇到过，调整后解决了