Jay Zhang
Jay Zhang
> 我的机器是单机8卡,45G显存,一般来说不会内存不够?会不会是docker没给全部的机器的内存?
![Uploading image.png…]() 内存是不是太小了?377G
I also encountered this problem! ``` 2024-04-29 15:22:27 | ERROR | stderr | Exception in thread Thread-4 (generate): 2024-04-29 15:22:27 | ERROR | stderr | Traceback (most recent call last):...
> 只需要把每个子任务处理成相应的格式,然后把所有数据混合起来微调就可以了。 例如:翻译的任务,处理成这个格式: `{"input": "北京是中国的首都", "prompt": "中翻英", "": "Beijing is the capital of China"}` 我看了一下微调代码,最终送入到模型中的其实是字符串: ` input北京是中国的首都prompt中翻英Beijing is the capital of China ` 请问我理解的对吗?谢谢,盼复
> * Use `ray debug` in the terminal to enter the interactive PDB debugger. How can I interactively debug using Ray in the terminal? python -m pdb job.py?