alpa
alpa copied to clipboard
alpa-projects
when i check installation by running python3 -m alpa.test_install,AssertionError happend
Please describe the bug
Please describe the expected behavior
System information and environment
- OS Platform and Distribution (e.g., Linux Ubuntu 16.04, docker):
- Python version:3.95
- CUDA version:11.3
- NCCL version:
- cupy version:cupy-cuda11x 12.2.0
- GPU model and memory:A100
- Alpa version:0.2.3
- JAX version:0.3.22
To Reproduce Steps to reproduce the behavior: 1.run python3 -m alpa.test_install 4. See error
Screenshots
If applicable, add screenshots to help explain your problem.
Code snippet to reproduce the problem
Additional information Add any other context about the problem here or include any logs that would be helpful to diagnose the problem.
it says we compiled for one device but ran on another.CUDA_VISIBLE_DEVICES=0 fixes this problem for me.However,when i run this command CUDA_VISIBLE_DEVICES=0,1,2 python3 -m alpa.test_install, another error occured , there was a AssertionError,how can i fix that?
你有几张卡，num_stages默认是2，你的num_devices不能整除num_satges就会出现这个问题，最好保证num_devices为偶数
你有几张卡，num_stages默认是2，你的num_devices不能整除num_satges就会出现这个问题，最好保证num_devices为偶数
我的服务器上有5张卡，如下图
我应该怎么修改num_devices的数量，当我尝试输入CUDA_VISIBLE_DEVICES=0,1 python3 -m alpa.test_install，还是会有相同的问题
你有几张卡，num_stages默认是2，你的num_devices不能整除num_satges就会出现这个问题，最好保证num_devices为偶数
我的服务器上有5张卡，如下图
我应该怎么修改num_devices的数量，当我尝试输入CUDA_VISIBLE_DEVICES=0,1 python3 -m alpa.test_install，还是会有相同的问题
我不知道怎么修改卡的数目，你有五张卡，并且卡的型号也不一样，你在a100上编译的，在3090上运行可能会出问题
你有几张卡，num_stages默认是2，你的num_devices不能整除num_satges就会出现这个问题，最好保证num_devices为偶数
我的服务器上有5张卡，如下图
我应该怎么修改num_devices的数量，当我尝试输入CUDA_VISIBLE_DEVICES=0,1 python3 -m alpa.test_install，还是会有相同的问题
我不知道怎么修改卡的数目，你有五张卡，并且卡的型号也不一样，你在a100上编译的，在3090上运行可能会出问题
我已经解决了这个error，通过在启动ray的时候限制gpu数量ray start --head --num-gpus=2，然后当我继续运行CUDA_VISIBLE_DEVICES=0,1 python3 -m alpa.test_install 另一个error报错了，另外通过CUDA_VISIBLE_DEVICES=0,1可以限定运行的设备，让代码在同一种设备上运行