modelscope
评测Internvl76B时，完成了部署但是没有推理
Describe the bug What the bug is, and how to reproduce, better with screenshots(描述bug以及复现过程，最好有截图) 这里是我的评测代码：
CUDA_VISIBLE_DEVICES=0,1 swift eval --model_type internvl2-llama3-76b --model_id_or_path /mnt/model/Internvl2/InternVL2-Llama3-76B
--eval_dataset ceval --max_model_len 8192
然后会正常部署，但是部署之后没有任何推理，也无报错
INFO: 2024-07-25 02:32:02,169 infer.py:236] InternVLChatModel: 76262.3584M Params (0.0000M Trainable [0.0000%]), 0.0051M Buffers. INFO: 2024-07-25 02:32:02,169 infer.py:246] system: 你是由上海人工智能实验室联合商汤科技开发的书生多模态大模型，英文名叫InternVL, 是一个有用无害的人工智能助手。 INFO: Started server process [62015] INFO: Waiting for application startup. INFO: Application startup complete. INFO: Uvicorn running on http://127.0.0.1:34737 (Press CTRL+C to quit)
我使用相同的命令是可以正常运行评测InternVL2-26B，但是76B就会出现上述问题
Your hardware and system info Write your system info like CUDA version/system/GPU/torch version here(在这里给出硬件信息和系统信息，如CUDA版本，系统，GPU型号和torch版本等)
Additional context Add any other context about the problem here(在这里补充其他信息)
