Znsert

> According to your first post, you used `ubuntu 22.04, jetson agx orin 64 G, vllm==0.7.0` yeah at the begging i was running on AGX Orin, and then i goes...

> for the original problem, jetson agx orin has unified memory, when a process uses cpu memory, it will also appear in gpu memory monitor tools i think. emmm i...

> 服务端有报错吗？ 有报错，已重新编辑问题

> ``` > pip show uv > ``` > > 看下。 > > 另外看下服务端日志，有没有完整的。 2025-04-23 16:00:53,329 xinference.core.model 2446463 WARNING Currently for multimodal models, xinference only supports qwen-vl-chat, cogvlm2, glm-4v, MiniCPM-V-2.6...

> ``` > pip show uv > ``` > > 看下。 > > 另外看下服务端日志，有没有完整的。 

> 发现这个版本低级失误。。。环境变量名字 typo 了。试下 > > XINFERENCE_EANBLE_VIRTUAL_ENV=1 > > 下个版本会修复回来。 貌似是UV的问题，一直安装不了各种依赖，然后需要我手动一个一个安装，请问一下有没有requirement.txt之类的可以让我一次性装好呢？我每次一个个手动安装要等他报错才知道哪个依赖没有 

> 发现这个版本低级失误。。。环境变量名字 typo 了。试下 > > XINFERENCE_EANBLE_VIRTUAL_ENV=1 > > 下个版本会修复回来。 经过漫长的pip install之后，还是无法运行。貌似需要麦克风输入才行？报错如下： 2025-04-23 20:13:09,158 xinference.core.model 3048147 WARNING Currently for multimodal models, xinference only supports qwen-vl-chat, cogvlm2, glm-4v, MiniCPM-V-2.6 for batching....

> > > 发现这个版本低级失误。。。环境变量名字 typo 了。试下 > > > XINFERENCE_EANBLE_VIRTUAL_ENV=1 > > > 下个版本会修复回来。 > > > > > > 貌似是UV的问题，一直安装不了各种依赖，然后需要我手动一个一个安装，请问一下有没有requirement.txt之类的可以让我一次性装好呢？我每次一个个手动安装要等他报错才知道哪个依赖没有 > >  > > 你可以配置下pip config，设置下镜像，用清华或者阿里云镜像 我已经装好环境了，也成功加载模型了，但是在推理的时候一直提示我meta tensors无法调用，是因为我没有装麦克风导致的吗？如果我想单纯的文本推理应该怎么做呢？我尝试使用内置的disable...

> 为什么是 meta tensor，你修改过 xinf 代码吗？ 之前debug的时候在虚拟环境中修改过代码（/home/code/.xinference/virtualenv/qwen2.5-omni/lib/python3.10/site-packages/transformers/....） 我尝试着删掉这个文件夹，但是一重新启动之后修改过的代码又全部回来了。请问要怎么才能重新拉代码呢？

> > > 为什么是 meta tensor，你修改过 xinf 代码吗？ > > > > > > 之前debug的时候在虚拟环境中修改过代码（/home/code/.xinference/virtualenv/qwen2.5-omni/lib/python3.10/site-packages/transformers/....） 我尝试着删掉这个文件夹，但是一重新启动之后修改过的代码又全部回来了。请问要怎么才能重新拉代码呢？ > > 不需要修改。 是的我知道不需要修改，问题是现在怎么回滚到最原始的虚拟环境的代码呢？我尝试过删除虚拟环境但是没用