eigenLiu

super改了不生效，系统不知道从哪里拷了一份改之前的，放到了cache下面，然后就加载cache下面的，我也是vllm加载baichuan2-13b 尝试了vllm启动时--tokenizer到模型的文件夹，依然不行

> super改了不生效，系统不知道从哪里拷了一份改之前的，放到了cache下面，然后就加载cache下面的，我也是vllm加载baichuan2-13b 尝试了vllm启动时--tokenizer到模型的文件夹，依然不行 是我没看清，修改模型文件夹中的就行了。注意保存

no module named vllm._C

same error 32heads on 3gpus

> Hi, I solved this by pip uninstall transformer-engine 感谢！我也是这么解决的

model_name让我写成了mode_name 被自己蠢死。。

i encountered same issue, like: ---|---|--- right expression need to be: |---|---|---|

> i encountered same issue, like: ---|---|--- > > right expression need to be: |---|---|---| html2text.config.PAD_TABLES = True can solve this.

+1

+1。有大量数据要迁到milvus，这个限制导致了左右数据很难对齐