Zheng Yankui

Results 1 comments of Zheng Yankui

> 碰到了同样的问题,按照官方提供的运行了 pip install -r requirements.txt的代码,在运行web_demo和cil_demo时包括推理代码时都碰到了AttributeError: 'BaichuanTokenizer' object has no attribute 'sp_model'的报错,然后根据上面的朋友说的将transformers变为4.33.3时推理代码可以运行,但是web_demo和cil_demo在运行时可以加载,但是你跟他说一句话之后也会弹出RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'的问题,应该是有一些包的版本会冲突导致的问题,希望官方能尽快给出解决答案。 transformers变为4.33.3,同时把torch和triton版本改为2.0的, 我这边可以解决上面的报错 ![image](https://github.com/baichuan-inc/Baichuan2/assets/5795101/3fea51fc-974b-4ea8-a0f1-8034e3ce0fa1)