Zhengxiao Du

Results 163 comments of Zhengxiao Du

没有对应的硬件所以没法测试。理论上只要能运行pytorch,那么都可以运行非量化的模型(量化的模型有部分代码是用CUDA写的)

> 看到作者刚刚回复了,我想顺便问下为什么config里面的eos_token_id和tokenizer中的eos_token_id不一致了? 这个问题已经修复了。另外,请不要在issue中提无关的问题。

1. 没有 2. 没有相关经验 建议不要使用tensorflow

请确保`./output/adgen-chatglm-6b-pt-128-2e-2/checkpoint-3000`这个目录是存在的,不然的话要换成你微调后的checkpoint目录,在`evaluate.sh`里面

`skip_init` does exist in PyTorch 2.0 (https://pytorch.org/docs/stable/generated/torch.nn.utils.skip_init.html). Are you certain of the PyTorch version you use?

使用的环境是否有GPU? 另外,请提供完整的运行时log

> 是的 有GPU > > D:\python3.9.13\python.exe D:/pythonWork/ChatGLM-6B-main/cli_demo.py Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a...

能提供一下完整的报错信息吗?主要是要看报错是在哪里触发的? 另外提供一下transformers版本?我们只保证4.27.1版本是可用的