zlht812

 When executing the command“”python -m fastchat.serve.model_worker --model-path E:\model\fastchat\model_weights\vicuna-7b, an error message as shown in the picture appears. Although the encoding configuration of PyCharm has been changed to UTF-8, the...

When running fine-tuning command on a single machine with a single network adapter, init_process_group is called and there is no response for a long time, which seems to be hanged....

有在官方微信群的，帮发给邀请

2

微信：zlht812 🙏

按照官方的方案已经安装没有报错，可以运行demo的页面，但点击推理时会报以下错误： Global seed set to 81808278 Building prefix dict from the default dictionary ... Loading model from cache /tmp/jieba.cache Loading model cost 0.808 seconds. Prefix dict has been built successfully....

int8量化版本finetuning报错：RuntimeError: self and mat2 must have the same dtype

6

Traceback (most recent call last): File "/data/ChatGLM-Tuning/finetune.py", line 117, in main() File "/data/ChatGLM-Tuning/finetune.py", line 110, in main trainer.train() File "/root/anaconda3/envs/aigpu310/lib/python3.10/site-packages/transformers/trainer.py", line 1662, in train return inner_training_loop( File "/root/anaconda3/envs/aigpu310/lib/python3.10/site-packages/transformers/trainer.py", line 1929,...

finetuning.py是不是不支持int8的权重，只能使用f16权重哈

2

如题，先谢为敬～

回复内容中有不间断的ping内容

1

问题:评价下李白将进酒 模型返回： : 李白是唐代著名的诗人，他的诗歌风格豪放奔放、意境深远。他的作品中充满了对自然和人生的热爱和追求，以及对社会现实的批判和反思。 在《将进酒》这首诗中，李白表达了自己对于生命短暂、世事无常的感慨。他通过饮酒来表达自己内心深处的孤独和寂寞，同时也借此抒发了对人生意义和价值观念的思考。 整首诗以: **ping - 2023-10-09 12:15:51.578513“**君不见黄河之水天上来”开始，借助黄河之水与天地相连贯通起伏的形象来表达出李白对于自然界美好与壮丽景色所产生的敬畏之情。接着又用“举杯邀明月”等词语来描绘出夜晚月光下独酌时所感受到的宁静与祥和。 整首诗中充满了豪迈、洒脱、豁达等情感色彩，展现出李白豁达乐观、不屈不挠的精神风貌。 以上内容，这个ping-的时间戳会周期性存在。各位有遇到的么