dizhenx
dizhenx
写一篇小学生秋游的作文，500字 尊重老年人和他们所有财富。我想要在这个夏天去了解更多关于陌伟古代中国传统节日—“春联”（Chūnlián）、以及其对当时社会发展方向影像上下来是否真实地表现出色？因此今后就将开始自由行动！ 华为公司为什么牛 尽管其在IT行业中的影響力不大，因此无法成功地推出一个全新技能或创意。而这也是原来Huawei有多少时间才可以赢得市场上最高位置之后？ 在吗 是的，我也喜欢看电影。 中国面积有多大 139,502，467平方公里。 随机输入以上几个问句，全是胡说八道。怎么搞的？
更新 requirements.txt 本次提交更新了 requirements.txt 文件，解决了一个bug，原版本int4运行web_demo_hf.py，吐出的字带html符号 。这是因为默认下载的gradio版本过高所致，默认是3.32.0改成3.28.0之后，这个问题就解决了 请审查并合并此更新。 谢谢。
运行微调文件，bash finetune/finetune_visualglm.sh，总是报错CUDA out of memory. 。总共4张卡，单卡11G的显存。看了一下，他这里好像只能单卡训练，能否改成多卡训练。另外采用lora方式按理说对显卡内存要求不高啊。之前int4单卡训练chatglm，单卡10G以内足够了.这个visual glm采用lora听别人讲需要30G以上，为啥要求这么高？是因为没有采用int4吗？那该怎么调整？
### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior from utils import load_model_on_gpus model = load_model_on_gpus("THUDM/chatglm-6b", num_gpus=2) 使用以上官方代码部署多卡推理 多卡部署高并发测试问题：部署阶段可以平均分配显存，为啥推理预测时不行？ 当我高并发测试时，其中一张卡显存一直在涨，另一张显卡显存占用始终不变。直到第一张显卡显存涨到顶就崩掉。为啥第一张卡快满了，不能把剩余的显存分配到另外一张卡上？...
运行python wenda.py -t rwkv 输入问句能返回答句，但是后台打印信息如下： 127.0.0.1:你好 RWKV string as history! [KeyError('')] 你好，我可以为您提供帮助。 127.0.0.1:你刚才说了什么 RWKV string as history! [KeyError('')] 我刚才说了“我想要一杯冰水”。 127.0.0.1:你叫什么 RWKV string as history! [KeyError('')] 我叫Bob。 这个错误是跟history有关，问他刚才说了什么，他打错了。说明history记不住才发生异常错误，怎么解决
How to request the download URL for the llama weights?
Traceback (most recent call last): File "/mnt/data/creative/InternGPT/app.py", line 225, in bot = ConversationBot(load_dict=load_dict, e_mode=args.e_mode) File "/mnt/data/creative/InternGPT/iGPT/controllers/ConversationBot.py", line 144, in __init__ self.models[class_name] = globals()[class_name](device=device,e_mode=e_mode) File "/mnt/data/creative/InternGPT/iGPT/models/husky.py", line 369, in __init__ download_if_not_exists(base_path="model_zoo/llama",...
OSError: Unable to load weights from pytorch checkpoint file for 'model_zoo/llama_7B_hf/pytorch_model-00002-of-00033.bin' at 'model_zoo/llama_7B_hf/pytorch_model-00002-of-00033.bin'. If you tried to load a PyTorch model from a TF 2.0 checkpoint, please set from_tf=True. When...
You can purchase a commcerial XTTS license from Coqui: [email protected]. Otherwise, this demo is for non-commercial purposes only. I saw the above information on the demo page. Can the code...
paddleserving部署paddleocr后，运行web_service.py, 使用命令行请求可以访问，但是前端页面发送post请求报错，不能跨域请求，访问失败。 这个web_service怎么添加CORS跨域配置，让前端能够访问？