roj234 comments

Results 4 comments of


                                            roj234

[Bug] 真的修了tickwarp卡了的问题么

getChunk在单人下会和本地服务端同步区块，如果本地服务端的TPS小于20客户端的tick就会等服务端赶上 PS: mixin掉！![doge](https://user-images.githubusercontent.com/82699138/230711540-a196d7a3-f29f-418b-8dff-d03afb1505c5.png)

我不是作者。在huggingface的仓库里写config.json，然后就可以加参数--model BlinkDL/rwkv-4-raven，而不需要这边做什么改动因为用的是AutoModel.from_pretrained 举例 { "_name_or_path": "THUDM/chatglm-6b", "architectures": [ "ChatGLMModel" ], "auto_map": { "AutoConfig": "configuration_chatglm.ChatGLMConfig", "AutoModel": "modeling_chatglm.ChatGLMForConditionalGeneration", "AutoModelForSeq2SeqLM": "modeling_chatglm.ChatGLMForConditionalGeneration" }, "bos_token_id": 150004, "eos_token_id": 150005, "hidden_size": 4096, "inner_hidden_size": 16384, "layernorm_epsilon":...

加入 ChatRWKV 支持，请问开发者有没有联系方式

https://github.com/roj234/ChatGLM-webui/tree/rwkv 话说rwkv的PIPELINE的sample_logits不知道为什么很卡还有猫娘真的很哲学，而且出现概率并不是很低