Lvjinhong
Lvjinhong
### Is there an existing issue for this? - [X] I have searched the existing issues and checked the recent builds/commits ### What happened? RuntimeError: CUDA out of memory. Tried...
我这里有一篇网文（火星的《逆天邪神》），我觉得里面的关于人物描写和对话的段落非常精彩，我想用这些自己训练一个对话模型，可以扮演里面的角色的性格或者语气，请问目前有没有这样的开源方案，或者RWKV的这个适不适用？非常感谢！ 该方案有没有提供 预处理工具这些？我需要先提取出 对每个人物的描写和对话吗 还是直接喂过去就可以，需要数据清洗什么的吗
Steps to reproduce ------------------ 1. (How do you make the issue happen? Does it happen every time you try it?) 2. (Make sure to go into as much detail as...
Hello, I am extremely interested in your great work. However, I encountered some problems in the process of replication, such as the inability to find reliable sources of training data....
我想基于vllm针对llama做一些特定优化，大佬们可以给些方向吗
您好，我对这个项目非常感兴趣，一直想要找一个可以便捷运行训练的整合包。当我在bilibili看到提供的链接https://ld.ai-hobbyist.org/时，迫不及待的下载了准备尝试。但是可惜的是 我下载到本地后 无法解压，我试了很多次但不知道是什么原因 
When specifying 'max new tokens', LightLLM's output consistently matches this maximum value. However, Transformers sometimes adjust according to the model itself, resulting in outputs shorter than the specified 'max new...
我很开心能够找到这么一个非常有趣的项目。前些日子我一直在尝试使用RWKV方面的网文模型，今天我看到这里有一个自动抽取小说结构的这么一个工作 ，感到非常激动。下面是我的一些疑问： 该工具可以单独拿出来抽取得到数据，然后我基于自己的模型去微调吗，还是说需要在ChatHaruhi中载入才可以？ ChatHaruhi的一些基础工作，比如前端，多模态demo有没有教程可以进行学习？ 另外我对火星引力的小说比较感兴趣 比如 《逆天邪神》，《网友之邪龙逆天》等等，不知道制作组有没有考虑过将其加入work list中。或者如果可以的话，我能够做些什么来参与到这个项目或者社区建设中呢