WeClone

WeClone copied to clipboard

transformers 版本问题

18

transformers 4.38.1 会报这个错 ImportError: cannot import name 'MixtralBLockSparseTop2MLP' from 'transformers.models.mixtral.modeling_mixtral' transformers 4.40.1 又会报这个错 ttributeError: module 'ml_dtypes' has no attribute 'float8_e4m3b11'. Did you mean: 'float8_e4m3fn'? Traceback (most recent call last): File...

pkr5277

这个项目把本地LLM接入微信了吗

8

是不是只是接了GPT3.5的接口，而没有接入本地模型

Chain-Mao

Mac设备支持

4

- vLLM 推理支持降级为 transforms后端推理

xming521

windows 下运行 weclone-cli make-dataset 提示 ModuleNotFoundError: No module named 'vllm._C'

12

使用的是最新的master分支，按照主页的教程一步一步安装，cuda也显示开启，但是运行到weclone-cli make-dataset 这一步提示 ModuleNotFoundError: No module named 'vllm._C'

scourgen

请求增加处理引用回复

1

聊天记录中的`"引用回复"`类型目前会被直接过滤掉，而在正常聊天中引用的回复往往是一个问题的直接回答，这应该是非常适合用于训练微调的training data。希望能在数据处理阶段对`引用回复`增加处理。

zwldarren

MacOS M3不支持

4

请问然后支持MacOS M3设备呢？

viggo-lee

huggingface也行。

la-1314

命令行调用llf试试？

xming521

xming521

微调效果反馈

5

- 微调后效果不好的欢迎反馈，让我们一起来改进，谢谢！ - QQ群：708067078 ### Discussed in https://github.com/xming521/WeClone/discussions/36 Originally posted by **xming521** April 17, 2025 微调后效果不好的欢迎反馈和讨论，让我们一起来改进，谢谢！

xming521