OvercloudX
OvercloudX
> 5070ti 老哥，我也是5070ti但是没有相对应的pytorch版本可以安装啊，求教
求解，卡住两天了。 我将截断文字数量改为512了： settings.jsonc中我做了如下修改combine_msg_max_length → 512（或更高） cutoff_len → 512 per_device_train_batch_size → 1 gradient_accumulation_steps → 16 其他环境信息：| NVIDIA-SMI 575.55.01 Driver Version: 576.40 CUDA Version: 12.9 $ python3 -c "import torch; print(f'CUDA available:...
> 模型没下载完整吗 请问如何检验呢？ 如果是没下载完整，那么就是卸载重下就行对吧
> 用你下载的指令继续下就是 我人在国外所以用的huggingface下载的，我还想请问settings中要对应修改什么吗？
谢谢您，其实我已经下载了，是下载路径错了，我在settings中修改模型路径就可以运行了。 但是现在还有另一个问题，控制台显示： (.venv) overcloud@OvercloudPC:~/dev/WeClone$ weclone-cli train-sft [WeClone] I | 23:13:08 | Loading configuration from: ./settings.jsonc /home/overcloud/dev/WeClone/.venv/lib/python3.10/site-packages/torch/cuda/__init__.py:235: UserWarning: NVIDIA GeForce RTX 5070 Ti with CUDA capability sm_120 is not compatible with...
50系显卡使用最新nightly128版本亲测可用，官方网站：https://pytorch.org/get-started/locally/#start-locally 注意使用uv指令安装
个人预测要么是聊天过大要么是聊天中有不可解析的文件格式
@xaoyaoo 我将聊天记录缩减到近8个月就导出成功了，暂时没办法再复现控制台消息了不好意思。 @Thomas333333 我不确认是否是地图信息，但最后显示的TypeError: cannot unpack non-iterable NoneType object是一样的
> vllm只有清洗数据用到了啊，你把他卸载了应该就可以了 okok这样确实可以，同时我还发现50系显卡可以用uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128 这是pytorch 2.7.1稳定版本，同时支持vllm 0.9.1和50系显卡所需的cuda