Chase

> 你的运行脚本里`modules_to_save="embed_tokens,lm_head"`，这两个部分不是LoRA训练。 可以考虑设置为None，看看是否能训起来。 去掉这个参数这个还是这个错误

在 [AutoDL AI算力云](https://www.autodl.com/) 上使用 **V100-32GB** 的显卡，可以正常运行。 训练后怎么转成`GGUF`格式的模型呢？

当更改默认系统提示词 `DEFAULT_SYSTEM_PROMPT` ，将其内容变多后，训练时也会报 `CUDA out of memory` 错误。

```python model = AutoModelForCausalLM.from_pretrained(model_dir, device_map='auto', torch_dtype=torch.bfloat16) ``` 将上面的代码改为 ```python model = AutoModelForCausalLM.from_pretrained(model_dir, device_map='cuda', torch_dtype=torch.half, trust_remote_code=True) ``` 重新运行，报错： > OutOfMemoryError: CUDA out of memory.

> 我重新配置环境之后可以了 请问是包的版本导致的么？我也出现这中情况了。

> 这个项目现在还能用吗，代码拉下来maven一直报错 我也是报错 ```txt Non-parseable POM D:\Repository\org\springframework\boot\spring-boot-dependencies\2.4.1\spring-boot-dependencies-2.4.1.pom: end tag name must be the same as start tag from line 114 (position: START_TAG seen ...... @114:128) ```

> [@chenmonster](https://github.com/chenmonster) 要改东西,有几个xml里面的版本需要替换升级,你可以参考这个人帖子 https://renxiaozhao.blog.csdn.net/article/details/135333257 > [!TIP] > 谢谢，本地开发环境已经正常运行了，做一个小结 #147

> [!IMPORTANT] > 报错原因手动编译的GmSSL是32位的库，需要打开 x64 Native Tools Command Prompt for VS 2022 编译x64位的库。 > 主要流程如下 ```bat rem 打开 x64 Native Tools Command Prompt for VS 2022，下载 GmSSL 源码 tag 是...

> 需要使用3.1.1版本的GmSSL, 使用gmssl version查看版本 @YZSPSJK 您好，使用3.1.1报另外一个错误 ```log gmssljni.obj : error LNK2019: 鏃犳硶瑙ｆ瀽鐨勫閮ㄧ鍙� sm3_init锛屽嚱鏁� Java_org_gmssl_GmSSLJNI_sm3_1init 涓紩鐢ㄤ簡璇ョ鍙� [C:\Users\chenc\Desktop\GmSSL-Java\target\build\gmssljni-native.vcxproj] gmssljni.obj : error LNK2019: 鏃犳硶瑙ｆ瀽鐨勫閮ㄧ鍙� sm3_update锛屽嚱鏁� Java_org_gmssl_GmSSLJNI_sm3_1update 涓紩鐢ㄤ簡璇ョ鍙� [C:\Users\chenc\Desktop\GmSSL-Java\target\build\gmssljni-native.vcxproj] gmssljni.obj : error LNK2019: 鏃犳硶瑙ｆ瀽鐨勫閮ㄧ鍙�...