Yuyi

> 建议修改configs/model_config.py中prompt_template测试看看 Yuyi ***@***.***>于2023年5月1日 周一10:09写道： > […](#) > 提供了50条问答的docx文件 数据格式为： inputs？target。 inputs？target。 100%回复都是无法根据已有信息回答 执行脚本是cli_demo.py 部署模型为ChatGLM-int4 — Reply to this email directly, view it on GitHub , or unsubscribe . You...

模板可以自己写，不局限于po主给的那些 ---原始邮件--- 发件人: ***@***.***> 发送时间: 2023年5月26日(周五) 下午3:26 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [imClumsyPanda/langchain-ChatGLM] 效果不佳几乎答不上来 (Issue #212) 有没有一些模板可以提供给大家参考，现在只有一个有点少 — Reply to this email directly, view it on GitHub, or unsubscribe....

补充输入参数如下 --per_device_train_batch_size 6 \ --gradient_accumulation_steps 1 \ --max_steps 80000 \ --save_steps 1000 \ --save_total_limit 2 \ --learning_rate 1e-4 \ --fp16 \ --remove_unused_columns false \ --logging_steps 50 \ --output_dir /tmp/output'

推理代码如下： import json import io import torch from transformers import AutoModel from transformers import AutoTokenizer from peft import PeftModel from cover_alpaca2jsonl import format_example import sys torch.set_default_tensor_type(torch.cuda.HalfTensor) model = AutoModel.from_pretrained("/tmp/pretrainmodel", trust_remote_code=True,...

I have tried placing the json file in the same directory as the program, which can run