wolfe comments

Results 32 comments of


                                            wolfe

ChatGLM模型微调问题咨询

alpaca-zh等通用数据集? 这是chatglm之前预训练过的语料吗？怎么知道模型训练过哪些语料？

ChatGLM模型微调问题咨询

以为要保留原来的对话等通用能力，是加入chatglm训练时用过的语料 -- 所以...，其实类似alpaca-zh等通用数据集，也是可以避免遗忘问题

同问... 先做关系分类，再做实体识别。这是找到最早的论文了 Extracting contextualized complex biological events with rich graph based feature sets, Bj¨orne, J.; Heimonen, J.; Ginter, F.; Airola, A.; Pahikkala, T.; and Salakoski, T. 2011. Computational Intelligence. Identifying...

V100 can not supprt load_in_4bit and fp16?

V100 does support 8bit and fp16?

upload dataset raise the error "django.db.utils.IntegrityError: CHECK constraint failed: examples_example"

just keep the these keys make it works: text, label, error_type

upload dataset raise the error "django.db.utils.IntegrityError: CHECK constraint failed: examples_example"

{"example":1, text:"您好", “label”:[], "serialno":"zx23432", "time":12324234, "other":[], "error_type":"漏召回", "predict":[]}

very slow login time and error message (Incorrect username or password, or something went wrong) when I never had the problem

same issue

关于技术报告的一些疑问

感谢解答！

关于技术报告的一些疑问

@AndrewZhe 另外， 1. S5在CAM评测上，指标达到82.14，怎么解释？训练S5的动机是什么？ 2. 在CAM评测任务上，“For the classification task about marriage (CAM), we select four kinds of causes of action, whose meanings have no overlapping to each other.”(意味着分类任务的样本之间区分度较高) 如果下游任务中，存在语义容易混淆的情况，如何解决回答不准的问题？ 3....

请问作者关于注入法律知识的continual training与有监督的指令微调两种训练方式有什么区别？

zero shot能力从哪里来？是与指令微调的任务有关吗？ #24