Lilong·BaiYang

update to support agent chat sft.

3

最近在基于GLM-4的智能体多轮对话任务训练过程中发现finetune.py脚本中的两个bug： 1. finetune_demo/finetune.py中： process_batch函数中，以下代码部分存在漏洞： for message in conv: message = process_message(message) loss_mask_val = False if message['role'] in ('system', 'user', 'observation') else True new_input_ids = tokenizer.apply_chat_template([message], tokenize=True, return_dict=False)[2:] 以及和process_batch_eval函数中以下代码部分存在漏洞： for message...