WenWu
Results
1
comments of
WenWu
为什么 OpenLLMLargeLanguageModel 模型计算tokens数量写死了 使用 _get_num_tokens_by_gpt2 方法？我部署了本地的千问模型，接入到本地部署的 dify，中文对话，_get_num_tokens_by_gpt2 对tokens的计算会偏大很多。导致输入内容长度严重偏小。