llm-cookbook icon indicating copy to clipboard operation
llm-cookbook copied to clipboard

Published 20 hours ago • verified publisher icon datawhalechina

Token章节疑问

Open WuShaogui opened this issue 3 months ago • 1 comments

token章节提出以下观点： image

限制token=输入+ 输出 token 数之和，但是后文max_token=1，限制模型输出1个token image

我不是专业的NLP工程师，请问这里该如何理解？

WuShaogui avatar Nov 04 '24 08:11 WuShaogui