LLMPruner icon indicating copy to clipboard operation
LLMPruner copied to clipboard

自定义词表问题

Open 18140663659 opened this issue 2 years ago • 0 comments

我看到关闭的issues中有一个关于如何生成自定义词表的问题,我尝试按照其中提到的方法自己裁剪原生bloom的词表,遇到了以下的问题:

  1. 按造[samsha1971]提供的代码,报错: image 这个应该是merges属性导致的问题
  2. 如果将t["model"]["merges"] = [] 设置为空,encode的结果也为空;

所以想请问,手动重构词表怎么处理这些问题?

18140663659 avatar Aug 10 '23 06:08 18140663659