44670

> 测试了您的falcon 7B的，发现基础问题的逻辑不如您的llama，出现大量的幻觉，是因为扩充词表后的二次预训练内容不足吗？还是其他的原因？ 有可能是falcon预训练阶段缺少中文领域的知识，所以在询问中国传统文化等知识方面，存在幻觉。我们测试了一下问falcon一些计算机专业的知识，表现似乎和LLaMA接近。 我们在考虑一些方案，争取下一版能改善中文知识薄弱的问题。

falcon模型加载时需要设置trust remote code

> > falcon模型加载时需要设置trust remote code > > huggingface上好像不能直接推理做问答 需要prompt是User: ...\nAssistant:的格式，并且最好带上system.prompt

> 相似的问题，我是模型下载到本地之后，使用AutoModelForCausalLM来加载： `model = AutoModelForCausalLM.from_pretrained( model_path, trust_remote_code=True, device_map="auto", torch_dtype=torch.bfloat16, )` model_path是我本地的目录，提示：ModuleNotFoundError: No module named 'transformers_modules.openbuddy-falcon-7b-v1。 请问在模型文件在本地时应该如何加载呢？ 好像mode_patch最后要加个`/`，我再确认一下

> > > 相似的问题，我是模型下载到本地之后，使用AutoModelForCausalLM来加载： `model = AutoModelForCausalLM.from_pretrained( model_path, trust_remote_code=True, device_map="auto", torch_dtype=torch.bfloat16, )` model_path是我本地的目录，提示：ModuleNotFoundError: No module named 'transformers_modules.openbuddy-falcon-7b-v1。 请问在模型文件在本地时应该如何加载呢？ > > > > > > 好像mode_patch最后要加个`/`，我再确认一下 > > 您是对的，需要在路径后面加个斜杠，谢谢所提供的模型，我再去体验下，希望加载路径的方式能够统一一下~ 这个貌似是hf的问题，不知道为啥llama又不需要 examples目录已经更新啦~

> raise EnvironmentError( OSError: Can't load the configuration of 'OpenBuddy/openbuddy-falcon-7b-v1.5-fp16/'. If you were trying to load it from 'https://huggingface.co/models', make sure you don't have a local directory with the same...

你好！很高兴这个项目能帮助到你。关于你的问题，我尽量给出详细的解答。 在设置FreeType中的字体像素和FB像素时，它们可能不完全匹配，这是因为我们需要确保字体能适应指定的像素大小。有时，字体在指定的像素大小中可能包含一些额外的空间（padding）。通过设置不同的像素大小，我们可以确保字体在嵌入式系统中以适当的大小显示。 face.set_var_design_coords((400,))设置设计坐标。这个参数通常用于可变字体（变体字体是具有不同轴的多个字体变体的字体文件）。在这个例子中，400可能是字重轴的一个示例值。你可以在字体的设计空间范围内选择合适的值，使字体看起来更清晰或更粗。通常，你可以在字体文件的元数据中找到这些值。具体而言，你可以查阅字体的fvar（字体变量）表或使用ftdump工具（它是FreeType库的一部分）来查看字体文件的详细信息。 关于问题3，PLANES = [(0x00, 0xFF)]表示的是Unicode平面范围。在这个例子中，范围是从0x0000到0xFFFF。在这个范围内，每个字符块包含256个字符。所以，for rune in range(p

Virtualbox's virtual graphics card may not supported

> It's not related to the guest os's driver, `virtualbox`'s implementation may not be compatitable.

建议直接用vllm推理。