czhcc

[Badcase]: 使用llamafactory量化gptq时，使用2个GPU时出错

1

### Model Series Qwen2.5 ### What are the models used? qwen2.5-7b ### What is the scenario where the problem happened? 使用llamafactory将qwen2.5-7b量化为gptq ### Is this badcase known and can it be...

用qwen2微调训练出的hf转为gguf后，用ollama加载，要指定TEMPLATE才不会胡乱输出

11

### What is the issue? 而同样的gguf，用其它框架直接加载使用是正常的。 原始的qwen2模型转为gguf加载也不需要TEMPLATE参数。只有微调训练后生成的gguf要加TEMPLATE才不会胡乱输出。为什么？ ### OS Linux, Docker ### GPU Nvidia ### CPU Intel ### Ollama version 0.3.10

繁体字的识别问题

1

### Description of the bug | 错误描述 在https://www.modelscope.cn/演示环境，可以识别出繁体字“轟”，但我本地运行却不能识别。请问可能是什么原因？ ### How to reproduce the bug | 如何复现 我本地运行使用的magic-pdf.json内容： ```json { "bucket_info": { "bucket-name-1": [ "ak", "sk", "endpoint" ], "bucket-name-2": [ "ak",...

问一个小白的问题，我就是想让一些句子与另一些句子向量更接近，还有一些句子向量更远，是组织成有query，pos和neg的训练数据，微调就可以吗？

3

问一个小白的问题，我就是想让一些句子与另一些句子向量更接近，还有一些句子向量更远，是组织成有query，pos和neg的训练数据，微调就可以吗？ 训练数据中不用再加上pos_scores，neg_scores，prompt和type这些吧？ 微调时执行的命令参考 https://github.com/FlagOpen/FlagEmbedding/tree/master/examples/finetune/embedder#2-bge-m3 吗？

如题。 虽然建立了知识库，但有时想对知识库中指定的文件进行提问或检索。只要API能支持就可以。

[Question]: How can I see this effect in the enhanced image display?

1

### Self Checks - [x] I have searched for existing issues [search for existing issues](https://github.com/infiniflow/ragflow/issues), including closed ones. - [x] I confirm that I am using English to submit this...

### Self Checks - [x] I have searched for existing issues [search for existing issues](https://github.com/infiniflow/ragflow/issues), including closed ones. - [x] I confirm that I am using English to submit this...

虽然可以直接编辑组件，但通过langfuse可以随时切换提示词不同版本。 如果能把日志写写到langfuse就更好。

如果mcp的方法里没有参数，生成的tool_calls结构是不是有问题？

1

{ "role": "assistant", "tool_calls": [ { "id": "lWboz3miPJPtjP1s", "type": "function", "function": { "name": "zr6OUfHvsjgEwsS6", "arguments": "" } } ] } 例如会生成这样的内容，arguments的值是""，在传给vllm时会产生解析错误。如果是 arguments: "{}" 就正常