clintlong

Results 2 issues of clintlong

外链知识库最大的问题在于问题是短文本,知识是中长文本。如何根据问题精准的搜索到对应的知识是个最大的问题。这类本地化项目不像百度,由无数的网页,基本上每个问题都可以找到对应的页面。 企业内部知识库本身就是一个个不怎么规范的文档而已,项目将整段知识向量化很可能导致搜不到或者搜不准。 大家有没有试过利用llm来提升搜索准确率,比如利用llm针对已有知识生成问题,这样子可以加一个问题-问题的匹配方式,然后给予每种匹配方式权重来得到最后的搜索结果。 或者利用llm生成关键词等

### Is your feature request related to a problem? Please describe. _No response_ ### Solutions 有人实现了基于deepspeed框架进行多机多卡推理吗? ### Additional context _No response_