imClumsyPanda

后续会开展测试，目前主要在优化langchain部分效果，如果有兴趣也欢迎提PR Elias ***@***.***>于2023年4月24日 周一16:02写道： > — > Reply to this email directly, view it on GitHub > , or > unsubscribe > > . > You are receiving this because...

建议参考一下pytorch官网关于cuda支持的内容 Wilson ***@***.***>于2023年5月14日 周日20:52写道： > 自己要安装cuda的库啊 > > 有没有详细方法呀？ > > — > Reply to this email directly, view it on GitHub > , > or unsubscribe > > ....

流式输出目前正在尝试进行适配，预计在下一版本中推出

已在v0.1.6版本中加入

Now the web UI is implemented with the separated method, cli_demo has not been updated. Will update in recent update. Wang Dong ***@***.***>于2023年4月25日 周二14:03写道： > when I play, I have...

There’s a selectbox to choose which knowledge base to use Wang Dong ***@***.***>于2023年4月26日 周三10:12写道： > @imClumsyPanda I have inspected the > webui.py. It looks like no vectorDB used too, just...

1. 可以，目前框架中embedding加载使用langchain中HuggingFaceEmbedding类，可以按照embedding的形式存储自己的embedding模型。自己训练的embedding确实对检索效果会有很大提升。 2. 需要重新定义FAISS中的similarity search相关函数，重新定义后可进行计算。 Le Ding ***@***.***>于2023年4月25日 周二14:42写道： > 请问大佬： > > 1、我能否在这套框架内使用自己训练的文本向量化模型来替代默认的text2vec-large-chinese？这将大大提高在我特定领域内知识库搜索的精准度 > 2、能否自定义我自己的相似度计算公式？替换原有的比如inner product？ > > 感谢 > > — > Reply to this email directly, view...

有问题欢迎一起讨论交流，另外如果有方案成功实现，也欢迎提PR Le Ding ***@***.***>于2023年4月25日 周二15:18写道： > > 1. 可以，目前框架中embedding加载使用langchain中HuggingFaceEmbedding类，可以按照embedding的形式存储自己的embedding模型。自己训练的embedding确实对检索效果会有很大提升。 > 2. 需要重新定义FAISS中的similarity search相关函数，重新定义后可进行计算。 Le Ding *@*. > > *>于2023年4月25日 周二14:42写道： … 请问大佬： > 1、我能否在这套框架内使用自己训练的文本向量化模型来替代默认的text2vec-large-chinese？这将大大提高在我特定领域内知识库搜索的精准度 > 2、能否自定义我自己的相似度计算公式？替换原有的比如inner product？ 感谢 — Reply...

当然可以，也欢迎有更高效的方式可以提PR 最新版项目中也弃用了RetrievalQA的方式，自己写的realted_doc到response的过程 Le Ding ***@***.***>于2023年4月27日 周四10:48写道： > @imClumsyPanda > > 大佬，我又来了，关于Faiss进行搜索这事（上方第2个问题），是否能够用我自己写的索引模型去替代Faiss呢？因为我similarity计算方式比较特殊。经尝试，通过改造Faiss的index.search函数来实现搜索的速度非常低效，不如自己写的方式快。 > 劳烦大佬解答 感谢。 > > — > Reply to this email directly, view it on GitHub > , >...

满足huggingfaceembedding加载方式的模型，直接替换就行，相似度算法在向量库的类定义里