Shuli Wu

Inference speed

2

I want to know the speed of your detection... I ran the test_both_side_detection.py on the PowerEdge-R730, the fps is about 4... Looking forward to your reply, thanks!

训练epochs设置多少合适

1

目前微调数据大概5000条，我看工程里默认的训练epochs是5，我一开始理解是越大越好，但看到CSDN上有人说1~2epochs最好，请问一般设置多少合适呢？

关于微调数据集的格式

1

请问我微调Embedding模型时，按照三元组{query,pos,neg}制作数据集，query是问题，pos是答案好一点，还是答案所在的段落好一点，我的应用场景是检索增强生成

BGE Embedding是不是动态Embedding

1

请问一下，bge模型在微调时引入了句子的上下文语义信息，那么同一个词语在意思不同的句子中所表示的嵌入向量是不是就不一样了？比如说"光盘"在"我买了一张光盘"和"光盘行动"中所表示的词向量应该是不同的，只不过我们无法确切得知具体的词向量

对chat模型进行二次预训练后，自问自答

1

我在对chatglm3-6b进行二次预训练后，测试时出现自问自答的现象，请问这种情况该怎么解决