FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

文本转向量的加速方法

Open Yshiboo opened this issue 7 months ago • 2 comments

我目前做的项目的一个加速的方法是,把文本转换成向量存储一下。就是说,针对BGEM3这个大模型,我只想要实现"model.encode()"来把我的文本转成向量。这样的话,有没有什么办法帮我节省一下“from FlagEmbedding import BGEM3FlagModel”的时间?就是我说不定不需要加载整个模型,只需要import一个小小的文件就可以了?“from FlagEmbedding import BGEM3FlagModel”这个会花费15s.所以我觉得说不定有什么方法可以让我不要花费这15s。 感谢回复。

Yshiboo avatar Jul 19 '24 05:07 Yshiboo