hellofinch
hellofinch
OCR我之前甩了一段在那个help wanted issue里,可以直接拿去用。 现在的这个pdf的解析我没看明白怎么做的,但是注意一下box的框框和ocr用的框框不太一样。box的框框我记得会小一些,不能用box的框框给ocr,会出错。
@igarca, please post a new issue in 2.0 repo. : ) This repo's issue is not active.
这个还在积极更新,对应的service可以添加,但是我个人认为可以稍微等一等。 目前看这个仓库里只有docker相关的内容,有些单薄,担心后续乏力。
https://docs.vllm.ai/en/latest/getting_started/quickstart.html#openai-compatible-server 兼容OpenAI API。如果使用最新的代码的话,可以使用openAI-liked的service,然后自行配置相关的环境变量。如果使用的是1.8.8版本的话,也可以使用openAI service,然后自行配置相关的环境变量。 @Byaidu 考虑发布个新的版本吗?这样的话兼容OpenAI API的东西都可以直接用了。
对,一样的。
1.8.8版本的时候还没有deepseek,可以通过openAI把对应的url,api key和model填上使用。 请静候新版本发布。 : )
新版本里会有,已经添加了相关的支持。 : )
Not sure. BTW, OpenAI-compatible API can use OpenAI service. This can reduce the workload for maintainers in adapting to various large model APIs. OpenAI's API is gradually becoming the mainstream...
已经有了,等待新版本发布。 如果想deepseek,可以使用openAI service自行按照温度设置URL,API和model即可。 @Byaidu 关了这个issue吧。
没太理解需求,webUI上的显示只是显示,和配置文件中的名字没啥关系。 是有什么需求一定要名称对应吗?