Thomas Young

Results 20 comments of Thomas Young

你是哪里有问题呢?

在你截的图中没看到,你具体遇到了什么问题

你提的这个问题很好,我们的代码确实存在问题,我会抽空去看一下。谢谢!

你不仅自己解决了问题,还找到了原因,推荐你直接提个PR,我来给你审核通过,下个版本会把你作为贡献者加入到首页

首先,您使用的可能还是老版本的paddle serving吧,在新的0.7.0版本中,直接启动服务端即可支持HTTP远程访问。 https://github.com/PaddlePaddle/Serving/blob/v0.7.0/doc/C%2B%2B_Serving/Http_Service_CN.md

看着像是maven管理的io.grpc.Channel 这个jar包没下载下来,是运行时报的错对吧? 请检查一下你的maven管理的jar包是是否有这个包。

这个服务端的启动看着是正常了的,但是客户端没有连接到服务端。 1、如果开了代理的话,会出现这个问题。 2、另外请检查服务端和客户端的ip port是否对应?

https://github.com/PaddlePaddle/Serving/blob/v0.8.3/java/src/main/java/io/paddle/serving/client/Client.java

使用v0.8.3的版本就可以

worker_num是GRPC的线程数,这个主要占用CPU资源。 concurrency是你实际模型起的实例数,如果使用GPU的话,这个主要占用显存。 你可以根据你的请求最大并发数和CPU核数来确定worker_num。 根据请求最大并发数和显存来确定concurrency