BERT-BiLSTM-CRF-NER icon indicating copy to clipboard operation
BERT-BiLSTM-CRF-NER copied to clipboard

同一机器部署多个服务时卡住

Open LeoWood opened this issue 3 years ago • 1 comments

请问有没有试过在一台机器上开启多个服务(设置不同的端口),有一台机器最多开启5个服务,后面再开就一直停留在load pb file最后一步,一直没有出现ready and listening。查看GPU显存还有机器内存都还有很多空闲,不知道为什么。

LeoWood avatar Jul 22 '20 08:07 LeoWood

我这边测试没问题,不建议使用socket启动服务,推荐使用flask的http 服务:https://github.com/macanv/BERT-BiLSTM-CRF-NER/blob/master/bert_base/server/simple_flask_http_service.py

macanv avatar Jul 28 '20 04:07 macanv