lvjianjin

分享一个bert服务端基于tfserving的构建思路

1

本文作者采用flask+bert-as-serving的方式构建服务端，但是本人经过测试发现，在这个架构中在并发数量过大的情况下会出现服务端报错直接导致服务端崩溃，而不是排队等待处理。故，本人在这里跟大家分享一个以tfserving的方式构建bert模型的案例，详情请参见https://www.jianshu.com/p/383129b2bf7f

一个基于tensorflow-serving的服务端部署方案

4

https://www.jianshu.com/p/e0d9efaadb0f

内存泄漏

17

这个模型存在内存泄漏问题

感谢作者开源这么好的项目，我是基于您的项目用tensorflow2.2.0重新构建的项目，并用tensorflow-serving构建服务端，提高服务端的处理能力，与大家共享。链接：https://www.jianshu.com/p/e0d9efaadb0f

生成的字符较少时，外围框过大

2

对于那种一个框内字符较少的情况，经常会出现方框比文本长很多的情况，请问关于这个问题有什么解决方案吗