BERT_Chinese_Classification icon indicating copy to clipboard operation
BERT_Chinese_Classification copied to clipboard

Published 20 hours ago • verified publisher icon renxingkai

预测特别慢

Open Biaocsu opened this issue 5 years ago • 2 comments

你好，我使用你的代码intent.py对一个一个txt长文本进行预测，发现预测速度超级慢，一个文件估计要半分钟，很不合理，但是我没有检查出哪里有问题，你知道大概哪里有问题吗？（我利用pytorch版本的bert进行预测时一个txt长文本大约0.2秒）

Biaocsu avatar Jun 24 '19 09:06 Biaocsu

预测代码有点问题，我修正了，但是现在预测一个长文本平均还是需要5s，这和pytorch相差较大，理论来说就算是CPU也不会这么慢

Biaocsu avatar Jun 25 '19 01:06 Biaocsu

能方便告知一下如何修改的吗？

Adherer avatar Aug 26 '19 05:08 Adherer