yinyao

前不久刚测试过，albert_tiny推理速度大概有6、7倍左右的提升，但识别效果比bert_base要差不少，albert_base识别效果差一点，推理速度比bert_base还稍微慢一点。推理速度提升目前试出来的方法大概有使用GPU、减小max_seq_length、加大batch_size。期待作者大佬的教程。

我测的albert_base训练比bert_base快很多，但推理速度并没有提升

请问改为estimate有性能提升没？遇到同样预测性能问题，数据量太大