DeepCTR icon indicating copy to clipboard operation
DeepCTR copied to clipboard

请问如何在线预估

Open noobJiang opened this issue 3 years ago • 4 comments

请问支持tensorflow那种javaapi类似的在线加载模型做成httpserver进行预估么

noobJiang avatar Nov 23 '20 10:11 noobJiang

你可以先用 tf.saved_model.save 将 Keras Model 保存成tf.savedmodel格式. 然后使用 TensorFlow 的 Java API 中的 SavedModelBundle 加载模型,并使用 Java API 的 Session.Runner 来预测样本做预估。

workingloong avatar Dec 05 '20 09:12 workingloong

你可以先用 tf.saved_model.save 将 Keras Model 保存成tf.savedmodel格式. 然后使用 TensorFlow 的 Java API 中的 SavedModelBundle 加载模型,并使用 Java API 的 Session.Runner 来预测样本做预估。

tf.saved_model.save 请问保存的是什么格式呢,cpkt?pb?

lonngxiang avatar Mar 05 '21 06:03 lonngxiang

直接使用model.save 将模型保存为.pb, 然后使用tf-serving 载入进行预测

duankai avatar Jun 22 '21 08:06 duankai

直接使用model.save 将模型保存为.pb, 然后使用tf-serving 载入进行预测

有案例代码吗

lonngxiang avatar Jul 02 '21 01:07 lonngxiang