FATE icon indicating copy to clipboard operation
FATE copied to clipboard

fate-serving不显示load成功后模型的所有流程组件且bind的service无有效输出

Open NookLook2014 opened this issue 3 years ago • 0 comments

基础信息: FATE版本:1.8.0 (只有guest和host两方) FATE serving版本:2.1.5

复现过程: 1.模型训练 参考examples/pipeline/secure_information_retrieval/secure-information-retrieval.py,通过Pipeline训练了一个SIR模型,并且训练成功。其中的组件以此为:reader_0, datatransform_0, secure_information_retrieval_0,并记录了model_id和model_version(也是job id)。 2. 模型部署 通过flow model deploy --model-id xxx --model-version 成功部署训练的模型,并得到部署后的model_id和model_version。利用flow model get-predict-dsl 进行了检查,上述组件都有包括在内。 3.模型加载 通过flow model load -j model_version命令,成功加载deploy的模型。此时,在server admin界面显示加载的模型,但是打开模型流程Pipeline界面仅显示下图transform组件。 image

4.绑定服务 因为看到回复说有些组件不会显示,故继续通过flow model bind 命令绑定服务成功,但是在verify inference服务时候,不论如何修改参数以及调整adapter都是如下的输出 { "retcode": 0, "retmsg": "", "caseid": "", "data": { "modelId": "guest#175#guest-175#host-176#model", "modelVersion": "202206291948126305050", "timestamp": 1656503330743 }, "log": {}, "warn": {}, "flag": 0 }

另外,LR模型是可以的。所以想请问下,fate serving 2.1.5目前是不是只支持有限的模型进行在线预测。还是上述步骤有哪些问题?

NookLook2014 avatar Jun 30 '22 02:06 NookLook2014