FastDeploy icon indicating copy to clipboard operation
FastDeploy copied to clipboard

模型直接推理没错,服务化部署后,客户端请求后结果不对

Open IceHowe opened this issue 5 months ago • 0 comments


温馨提示:根据社区不完全统计,按照模板提问,可以加快回复和解决问题的速度


环境

  • 【FastDeploy版本】: fastdeploy:1.0.7-cpu-only-21.10
  • 【系统平台】: Linux x64(Ubuntu 22.04)
  • 【硬件】: VM虚拟机中
  • 【编译语言】: C++ / Python3.9

问题日志及出现问题的操作流程

  • 附上详细的问题日志有助于快速定位分析
  • 【模型跑不通】
    • 先执行examples下的部署示例,包括使用examples提供的模型,确认是否可以正确执行
    • 如若examples下的代码可以运行,但自己的模型,或自己的代码不能运行
      • 提供复现问题的 代码+模型+错误log,供工程师快速定位问题
  • 这是用别人写的Http请求,结果错误: image 如果用官方示例的rpc请求,报错,没有结果,好像是越界之类的

IceHowe avatar Aug 27 '24 17:08 IceHowe