Serving serving报维度匹配错误

serving报维度匹配错误

Open PassStory opened this issue 11 months ago • 3 comments

搭建paddle service的时候遇见问题，export model的时候我的输入设定是[None, None]，代表[batch, token_size]，在service中，preprocess函数中也是给的这个维度的数据，但是最后报这个错

Mar 19 '24 03:03 PassStory

Message that will be displayed on users' first issue

Mar 19 '24 03:03 github-actions[bot]

部分情况下，模型本身内部计算要求了Shape，这种情况下，就算导出模型设置为None, 也得按要求的shape进入输入，否则会报错。

Mar 19 '24 11:03 Jiang-Jia-Jun

也得按要求的shape进入输入

模型本身输入的设定和导出的设定是一致的，都是[batch, token_size]

Mar 20 '24 08:03 PassStory