预测时如何设置batch？

[zailushang2006]

跑了下这个代码，请问预测时如何设置batch大小，我用训练的数据测试预测，当我要预测的数据不是按照batch大小输入时，会报下面的错误： RuntimeError(msg.format(expected_hidden_size, tuple(hx.size()))) RuntimeError: Expected hidden[0] size (2, 12, 100), got (2, 128, 100) 我用的训练的数据，只不过把batch修改成了12。

[wangyy161]

跑了下这个代码，请问预测时如何设置batch大小，我用训练的数据测试预测，当我要预测的数据不是按照batch大小输入时，会报下面的错误： RuntimeError(msg.format(expected_hidden_size, tuple(hx.size()))) RuntimeError: Expected hidden[0] size (2, 12, 100), got (2, 128, 100) 我用的训练的数据，只不过把batch修改成了12。

您好，请问您这个问题解决了吗

[zailushang2006]

跑了下这个代码，请问预测时如何设置batch大小，我用训练的数据测试预测，当我要预测的数据不是按照batch大小输入时，会报下面的错误： RuntimeError(msg.format(expected_hidden_size, tuple(hx.size()))) RuntimeError: Expected hidden[0] size (2, 12, 100), got (2, 128, 100) 我用的训练的数据，只不过把batch修改成了12。

您好，请问您这个问题解决了吗

你好，我觉得是在attention内部写死了batch size，目前还没能直接修改attention的代码，我用了个笨方法，就是加载模型后修改batch size为1，att_weight和relation_bias也全都是1个batch size，这样可以预测一条数据。代码如下： # 加载模型 model_file = os.path.normcase(r'model\model_final.pkl') model_path = os.path.join(dir_name, model_file) model = torch.load(model_path) model.batch = 1 model.att_weight = nn.Parameter(model.att_weight[-1:, :, :]) model.relation_bias = nn.Parameter(model.relation_bias[-1:, :, :]) model.eval() 也可以修改为其他的batch size，我输出了att_weight的的某些batch的值，结果都是一样的，所以可以这么处理，当然理论也是应该一样的。 但是这个方法太不优雅。现在只能凑合。

[Dwyanepeng]

跑了下这个代码，请问预测时如何设置batch大小，我用训练的数据测试预测，当我要预测的数据不是按照batch大小输入时，会报下面的错误： RuntimeError(msg.format(expected_hidden_size, tuple(hx.size()))) RuntimeError: Expected hidden[0] size (2, 12, 100), got (2, 128, 100) 我用的训练的数据，只不过把batch修改成了12。

您好，请问您这个问题解决了吗

你好，我觉得是在attention内部写死了batch size，目前还没能直接修改attention的代码，我用了个笨方法，就是加载模型后修改batch size为1，att_weight和relation_bias也全都是1个batch size，这样可以预测一条数据。代码如下：

加载模型

model_file = os.path.normcase(r'model\model_final.pkl') model_path = os.path.join(dir_name, model_file) model = torch.load(model_path) model.batch = 1 model.att_weight = nn.Parameter(model.att_weight[-1:, :, :]) model.relation_bias = nn.Parameter(model.relation_bias[-1:, :, :]) model.eval() 也可以修改为其他的batch size，我输出了att_weight的的某些batch的值，结果都是一样的，所以可以这么处理，当然理论也是应该一样的。 但是这个方法太不优雅。现在只能凑合。

你好，有完整一点的预测代码吗？

[wangyy161]

谢谢您了

在 2019-06-21 15:42:42，"Dwyanepeng" [email protected] 写道：

跑了下这个代码，请问预测时如何设置batch大小，我用训练的数据测试预测，当我要预测的数据不是按照batch大小输入时，会报下面的错误： RuntimeError(msg.format(expected_hidden_size, tuple(hx.size()))) RuntimeError: Expected hidden[0] size (2, 12, 100), got (2, 128, 100) 我用的训练的数据，只不过把batch修改成了12。

您好，请问您这个问题解决了吗

你好，我觉得是在attention内部写死了batch size，目前还没能直接修改attention的代码，我用了个笨方法，就是加载模型后修改batch size为1，att_weight和relation_bias也全都是1个batch size，这样可以预测一条数据。代码如下：

加载模型

model_file = os.path.normcase(r'model\model_final.pkl') model_path = os.path.join(dir_name, model_file) model = torch.load(model_path) model.batch = 1 model.att_weight = nn.Parameter(model.att_weight[-1:, :, :]) model.relation_bias = nn.Parameter(model.relation_bias[-1:, :, :]) model.eval() 也可以修改为其他的batch size，我输出了att_weight的的某些batch的值，结果都是一样的，所以可以这么处理，当然理论也是应该一样的。 但是这个方法太不优雅。现在只能凑合。

你好，有完整一点的预测代码吗？

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or mute the thread.