Paddle
Paddle copied to clipboard
[PHI] fix paddle.allclose for big tensor
PR Category
Execute Infrastructure
PR Types
Bug fixes
Description
存在的问题:
输出tensor的numel超过int的最大值时出现int溢出进而出现访存越界
修复方法:
numel超过int 最大值时使用int64 否则使用用int32
回测结果:
cuda error 700 已经修复。有一些case报invalid arguement,这不是big Tensor造成的,是allclose不支持shape不同的输入Tensors
pcard-67164
你的PR提交成功,感谢你对开源项目的贡献! 请关注后续CI自动化测试结果,详情请参考Paddle-CI手册。 Your PR has been submitted. Thanks for your contribution! Please wait for the result of CI firstly. See Paddle CI Manual for details.
/re-run all-failed
/re-run build
/re-run build
/re-run all-failed