Pr pipeline stage

[zty-king]

trafficstars

PR Category

Auto Parallel

PR Types

Others

Description

优化了一些PipelineStage框架中的代码，同时提交关于PipelineStage框架的单测，对比了朴素流水并行，以及单卡视角下的训练结果loss，来验证PipelineStage框架的可行性和准确性，v-schedules需要更多的开发代码，因此此处仅对其相关的函数进行简单测试。