xswang
Results
1
comments of
xswang
分布式算法要尽可能减少通信。ps和worker相比计算量要很多，只负责参数的存储和更新，而worker还要执行前向后向计算，特别是对于DL模型来说。可以看下我另外一个分布式DL项目： https://github.com/xswang/dataflow