oneflow

oneflow copied to clipboard

Dev linalg cross

23

https://github.com/Oneflow-Inc/oneflow/issues/8898

mosout

refine error message for framework

3

为framework完善报错信息 修改文件如下： - arg_tuple.cpp - attr_map.cpp - consistency_check.cpp - device.cpp - infer_util.cpp - instruction_builder.cpp - local_tensor_infer_cache.cpp - multi_client_session_context.cpp - nd_sbp.cpp - nn_graph.cpp - sync_symbol_parallel_desc.cpp 修复functional中expand functor的一个类型错误 由于framework的检查不好对应到python代码中，单元测试仅写了分布式下placement不一致的情况

farmerzhang1

Fix loss scale precision

4

- 修复 loss scale 的不恰当精度转换 - 添加 amp_black_identity 以便在恰当时刻控制 gray node 的精度

leaves-zwx

Inplace masked fill

2


doombeaker

one_embedding support broadcast table_ids

10

支持table_ids 在batch维broadcast，即支持ids为(batch_size, n), table_ids为(n) 的case

guo-ran

strint

Split plan push and pull

4

- [x] 并行启动线程组 - [x] 每个线程读大 plan（并行读，安全），写各自的小 plan（写线程局部变量，安全） - [x] 小 plan 只包括特定 rank 需要的信息 - [x] 并行发送

strint

概述：实现了 oneflow.nansum 算子 实现： - 和 reduce_sum 思路类似，但是增加了一个 binary_func: nansum - backward 和 reduce_sum 相同，都是 ones_like - 原来的 reduce 系列算子中，当某个需要 reduce 的 dim 上的 size 为 1 时，会自动进行 memcpy 操作。这里和...

marigoold

- fix https://github.com/Oneflow-Inc/oneflow/issues/9074

small1945

Disable IB when there no active IB devices

7

当检测到任意一个节点没有活跃的IB端口时，禁用IB，以免报错 需要测试 - [ ] 任意节点无活跃端口，如果用户调用init_rdma，提示用户并忽略init_rdma - [ ] 否则，执行init_rdma

liujuncheng