PaddlePaddle
train_thread_num=1时如何提高多核CPU利用率
分布式训练时，配置文件中可以通过train_thread_num来控制训练线程数，但是train_thread_num是样本并行的程度，相当于有多个reader并行去读取+训练。由于batchsize很大，且是hdfs样本，内存有限，我不能将train_thread_num设置得很大，但是当train_thread_num设置较小比如=1时，只能由1核被充分利用 尝试了下设置OMP_NUM_THREADS、MKL_NUM_THREADS等方式似乎可以提高CPU占用，但是训练速度差不多（比如原本把1核占满，把这两个设置大了，96核可以几乎占满，但是速度提升不明显） 看文档说通过CPU_NUM环境变量来配置，不设置则使用所有CPU，我没有配置CPU_NUM，但是CPU占用不满，基本都在compute阶段耗时，感觉是op里的计算没有并行起来，请问有方法可以设置吗 （OMP_NUM_THREADS、MKL_NUM_THREADS这两个环境变量也是我摸出来的，感觉官方文档里并没有人让配置这两个参数）
能提供下使用的版本和代码吗？
2.2.0
CPU占用的这个问题先放一边
想问问多机用fleetrun启动的时候，Worker日志一直卡在下图
我用两台机器就能正常启动，多加几个IP就容易卡住 请问有什么办法看到具体卡在哪，或者是卡在哪台机器吗
命令： fleetrun --servers="xxx" --workers="xxxxxxx" tools/static_ps_online_trainer.py -m models/rank/xxxx.yaml
多机启动的时候，每台机器都应该有对应的worker和server端日志，可以通过查看机器日志来确定是哪台机器的问题，由于多台机器需要做一些同步通信，有可能是某台机器的问题导致训练卡住。
多机启动的时候，每台机器都应该有对应的worker和server端日志，可以通过查看机器日志来确定是哪台机器的问题，由于多台机器需要做一些同步通信，有可能是某台机器的问题导致训练卡住。
每台机器都是如图，卡在Run Online worker Begin，用的static_ps_online_trainer.py GLOO设置为False(True也一样的问题），CPU模式 所以很奇怪，定位不到哪个机器的问题，如果我就放在两台机器上，就成功了
server端的日志呢？
4个server，8个worker，均分至4台机器，server日志都是如图，worker都在Run Online worker Begin
GLOO设置为False(True也一样的问题） 这个GLOO的配置是如何设置的呢？
https://github.com/PaddlePaddle/PaddleRec/blob/b2f28c2815595924b5e060a9917b4d799c4de463/models/rank/slot_dnn/config_online.yaml#L2
参考这里的
fleetrun --servers="9.112.115.50:12226,9.112.115.51:12227,9.112.115.52:12228,9.112.115.55:12229" --workers="9.112.115.50:12230,9.112.115.50:12231,9.112.115.51:12232,9.112.115.51:12233,9.112.115.52:12234,9.112.115.52:12235,9.112.115.55:12236,9.112.115.55:12237" --http_port="12238" tools/static_ps_online_trainer.py -m models/rank/numerous_online/config_online.yaml
启动命令