Dinghao Zhou

Results 152 comments of Dinghao Zhou

MFU drops significantly when using megablox with more experts

any updates on this?

refactor moe of positionwise_feed_forward to let us convert onnx success

感谢 这部分最近看下 llm moe那边有标准处理方法 大概思思路是 利用one hot 代替 for

[SSL] Config for BESTRQ

Will be available in the next few days： - [x] init model: https://github.com/wenet-e2e/wenet/pull/2595 - [x] init ssl dataset https://github.com/wenet-e2e/wenet/pulls - [ ] bestrq script

[SSL] Config for BESTRQ

```yaml # network architecture # network architecture # encoder related input_dim: 80 encoder: conformer encoder_conf: output_size: 256 # dimension of attention attention_heads: 4 linear_units: 2048 # the number of units...

recognize.py --dict option

wenet 版本？ 较新版本 dict已经放到yaml里边的tokenizer里

torch.jit.Error: The following operation failed in the TorchScript interpreter.

python version?

pip install 遗漏了一些包

欢迎题pr On Wed, Jul 24, 2024, 11:57 AM Chen ***@***.***> wrote: > *Describe the bug* > pip install 安装后丢失了一些包。 > 应该是这些包没有 *init*.py 导致的 > > *To Reproduce* > import init_model...

pip install 遗漏了一些包

最新的代码 应该是可以的

streaming onnx export

最新的main是可以的

单机多卡训练H800 8块卡效率反而没有4块卡高？

分布式是如何提交命令的 csf ***@***.***> 于2024年7月18日周四 18:44写道： > 还有个问题，就是我2万小时，dynamic设为120000，8块里，算下来应该迭代7500次左右，但是我现在完成一次迭代要15000次？请问这正常吗 > > — > Reply to this email directly, view it on GitHub > , > or unsubscribe > > . > You...