rknn_model_zoo
rknn_model_zoo copied to clipboard
lite transformer模型
我尝试在rv1126上部署官方提供的翻译模型,但是实验结果表明
是我输入的数据有问题嘛?
请问我需要怎么样去调整我的dict呢,我就是用的代码中给的示例,没有任何修改,但他依旧无法运行
无论我输入什么英文,感觉翻译的结果都是不对的,这是模型的问题嘛?但是说后处理以及数据预处理存在问题呢?
demo完全不修改 + 1.7.3的驱动(https://github.com/rockchip-linux/rknpu) + 网盘里面下载的模型,测试结果如下
看您的log,应该是bpe异常了
===================================
请输入需要翻译的英文,输入q退出:
thank you
===================================
input_word: thank
bpe as: thank
input_word: you
bpe as: you
enc input tokens:
1 1 1 1 1 1 1 1 1 1 1 1 1 17776 1252 2
Encoder preprocess use time: 27.32 ms
rknn encoder run
Encoder inference use time: 30.38 ms
rknn decoder run
918 : 7.699219
5694 : 13.140625
989 : 7.792969
2 : 8.445312
Decoder use total time: 112.78 ms
2 918 5694 989 2 1 1 1 1 1 1 1 1 1 1 1
===================================
感谢你
===================================
请输入需要翻译的英文,输入q退出:
i have a cat
===================================
input_word: i
bpe as: i
input_word: have
bpe as: have
input_word: a
bpe as: a
input_word: cat
bpe as: cat
enc input tokens:
1 1 1 1 1 1 1 1 1 1 1 1908 65 15 19619 2
Encoder preprocess use time: 11.18 ms
rknn encoder run
Encoder inference use time: 30.86 ms
rknn decoder run
881 : 4.855469
14245 : 11.125000
30 : 6.078125
21 : 7.523438
7565 : 8.125000
14245 : 10.218750
8 : 7.566406
2 : 11.671875
Decoder use total time: 226.63 ms
2 881 14245 30 21 7565 14245 8 2 1 1 1 1 1 1 1
===================================
好猫有一丝猫。
===================================
请输入需要翻译的英文,输入q退出:
q
===================================
那请问这个bpe异常该怎么去解决呢?我现在使用的是1.7.0的驱动版本,demo我没改,然后模型也是从网盘里下载的
您好,项目有点紧急,请问不改驱动的话该怎么解决这个问题呢?
关于这个bpe.txt异常的问题,我是直接用的你们demo提供的bpe.txt,请问你们在实验时使用的bpe.txt和在这个项目里面提供的是否一致?