bolt icon indicating copy to clipboard operation
bolt copied to clipboard

模型功耗分析

Open happy-ngh opened this issue 3 years ago • 5 comments

是否有FP16, INT8, Binary相同结构下的功耗对比分析数据?

happy-ngh avatar Jul 15 '21 02:07 happy-ngh

目前没有。

jianfeifeng avatar Jul 15 '21 08:07 jianfeifeng

这个是birealnet18在arm CPU大核上fp16和fp16+bnn的功耗对比,在小核上差异更大

image

yuxianzhi avatar Jul 19 '21 09:07 yuxianzhi

这个是birealnet18在arm CPU大核上fp16和fp16+bnn的功耗对比,在小核上差异更大

image

方便提供下CPU型号吗?另外,这里的fp16+1是指bi-real BNN Conv计算部分是BNN,其余部分为BNN?额外再问一个,FP32的是否方便测试下?

happy-ngh avatar Jul 19 '21 09:07 happy-ngh

这个是birealnet18在arm CPU大核上fp16和fp16+bnn的功耗对比,在小核上差异更大

image

非常感谢~

happy-ngh avatar Jul 19 '21 09:07 happy-ngh

这个是birealnet18在arm CPU大核上fp16和fp16+bnn的功耗对比,在小核上差异更大 image

方便提供下CPU型号吗?另外,这里的fp16+1是指bi-real BNN Conv计算部分是BNN,其余部分为BNN?额外再问一个,FP32的是否方便测试下?

这个是一个合作方测试的,应该是Armv8.2以上的CPU,kirin 990?

Conv算子是BNN,其余算子为FP16

Bolt目前arm只支持最优的fp16+1,fp32+1是弱于fp16+1的。

因为网络权限问题,通知邮箱不能及时登录,我们有一个QQ群,可以在群里问答833345709。

yuxianzhi avatar Jul 26 '21 03:07 yuxianzhi