bolt issues

bolt的未来

1

bolt在华为内部的定位是咋样的呢，未来对hi芯片有没有可能支持？

bxkdstar123

batch inference

1

Is bolt support batch inference , could I inference 2 or more sentence at the same time ?

lishaojun412

$ ./install.sh --target=android-aarch64 --gpu [ERROR] please install llvm-ranlib tools and set shell environment PATH to find it 新版本中编译过程用到的llvm-ranlib在ndkr20版本中，不存在，应当为llvm-ar，可以复制粘贴重命名一下，建议修改一下install.sh脚本

DekkerXu

bolt编译后能在visual studio导入使用吗？

6

carter54

模型功耗分析

5

是否有FP16, INT8, Binary相同结构下的功耗对比分析数据？

happy-ngh

使用GPU算法选择文件加速模型初始化，存在corner case未被加速

1

GPU的算法文件包含algorithmMap和kernelThreadMap，当模型仅包含一些简单OP（eltwise, power等）时，不需要对tiling等参数做搜索，这时algorithmMap就是空的，kernelThreadMap中仍然包含着这些OP的local搜索结果。因此存在一种corner case：algorithmMap.size() == 0 && kernelThreadMap.size() > 0 这时`void saveMapToFile()` 就会出现bug，导致这种模型的local搜索结果不会被保存到算法文件中。从而，模型下次初始化时虽然链接了这个算法文件，仍然需要重新搜索local。这时模型的第一次执行就会非常慢。具体表现是-w 0和-w 1的执行时间差异非常明显。

chillingche