WuJinxuan

Results 14 comments of WuJinxuan

需要额外加吗?现在的test应该都够了吧。

我看了一下你好像对我的PSGAN-NCNN和ClothingTransfer-NCNN这两个仓库都会有这个问题,ui_mainwindow.h这个文件是qt自动通过mainwindow.ui这个文件生成出来的,你可以单独编译一下.ui文件让它生成一个.h出来。

可能是qt配置有点问题,你把代码里面的qt部分都删了吧,qt也就是个界面而已,改成普通的命令行终端也能用。

这个我猜应该是zxing解码比较慢的锅,debug模型845 one-shot在100ms这个速度也可以了,实际能用了。

这几个fail掉的都是在test的时候精度不够报错的。 在fp16sa下,有几个小问题: 1. 在测试输入的blob的尺寸太大的时候,会出现fp16sa的误差超过”1“,例如把输入blob从(32,128)增大到(64,256)就有可能会出错了 2. 由于mha里面有softmax激活,所以结果数据会有一种荡来荡去的分布,在大部分的数据点都是满足精度的(这些点的数值往往在两位数的大小),但在一些较小的激活点值就会超出精度(就是fail的情况,这些数值只有零点几的大小) 3. 在失败的数值点,有一个现象就是期望值和具体计算出的值,有围绕0的趋势,就是一个是正的零点几,另一个是负的零点几 4. 就算是fail了,但最终算出来的数据跟期望数还是大差不差的 up有什么看法呢?不知道是我写的有问题,还是mha计算链太长了,全用fp16sa精度遭不住,在0周围精度崩掉了。

> 写一下 int8 的呗... 这么做和 PR 3940 是冲突的... 3940我看您好像都做完了呀,而且您的int8是naive实现呀,应该不会冲突的吧?

> > > > 没写 arm 的 int8 好嘞,不过我得先去学一下int8是咋整的

中文注释都去掉了,up有空看看代码吗😊 @nihui

For some of the metrices, I have not updated them for some time and suggest you actually test them. All the models I have used are fp16, not quantitative one.

But considering that diffusion is a noisy computational process, I don't think quantifying such data will give a good result.