oranusa
oranusa
> 你指的项目也是用到了prio_box, 只是第三方人员C++推理的时候直接调用ncnn中相关prior_box了. 最近比较忙其他项目...没太多时间做具体时间测试. 实测prio_box的时间很小(大部分情况下可以忽略), 而且并不一定保证实例化一个检测器后输出的图形都是在同一尺度. C++推理可以按照自己需求更容易扩展更改(比如采用稠密anchor等). 刚刚做了测试,net的前向传播只要0.008s左右,但是光prior_box部分就用了0.14s秒左右,这个耗时对于模型的来说已经很长了。这是因为几个for循环的因素还是因为这一部分代码实在cpu中进行的?大神可有什么优化的方式,指导指导。(我在2080上测试的)
> 2060上测到的net inference占了10+ms, prior 占了40ms,prior可不可以摒弃? 其实,如果部署后图像尺寸是固定的,那prior只用执行一次
> @mcu13321 @BoyuGuan 我前几天更新了 13b 的 config.json 文件,昨天我测试了 13B 模型,发现它的效果确实是比 7B 要好的。在润色文本场景下,Kobold-Liminal Drift 效果最佳。你们可以试试更新我仓库里 13b 文件夹下的 config.json 文件,再用 Kobold-Liminal Drift 测试一下,相信会得到一个好的结果 @johnlui 楼主13b,会出现惜字如金的情况,我测试的7b 4-bit的模型,输出很短,即便提示它输出长一些也不行
> OK了,感谢 @wufxgtihub123 @wufxgtihub123 请问下这个base-id是从哪里得到的?我的只有个base-name,另外ip地址设置的位置是那些地方?,我设置server_config.p里面的DEFAULT_BIND_HOST为0.0.0.0之后就报错了
@afs I can provide more informations. #### 1. Design a rdf ontology with protege, generate a kg.owl file. > class: A B C, obejct properties: A :hasInclude B, A :hasApear...
@narlex have you met this problem: local machine test, when use usb_camera push stream, then cv2 play stream, which will get the first frame data after 8-15s (cv2.VideoCapture(rtmp_url)). but if...
神奇,重启电脑之后又好了。 --- Miraculously, it was fine again after restarting the computer.
.....又出现这个问题了,docker部署很不稳定啊 --- .....This problem occurs again, docker deployment is very unstable
the same error, have you solved it yet?
Excuse me, have you solved the problem