suke

Results 22 comments of suke

> +1 同用的官方镜像

> 大家先确认一下顺序的结果是否能跟官方的 demo 对齐,如果能对齐,那就是版面顺序模型确实存在一些不好解决的 corner case。如果不能跟官方的 demo 对齐,那可能推理环境的问题 最开始那个 人家 不同的cuda环境都能跑出来不一样的顺序。我这边 版面模型运行直接在cpu上 也是乱序的。但是图片上传到官方aistudio的demo 解析是没问题的,很简单的俩行demo代码 ,加载 指定 vllm 然后 predict