Yi icon indicating copy to clipboard operation
Yi copied to clipboard

Published 20 hours ago • verified publisher icon 01-ai

Yi-34B-VL 中文效果炸裂

Open lucasjinreal opened this issue 1 year ago • 9 comments

image

This should be the best Chinese VL model at the moment!

image

lucasjinreal avatar Jan 23 '24 09:01 lucasjinreal

image CUDA_VISIBLE_DEVICES=0 python single_inference.py --model-path ../Yi-VL-6B --image-file images/cats.jpg --question "Describe the cats and what they are doing in detail." 我这是真炸裂了，不知道啥情况

xmy0916 avatar Jan 23 '24 12:01 xmy0916

我跑的34b-vl，你这个是真炸了。 多测试几张图片，我发现Yi训练的这个多模态，在某些图片上容易炸

lucasjinreal avatar Jan 24 '24 02:01 lucasjinreal

我跑的34b-vl，你这个是真炸了。 多测试几张图片，我发现Yi训练的这个多模态，在某些图片上容易炸

我试了34和6都炸了 不知道啥bug

xmy0916 avatar Jan 24 '24 03:01 xmy0916

要笑喷了，蹲一个官方的回应

ericzhou571 avatar Jan 24 '24 06:01 ericzhou571

温度默认是0.2的情况下，试多次都是这样的结果吗？有改动代码和配置文件吗？

image CUDA_VISIBLE_DEVICES=0 python single_inference.py --model-path ../Yi-VL-6B --image-file images/cats.jpg --question "Describe the cats and what they are doing in detail." 我这是真炸裂了，不知道啥情况

BellaBei avatar Jan 24 '24 06:01 BellaBei

@BellaBei 什么都没改，就是flash attn的版本装不上2.3.2，装了2.0.1

xmy0916 avatar Jan 24 '24 07:01 xmy0916

同炸，很容易产生幻觉或大量重复句子

idealwei avatar Jan 24 '24 10:01 idealwei

官方科比的图片是没有问题的，换一个其他的大概率炸，98%。 不知何故

lucasjinreal avatar Jan 25 '24 02:01 lucasjinreal

怎么去多次输入进行对话呢？

zhuyr97 avatar Feb 16 '24 08:02 zhuyr97