FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

Visualized_BGE Train

Open zwhus opened this issue 1 year ago • 1 comments

您好,我想问一下在训练过程呢各种难过stage2阶段,难样本的选择是怎么样的呢,论文中我看说是it2i是3,那么是随机选机选择3吗,t2it需要使用难样本吗, 另外我想问一下stage训练的时候是一个batch是it2i或者t2it吗,是否有其他额外的操作呢

zwhus avatar Jul 12 '24 12:07 zwhus

it2i的难样本主要是通过图像编辑方式生成的,具体的细节可以参考论文中3.2.1节的内容。我们在这个文件中为每个query标注了难样本,训练的时候是从里面随机选的。 t2it可以不使用难样本,对于训练的影响不大。 stage2的训练过程中单个batch里只有it2i或者t2it。不同任务的batch交替进行训练的。

JUNJIE99 avatar Jul 15 '24 03:07 JUNJIE99