FlagEmbedding
FlagEmbedding copied to clipboard
Visualized_BGE Train
您好,我想问一下在训练过程呢各种难过stage2阶段,难样本的选择是怎么样的呢,论文中我看说是it2i是3,那么是随机选机选择3吗,t2it需要使用难样本吗, 另外我想问一下stage训练的时候是一个batch是it2i或者t2it吗,是否有其他额外的操作呢
it2i的难样本主要是通过图像编辑方式生成的,具体的细节可以参考论文中3.2.1节的内容。我们在这个文件中为每个query标注了难样本,训练的时候是从里面随机选的。 t2it可以不使用难样本,对于训练的影响不大。 stage2的训练过程中单个batch里只有it2i或者t2it。不同任务的batch交替进行训练的。