FlashRAG icon indicating copy to clipboard operation
FlashRAG copied to clipboard

请问generate怎么与class REPLUG_Generation(GenerationMixin)的 sample()链接的

Open zhangzhili1112 opened this issue 1 year ago • 1 comments

我在sample()中增加了print("sample"),但并没有输出。 执行python3 run_exp.py --method_name=replug --dataset_name=nq --gpu_id=0 --split=test,同一个batch中的输出确实是一样的, image 所以想知道generate和sample怎么关联的

zhangzhili1112 avatar Aug 22 '24 07:08 zhangzhili1112

generate和sample的关联代码得参考transformer的源代码中generate函数的实现: https://github.com/huggingface/transformers/blob/v4.44.1/src/transformers/generation/utils.py#L1588。

ignorejjj avatar Aug 22 '24 14:08 ignorejjj