hanguangmic

大佬 同样的问题有解决么

also like num_return_sequences etc, it will be very much helpfull if the api totally same as huggingface generate() function

> 您好，p-tuning v2是将prompt embeddings通过past_key_values加到模型的每一层；看了prefix tuning的代码，也是通过past_key_values加到了模型的每一层。请问一下， p-tuning v2跟prefix tuning的区别在哪里呢？琢磨了好久都没有明白。 大胆些就是一摸一样