Fengyh
Results
22
comments of
Fengyh
参考huggingface在线demo的配置： args.batch_size = 1 args.seq_length = 1024 args.world_size = 1 args.use_int8 = False args.top_p = 0 args.repetition_penalty_range = 1024 args.repetition_penalty_slope = 0 args.repetition_penalty = 1.15 然后自己调节的参数部分：top_k = 10, temperature=1 @hepj987...
可以提供更多的信息吗？例如你启动脚本是什么？