Generating text is very slow

[xiaoyaoking]

Generating text is very slow

0%| | 0/5 [00:00<?, ?it/s]

20%|############################4 | 1/5 [00:18<01:14, 18.51s/it]

40%|########################################################8 | 2/5 [00:48<01:05, 21.87s/it]

60%|#####################################################################################2 | 3/5 [01:17<00:48, 24.17s/it]

80%|#################################################################################################################6 | 4/5 [01:51<00:26, 26.93s/it]

100%|##############################################################################################################################################| 5/5 [02:34<00:00, 31.98s/it]

[xiaoyaoking]

CPU occupancy is very high

[pencoa]

So do I, Is it support parallel generation? That is an important feature.

[breadbrowser]

CPU occupancy is very high

that's normal