gpt_academic icon indicating copy to clipboard operation
gpt_academic copied to clipboard

[Feature]: 针对模型配置并发上限

Open AinzRimuru opened this issue 10 months ago • 0 comments

Class | 类型

None

Feature Request | 功能请求

本地模型和在线模型的并发限制会存在非常大的差异,同时不同的在线模型彼此之间也会有较大差异。因此如果只能配置一个并发上限意味着所有所有的模型的并发将以并发量最低的模型为标准。

‎DEFAULT_WORKER_NUM 可以用字典进行替代,在切换模型时刷新并发数。

AinzRimuru avatar Feb 26 '25 15:02 AinzRimuru