asyncpy icon indicating copy to clipboard operation
asyncpy copied to clipboard

是否有使用redis的计划?

Open triangle959 opened this issue 2 years ago • 1 comments

我试过这个框架,单机上确实不错,但是其他爬虫框架可以支持分布式。 我看了调度方法_process_async_callback也只是根据回调进行,是否有计划在这之前把任务放到redis中,这样可以方便分布式的运行爬虫。

triangle959 avatar May 16 '22 08:05 triangle959

感谢您的建议,起初设计时是以单机实现最大性能为目的。 后续可以添加分布式调度,谢谢关注!

lixi5338619 avatar May 16 '22 08:05 lixi5338619