weibo-search icon indicating copy to clipboard operation
weibo-search copied to clipboard

多进程爬虫

Open Zzzyc0528 opened this issue 3 years ago • 3 comments

作者您好,想请问一下怎么进行多进程爬虫呢?我的想法是先将程序用jupyter notebook打开,然后调用multiprocessing包,但是不知道怎么把搜索关键词传进去。。

Zzzyc0528 avatar Feb 18 '22 12:02 Zzzyc0528

这个我也不清楚,但是可能容易被限制。

dataabc avatar Feb 19 '22 05:02 dataabc

就是我看我的CPU利用率一直是个位数...感觉有点浪费资源,或许作者您有什么提高CPU利用率的办法吗?

Zzzyc0528 avatar Feb 25 '22 06:02 Zzzyc0528

我不怎么使用,你网上搜索吧,不要速度太快,否则容易被限制。

dataabc avatar Feb 26 '22 05:02 dataabc