weibo-search icon indicating copy to clipboard operation
weibo-search copied to clipboard

在运行一段时间后Mysql中没有保存爬取的数据

Open mtxz007 opened this issue 2 years ago • 4 comments

在爬取一个小时后,存进数据库的频率变慢,每隔大约三分钟才存入十几条,三小时后没有数据存入数据库,但控制台显示仍在爬取数据。 DOWNLOAD_DELAY 设置为10 FURTHER_THRESHOLD设置为25 目前已运行7小时控制台仍在打印爬取信息,数据库里没有新增。

mtxz007 avatar Apr 24 '22 08:04 mtxz007

你好哦,我想问一下这些代码,步骤是不是就修改settings然后运行search,我的是显示了找不到weibo package

Demonpy1 avatar Apr 24 '22 08:04 Demonpy1

你好哦,我想问一下这些代码,步骤是不是就修改settings然后运行search,我的是显示了找不到weibo package

对,就按步骤来在/weibo-search目录下运行scrapy crawl search,你是不是目录没对

mtxz007 avatar Apr 24 '22 13:04 mtxz007

可能是重复爬取了,所以没有存,参考 #66 。

dataabc avatar Apr 25 '22 11:04 dataabc

可能是重复爬取了,所以没有存,参考 #66 。

确实是重复爬取了,感谢作者大大!

mtxz007 avatar Apr 25 '22 11:04 mtxz007