weibo-search
weibo-search copied to clipboard
在运行一段时间后Mysql中没有保存爬取的数据
在爬取一个小时后,存进数据库的频率变慢,每隔大约三分钟才存入十几条,三小时后没有数据存入数据库,但控制台显示仍在爬取数据。 DOWNLOAD_DELAY 设置为10 FURTHER_THRESHOLD设置为25 目前已运行7小时控制台仍在打印爬取信息,数据库里没有新增。
你好哦,我想问一下这些代码,步骤是不是就修改settings然后运行search,我的是显示了找不到weibo package
你好哦,我想问一下这些代码,步骤是不是就修改settings然后运行search,我的是显示了找不到weibo package
对,就按步骤来在/weibo-search目录下运行scrapy crawl search,你是不是目录没对
可能是重复爬取了,所以没有存,参考 #66 。
可能是重复爬取了,所以没有存,参考 #66 。
确实是重复爬取了,感谢作者大大!