小歪
小歪
> @nnnnooo > 太巧了,这里有一个杭州的小伙伴 哈哈,你好啊
@fushuisha 是的
@lvshuaijun 可以啊,公众号有方法
> @dta0502 > 请问博主,您在《Scrapy中如何提高数据的插入速度》这篇博文中的**MongoDB 索引**部分为什么**添加索引**放在了`open_spider()`方法里面而不是在`process_item()`方法里? `process_item()`每次插入数据时就会创建一次索引,`open_spider()`只会创建一次
> @dta0502 > @zhangslob > 感谢博主解答! > 意思就是说`open_spider()`方法是只会调用一次,那么如果我用了`process_item()`方法创建索引,会有什么后果呢,频繁调用性能下降? 每插入一次数据就会调用一次`process_item()`,数据量大会造成数据库压力大,甚至挂掉
> @dta0502 > > @zhangslob > > > @dta0502 > > > @zhangslob > > > 感谢博主解答! > > > 意思就是说`open_spider()`方法是只会调用一次,那么如果我用了`process_item()`方法创建索引,会有什么后果呢,频繁调用性能下降? > > > > 每插入一次数据就会调用一次`process_item()`,数据量大会造成数据库压力大,甚至挂掉 > > > 这是《精通scrapy网络爬虫》书中的一个实例:...
> @dta0502 > 这篇文章对我很有帮助,我采用`FormRequest()`一直报错,但是按照大佬的说法,改成`Request()`就可以了! > 大佬,有一个关于scrapy的ua的问题请教下: > > 这是我在settings的设置: > ```python > DEFAULT_REQUEST_HEADERS = { > 'Content-Type': "application/json", > 'user-agent': 'Mozilla/5.0 (Windows NT 6.3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36',}...
> @IvesFeng > 博主之前在侧边栏分享的一个网易云音乐叫啥呀?? 我的是next主题,我搜索的是:next 增加网易云音乐
> @IvesFeng > > @zhangslob > > > @IvesFeng > > > 博主之前在侧边栏分享的一个网易云音乐叫啥呀?? > > > > 我的是next主题,我搜索的是:next 增加网易云音乐 > > 不是, 我想问你放的那首歌叫啥 这个:https://music.163.com/#/song?id=33937527
@JeffcottLu 我还不知道怎么弄这个