Delmer Lee
Delmer Lee
mark, i need too, thanks very much
> 试试 https://req.cool/zh/docs/examples/easily-write-crawlers-with-req/ > > c := client.Clone().SetProxyURL(proxies[resp.Request.RetryAttempt-1]) // Create a client with proxy 这样每次都要开一个新的client,高并发场景下资源开销很大
> 市面上很多代理公司都在卖一种轮转代理,即代理proxyURL是固定的,每次连接都会换新的IP地址 > > 使用req库连接代理时,必须开启DisableKeepAlives(),高并发建议每个协程都创建一个新的req client > > 不然代理IP重复率较高 > > 我目前就是这样做的,如果大家有类似经验,有更好的实践可以分享一下 每次代理都会自动换新IP,为什么重复率还是很高呢?
> > > 市面上很多代理公司都在卖一种轮转代理,即代理proxyURL是固定的,每次连接都会换新的IP地址 > > > 使用req库连接代理时,必须开启DisableKeepAlives(),高并发建议每个协程都创建一个新的req client > > > 不然代理IP重复率较高 > > > 我目前就是这样做的,如果大家有类似经验,有更好的实践可以分享一下 > > > > > > 每次代理都会自动换新IP,为什么重复率还是很高呢? > > 开新的连接才会换新IP,使用老连接就还是旧IP 设置了DisableKeepAlives,每次创建新的request,同时代理支持ip轮训,就会自动换IP,我测下来是这样