亿牛云爬虫代理IP有效时间如何选择

IP有效时间20秒和180秒该如何选择
20秒有效时间更短,但是可以提供的IP数量更多,180秒有效时间更长,但是可以提供的IP数量更少,除非业务采集必须,应该选择20秒代理有效时间,提供更多的IP,避免网站反爬策略。
如果请求过多会返回什么
如果开通的HTTP\HTTPS代理,系统返回429 Too Many Requests;如果开通的Socket5代理,系统会主动对TCP延迟降速,或者直接拒绝超出部分的TCP请求。这两种处理方式都不会对爬虫的运行产生影响,爬虫会根据返回结果自动重新发起请求,这是HTTP\HTTPS和Socket5的标准应答模式。

猜你喜欢

转载自blog.51cto.com/14201222/2368893
今日推荐