注册 登录
编程论坛 Python论坛

网页信息抓太快导致封锁IP的情况,网络爬虫如何处理?

萌萌01 发布于 2018-12-05 16:56, 2189 次点击
采集一个网站太频繁,能够采集的网页越来越少,甚至会被封杀IP,只有控制好采集速度和频率才能持续地获得数据,并且,要定期清理浏览器的cookies。
3 回复
#2
幻紫灵心2018-12-06 12:52
用IP代理就不会被封ip了。。。
#3
闫哈哈2019-01-17 11:44
用代理ip, 不然就降低请求频率.
#4
潇洒水星2020-02-25 00:42
代理ip不然也可以把他的频率降低
1