每隔一个小时要抓一遍数据,怎么防止ip被封锁
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-5-31 11:32

沙发
HJLing 版主 发表于 2015-8-27 10:59:32 | 只看该作者
可以使用调度程序crontab,来控制抓取网页速度。
详细教程参见周期性网页抓取调度文件
举报 使用道具
板凳
ym 版主 发表于 2016-5-31 11:32:24 | 只看该作者
看这篇文章解决ip封锁的问题http://www.gooseeker.com/doc/thread-676-1-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-8-9 08:33