还有,关于封锁IP,你们这个对于网站封IP怎么解决的,就是大量抓取后网站封锁你的IP相关
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2015-12-23 11:46

沙发
Anna J 中级会员 发表于 2015-12-23 11:46:46 | 只看该作者
本帖最后由 ym 于 2016-5-31 11:33 编辑

电商网站反爬虫比较严格,爬太快的话就会封ip,但是用gooseeker的爬虫群功能,把速度设置慢点,分多个爬虫来爬,就可以降低封锁ip的风险,还可以爬到更多数据。
封锁了就清cookie,换IP(重启路由器就可以换IP),操作见http://www.gooseeker.com/doc/thread-676-1-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-8-30 14:34