还有,关于封锁IP,你们这个对于网站封IP怎么解决的,就是大量抓取后网站封锁你的IP相关
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2015-12-23 11:46

Anna J 中级会员 发表于 2015-12-23 11:46:46 | 显示全部楼层
本帖最后由 ym 于 2016-5-31 11:33 编辑

电商网站反爬虫比较严格,爬太快的话就会封ip,但是用gooseeker的爬虫群功能,把速度设置慢点,分多个爬虫来爬,就可以降低封锁ip的风险,还可以爬到更多数据。
封锁了就清cookie,换IP(重启路由器就可以换IP),操作见http://www.gooseeker.com/doc/thread-676-1-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文
  • 使用AI工具Kimi生成python代码为文本分析结
  • 苹果mac电脑安装集搜客网络爬虫软件失败的

热门用户

GMT+8, 2024-10-7 03:01