GooSeeker产品资源教程视频教程使用交流资讯
开启辅助访问 切换风格

集搜客GooSeeker网络爬虫

论坛 › 搜客社区 › 使用交流
1 7267

翻页翻到最后一定会有三页重复的吗

小蜜蜂a 于 2017-10-13 11:01 发表 [复制链接] [只看楼主] [打印] [上一主题] [下一主题]
收藏 跳转到指定楼层
翻页翻到最后一定会有三页重复的吗
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2017-10-13 11:07
沙发
wangyong 版主 发表于 2017-10-13 11:07:05 | 只看该作者
本帖最后由 wangyong 于 2017-10-13 15:37 编辑

有些网页在翻到最后一页时“下一页”按钮还存在，而且可以点击，但是点击后的内容不发生变化。

这种网页如果不勾选重复内容中断就会一直在最后一页死循环。

勾上重复内容中断后，在进行翻页采集时如果出现了连续三次都采集下了相同的数据爬虫就会自动中断采集。
设置重复内容中断的方法：《单搜和爬虫群调度设置重复内容判断的方法》
举报 使用道具
回复 支持 反对
返回列表
B Color Image Link Quote Code Smilies
高级模式
您需要登录后才可以回帖 登录 | 立即注册

推荐板块

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析（NMF模型和LDA模型）软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本：扣子COZE记录用户反

热门话题

热门用户

旧版
网站
社区
支持
常见问题
视频教程
速查手册
指导书
关于
公司简介
联系方式
友情链接
关注
新浪微博

GMT+8, 2025-5-12 03:49