请问,类似这种,翻页的下一页在点击第三页的时候会消失,点击了第四页后又出现,如何抓取;

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2016-9-26 10:45

沙发
Fuller 管理员 发表于 2016-9-26 10:38:51 | 只看该作者
每一页有没有独立的网址?点击以后,你观察一下浏览器的地址输入框,如果网址有变化,那么很可能有独立网址,在做翻页规则的时候就不用勾选“连贯抓取”,那么每一页都会产生一条线索,每一页都独立抓取。

为了不重复抓,在会员中心设置调度参数“激活下级线索”设置为否,就不会重复抓取
举报 使用道具
板凳
singlewalt 初级会员 发表于 2016-9-26 10:42:23 | 只看该作者
Fuller 发表于 2016-9-26 10:38
每一页有没有独立的网址?点击以后,你观察一下浏览器的地址输入框,如果网址有变化,那么很可能有独立网址 ...

每页有独立网址,谢谢,我试试
举报 使用道具
地板
Fuller 管理员 发表于 2016-9-26 10:45:43 | 只看该作者
singlewalt 发表于 2016-9-26 10:42
每页有独立网址,谢谢,我试试

在翻页区定义一个样式线索,把翻页区的所有网址采集下来,目标主题名保持不变
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • gooseeker分词工具的命名实体识别和词形还
  • 怎样设置LDA模型的超参数alpha(α)和beta(
  • LDA主题分析模型到底是什么?
  • top2vec话题发现原理和使用方法
  • 将文本聚类和LDA分析模块安装在数据盘上的

热门用户

GMT+8, 2026-5-5 00:22