这种页面超过10页后,postion不是连续的,不规则了,有办法可以解决吗?

我的规则名称:安居客_租房_层级



谢谢。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 7 个关于本帖的回复 最后回复于 2017-3-27 18:11

沙发
ym 版主 发表于 2016-12-29 14:28:12 | 只看该作者
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就会点到它。
你采集的安居客网页直接用记号线索或相对线索来设置翻页就好了,连续动作设置翻页的话,主要是xpath要调整一下,自动生成的不太合适。
举报 使用道具
板凳
kartik 初级会员 发表于 2016-12-29 15:18:09 | 只看该作者
ym 发表于 2016-12-29 14:28
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就 ...

谢谢,记号翻页的话,会出现漏页的情况。 比如一共50页,爬下来远没有50页,不知道有没有好的解决办法?
举报 使用道具
地板
kartik 初级会员 发表于 2016-12-29 15:48:30 | 只看该作者
ym 发表于 2016-12-29 14:28
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就 ...

用记号线索翻页会出现漏页的情况;
用相对线索翻页会出现翻页死循环的情况。
管理员有空帮我看看,多谢。
举报 使用道具
5#
ym 版主 发表于 2016-12-29 15:51:26 | 只看该作者
那你还是用相对线索吧,然后DS打数机的高级菜单勾上重复内容,这样重复采集3次后就会自动停止,最后在excel里把数据去重就好了
举报 使用道具
6#
kartik 初级会员 发表于 2016-12-29 15:56:39 | 只看该作者
ym 发表于 2016-12-29 15:51
那你还是用相对线索吧,然后DS打数机的高级菜单勾上重复内容,这样重复采集3次后就会自动停止,最后在excel ...

比如前面10页,一直在重复抓取,这样3次重复停止了,第10页后面的还没有抓取呢
举报 使用道具
7#
ym 版主 发表于 2016-12-29 16:05:26 | 只看该作者
好吧,安居客每一页都有独立网址的,你把每页的网址整理出来,直接添加到规则里,同时删掉翻页设置,就可以单页采集,不用担心重复的问题,构造页码网址的操作参考http://www.gooseeker.com/doc/thread-1299-1-1.html
举报 使用道具
8#
kartik 初级会员 发表于 2016-12-29 16:20:17 | 只看该作者
ym 发表于 2016-12-29 16:05
好吧,安居客每一页都有独立网址的,你把每页的网址整理出来,直接添加到规则里,同时删掉翻页设置,就可以 ...

这是一种方法,只是麻烦了点,不大自动化。
谢谢。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-5 01:58