11#
杜若 初级会员 发表于 2019-3-11 09:54:33 | 只看该作者
Fuller 发表于 2019-3-11 09:51
我还没有运行到那么多,说不定是网站不让翻页了,就像天猫,100页后看不到了,京东100页评论后,就一直重 ...

那为什么两次运行重复的地方不一样呢?这种情况应该怎么解决呢
举报 使用道具
12#
Fuller 管理员 发表于 2019-3-11 10:00:46 | 只看该作者

有个方法可以补充采集,另做一个规则,先点击最后一页,然后倒着翻页。最后将两种结果合并在一起,把重复的过滤掉

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
13#
杜若 初级会员 发表于 2019-3-11 10:07:38 | 只看该作者
Fuller 发表于 2019-3-11 10:00
有个方法可以补充采集,另做一个规则,先点击最后一页,然后倒着翻页。最后将两种结果合并在一起,把重复 ...

好的  我试试呢
举报 使用道具
14#
杜若 初级会员 发表于 2019-3-11 10:25:30 | 只看该作者
Fuller 发表于 2019-3-11 10:00
有个方法可以补充采集,另做一个规则,先点击最后一页,然后倒着翻页。最后将两种结果合并在一起,把重复 ...

这样倒着采集也不行呢,采集了一页就停止了,而且好像不是从最后一页开始采集的

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
15#
Fuller 管理员 发表于 2019-3-11 12:50:02 | 只看该作者
杜若 发表于 2019-3-11 10:25
这样倒着采集也不行呢,采集了一页就停止了,而且好像不是从最后一页开始采集的

...

倒着采要复杂一点,两级规则,第一级负责点击最后一页,进入第二级,才是倒着翻页
举报 使用道具
16#
杜若 初级会员 发表于 2019-3-11 13:53:39 | 只看该作者
Fuller 发表于 2019-3-11 12:50
倒着采要复杂一点,两级规则,第一级负责点击最后一页,进入第二级,才是倒着翻页
...

我觉得我不太会弄这个,感觉qq音乐的评论有点奇怪,第一页和最后一页的评论有重复,然后点击一百多页之后就刷新成正常的顺序了,而且它的不同页的网址是同一个,应该怎么采集啊file:///C:\Users\asus\AppData\Roaming\Tencent\QQ\Temp\E88GZPUWFVDHABP)KB6_FYJ.png 我试了一下倒着翻没弄对,规则应该是成都lllll
举报 使用道具
17#
Fuller 管理员 发表于 2019-3-12 09:50:57 | 只看该作者
杜若 发表于 2019-3-11 13:53
我觉得我不太会弄这个,感觉qq音乐的评论有点奇怪,第一页和最后一页的评论有重复,然后点击一百多页之后 ...


这是你的规则,用了下级线索,这是不对的。下级线索会在另外一个循环中执行,不会在当前这个窗口中连续执行。所以,要做的动作、要翻页,都不能用下级线索。

点击最后一页,应该用点击动作,在“连续动作”工作台上定义点击类动作。在连续动作工作台上定义有个好处,自己写xpath可以很灵活。

要点击到最后一页,xpath稍微有点复杂,最后一页不是你的规则中点击的“...”,而是夹在"..."和 “>”之间的那个数字,那么xpath就要参照 ... 或者 > 写,比如,参照 ...这个节点,就写成
  1. //*[@class='mod_page_nav js_pager_comment']//a[preceding-sibling::*[1]/@class='more']
复制代码

如果参照> 写,那么就是
  1. //*[@class='mod_page_nav js_pager_comment']//a[following-sibling::a[1]/span/text()='>']
复制代码


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
18#
杜若 初级会员 发表于 2019-3-12 20:58:48 | 只看该作者
Fuller 发表于 2019-3-12 09:50
这是你的规则,用了下级线索,这是不对的。下级线索会在另外一个循环中执行,不会在当前这个窗口中连续 ...

我试了你下你说的方法还是不行呢  规则是成都zz
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-6 02:53