主题:edd2
问题,用连续点击翻页,但不成功,请问问题出在哪?
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2017-6-14 20:59

沙发
shengchengx 金牌会员 发表于 2017-6-14 17:46:34 | 只看该作者
翻页直接用爬虫路线不就好了么?我刚测试用爬虫路线就可以做呢
举报 使用道具
板凳
ovna123 金牌会员 发表于 2017-6-14 18:17:43 | 只看该作者
对,想复杂了。但还是想问问网页地址有变化用连续点击是不是就不行?
举报 使用道具
地板
maomao 论坛元老 发表于 2017-6-14 20:59:20 | 只看该作者
ovna123 发表于 2017-6-14 18:17
对,想复杂了。但还是想问问网页地址有变化用连续点击是不是就不行?

不是不行,用层级采集和爬虫路线能实现的,都可以用连续动作,但是连续动作是一口气从头做到底的,这样就无法分配给其他爬虫,也就是无法并行采集,效率不够。

如果有独立网址,假设是下级内容,就用层级采集,如果是翻页,就用爬虫路线上的翻页,翻页的时候,如果选择连贯抓取,那么也是一口气翻到底,如果不是连贯抓取,那么每个分页都是一个独立线索
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-7-23 05:33