在爬取一个网站的时候,需要翻页爬数相关数据,但是这个网站的翻页很有特点,翻页的时候是数字翻页,但用相对线索定位当前页和下一页不会翻页;当页码到显示的最后一页时,要看后面的页数,是将鼠标悬停在一个向右的双箭头上面,页码下面的滚动条会自动向后滚动页数,这样的情况如果要翻页要用什么办法才行呢?(附件页站:http://dl.3dmgame.com/pc/rpg)

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2018-7-3 09:22

沙发
yangwenge 金牌会员 发表于 2018-7-3 09:22:38 | 只看该作者
这个网站每一页都有独立的链接,可以不用做翻页,通过构造网址得到每一页的链接,并将其添加到采集规则中。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-7-20 07:24