爬虫采集可以自动翻页吗?需要一页页把网址粘贴?
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2020-4-10 15:12

沙发
lan_1985 金牌会员 发表于 2020-4-10 15:09:52 | 只看该作者
本帖最后由 lan_1985 于 2020-4-10 15:17 编辑

1、自己做规则,有  翻页教程
2、快捷采集,已做好了翻页的规则,抓取数据,根据需要选择抓取的页数。方法如下图



注明:有些网页,爬虫翻页碰到问题,可以看看每页有没有独立的网址,有的话,可以拷贝下来,找找规律,在excell中整理网址,然后全部复制一起添加到对应的规则中。


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
板凳
lan_1985 金牌会员 发表于 2020-4-10 15:11:11 | 只看该作者
做好规则,运行采集数据,爬虫就会自动翻页,不用手工添加
举报 使用道具
地板
月球漫步 中级会员 发表于 2020-4-10 15:12:00 | 只看该作者
好的,明白了,感谢。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-7-18 07:23