本帖最后由 远大贾丽 于 2016-11-2 09:51 编辑

怎么定义层级规则?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-11-2 10:29

沙发
xandy 论坛元老 发表于 2016-11-2 10:29:38 | 只看该作者
通过层级抓取,可以将列表页面和详情页面关联起来进行两级页面的抓取。
这里有一个应用场景
第一级规则:采集大众点评的店铺列表页,同时给每个店铺加上下级线索以实现层级抓取
第二级规则:制定店铺详情页的采集规则
层级抓取的文档教程可参看:《采网址做层级采集——以大众点评为例

假如说你碰到一个应用场景,发现抓不到网址或者网址是动态跳转的,可以通过连续动作来实现连贯抓取,这里层级抓取是不适用的。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-8-19 20:59