我想采集www.wish.com这里面的产品的评论者昵称,但是评论页是瀑布流,我设置了滚动,却滚不了,采集的数据都是重复的。
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-19 15:22

沙发
Fuller 管理员 发表于 2016-10-19 15:22:34 | 只看该作者
滚屏有两类:
1)一口气滚到底,再抓取:在教程中我们称之为自动滚屏,这个是要在DS打数机菜单中设置,配置-》滚屏参数,把“滚屏次数”设置成>0的值。或者在会员中心,为特定的抓取规则设置滚屏参数,这是用于爬虫群模式的设置方式:http://www.gooseeker.com/doc/thread-1146-1-1.html

2)连续动作中的滚屏,滚一屏,抓一屏:这种用于瀑布流网页的抓取,具体参看:http://www.gooseeker.com/doc/article-141-1.html ,场景二,这种网页是滚不到底的,或者滚到下面,上面的内容就删除了,不能等滚到底才抓
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-10-28 13:32