采集图片的话设了滚屏确实比较慢点
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2016-10-8 17:36

沙发
ym 版主 发表于 2016-10-8 17:33:40 | 只看该作者
动态加载图片的网页必须滚屏,否则抓不到图片
举报 使用道具
板凳
Fuller 管理员 发表于 2016-10-8 17:34:47 | 只看该作者
大部分网站不滚屏图片不加载,会漏抓,滚屏确实慢了很多,有时候图片加载慢,还特意把滚屏次数设置大一些,更慢。如果再把滚屏速度变成负数,那么就更慢了
举报 使用道具
地板
rhymi 初级会员 发表于 2016-10-8 17:34:51 | 只看该作者
ym 发表于 2016-10-8 17:33
动态加载图片的网页必须滚屏,否则抓不到图片

好的,但是滚屏还会多次抓,滚屏你能不能设置成开关,可以定义不要每滚一次抓一次,像这种情况就会造成我们要把数据清洗再重组,会比较麻烦


举报 使用道具
5#
ym 版主 发表于 2016-10-8 17:36:04 | 只看该作者
rhymi 发表于 2016-10-8 17:34
好的,但是滚屏还会多次抓,滚屏你能不能设置成开关,可以定义不要每滚一次抓一次,像这种情况就会造成我 ...

不能,因为有些动态网页只显示当前屏幕的信息,之前加载过的信息就不再显示了,一边滚屏一边采集才能采到全部数据
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-7-21 22:18