:我在抓取一个需要下拉页面才能加载全部内容的网页,采集的时候它只会提取没有完全加载前的元素。怎么解决这个问题?


:可以先后尝试两个方案:
1,自动滚屏:只需在DS打数机上打开自动滚屏参数,就能在抓取的时候,先自动滚屏,再进行抓取。
但是,有些网页,滚到底下的时候,上面的就消失了,如果一直滚到底才抓取,上面的抓不全。那么用方案2
2,连续动作中的连续滚屏:滚一下抓一下,具体操作参看连续滚屏抓瀑布流的教程:http://www.gooseeker.com/doc/article-160-1.html
举报 使用道具
| 回复

共 0 个关于本帖的回复 最后回复于 2015-11-30 16:04

您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?
  • UMAP的n_neighbors参数有什么作用?
  • HDBSCAN的min_samples和min_cluster_size参

热门用户

GMT+8, 2026-7-1 13:11