现象:做了两级抓取规则,当抓取第二级的时候,能从DS打数机的浏览器窗口看到空白页面,而且抓取失败。用MS谋数台加载失败线索进行检查的时候,也是空白页面。

原因分析:运行第一级的时候,抓到的网址可能是无效。这种情况有可能发生,比如,一个长网页上显示了大量图片,如果没有滚屏,未被显示出来的图片的网址就可能是无效,必须设置滚屏抓取模式才能避免这个问题。

原因可能有多种,上面是一种,需要具体分析。

检查方法:把第一级抓取结果导入excel,进行排序或者筛选,看看是否有非法的网址
举报 使用道具
| 回复

共 0 个关于本帖的回复 最后回复于 2015-9-1 22:33

您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?
  • UMAP的n_neighbors参数有什么作用?

热门用户

GMT+8, 2026-7-13 23:21