现象:做了两级抓取规则,当抓取第二级的时候,能从DS打数机的浏览器窗口看到空白页面,而且抓取失败。用MS谋数台加载失败线索进行检查的时候,也是空白页面。

原因分析:运行第一级的时候,抓到的网址可能是无效。这种情况有可能发生,比如,一个长网页上显示了大量图片,如果没有滚屏,未被显示出来的图片的网址就可能是无效,必须设置滚屏抓取模式才能避免这个问题。

原因可能有多种,上面是一种,需要具体分析。

检查方法:把第一级抓取结果导入excel,进行排序或者筛选,看看是否有非法的网址
举报 使用道具
| 回复

共 0 个关于本帖的回复 最后回复于 2015-9-1 22:33

您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • gooseeker分词工具的命名实体识别和词形还
  • 怎样设置LDA模型的超参数alpha(α)和beta(
  • LDA主题分析模型到底是什么?
  • top2vec话题发现原理和使用方法
  • 将文本聚类和LDA分析模块安装在数据盘上的

热门用户

GMT+8, 2026-4-22 17:18