本帖最后由 ym 于 2016-5-30 17:45 编辑

常见问题 > 采集数据—常见问题导航 > 采集过程的常见问题 > Timeout to loud the page/等待超时/数据抓取失败怎么解决
网页抓取规则不合适,就会抓取失败(超时),如果DS打数机的超时时间超过1分钟,就会变得好慢。
Timeout.png

解决方案:
1)大部分是因为网页结构与规则不匹配,才会抓取失败,所以,首先要研究不合适的原因。根据DS日志中失败的线索编号,在MS谋数台上加载分析,即,使用“工具”菜单->“加载规则”->“按线索号”,输入某个线索号,MS谋数台会把那个网页加载上来并用抓取规则进行分析,如果规则不适合,就会提示**抓取内容定位不到,定位不到就是说结构不同或发生了变化,请根据提示修改规则或者针对网页另做规则。

2)有一个技巧可以试用,就是,选中DS打数机的“配置”->“定时器触发”。轻易不要用,但是如果发现总是抓失败(超时),就可以试试效果。比如,淘宝网页,微博网页,如果用浏览器看这样的网页,就能看到浏览器的地址输入栏那里的表示加载状态的圈一直在转,这样的网页永远加载不完,会造成DS打数机Timeout,就可以打开定时器触发。

3)修改超时时间,选择DS打数机菜单“配置”->“超时时长”,默认是60秒,不要修改小于60。


举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-11-15 11:26

Fuller 管理员 发表于 2016-10-10 16:48:31 | 显示全部楼层
DS打数机日志窗口可能收缩了,需要先打开才能看到日志。

下面是打开状态
DS打数机日志窗口.png

下面是收缩状态,以及打开方法:按住边沿中间的三角符号,往上拖
DS打数机日志窗口展开.png
举报 使用道具
Fuller 管理员 发表于 2016-11-15 11:26:01 | 显示全部楼层
关于提高适应性的一个全面总结《提高规则适应性的方法有哪些?
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 遇到“无法识别的应用”告警怎么办?
  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件

热门用户

GMT+8, 2024-6-15 19:23