如题
举报 使用道具
| 回复

共 9 个关于本帖的回复 最后回复于 2017-2-13 15:25

沙发
quyixuan 金牌会员 发表于 2017-2-13 14:36:44 | 只看该作者
DS打数机窗口下部是日志窗口,看日志可以知道失败原因
举报 使用道具
板凳
we_lol 中级会员 发表于 2017-2-13 14:37:14 | 只看该作者
quyixuan 发表于 2017-2-13 14:36
DS打数机窗口下部是日志窗口,看日志可以知道失败原因


这个日志表示什么
举报 使用道具
地板
quyixuan 金牌会员 发表于 2017-2-13 14:39:10 | 只看该作者
本帖最后由 quyixuan 于 2017-2-13 14:58 编辑
we_lol 发表于 2017-2-13 14:37
这个日志表示什么

第一条表示采集失败的原因是超时,你可以看看你设置的超时时间是不是太短了,在会员中心的调度里面

举报 使用道具
5#
we_lol 中级会员 发表于 2017-2-13 15:21:13 | 只看该作者
quyixuan 发表于 2017-2-13 14:39
第一条表示采集失败的原因是超时,你可以看看你设置的超时时间是不是太短了,在会员中心的调度里面

...


举报 使用道具
6#
quyixuan 金牌会员 发表于 2017-2-13 15:22:27 | 只看该作者

超时时间没问题
把滚屏次数设置成2试试,观察一下抓的时候,浏览器看到什么内容?正常吗?

举报 使用道具
7#
we_lol 中级会员 发表于 2017-2-13 15:23:18 | 只看该作者
quyixuan 发表于 2017-2-13 15:22
超时时间没问题
把滚屏次数设置成2试试,观察一下抓的时候,浏览器看到什么内容?正常吗?


抓取的时候出来这个
举报 使用道具
8#
quyixuan 金牌会员 发表于 2017-2-13 15:23:41 | 只看该作者
we_lol 发表于 2017-2-13 15:23
抓取的时候出来这个

这样就是被禁止了,要么输入验证码,要么抓取速度放慢
举报 使用道具
9#
we_lol 中级会员 发表于 2017-2-13 15:24:32 | 只看该作者
quyixuan 发表于 2017-2-13 15:23
这样就是被禁止了,要么输入验证码,要么抓取速度放慢

有没有那个设置,是可以在规则点击下一页的时候停顿一下
停个1,2秒,再翻页
举报 使用道具
10#
quyixuan 金牌会员 发表于 2017-2-13 15:25:38 | 只看该作者
we_lol 发表于 2017-2-13 15:24
有没有那个设置,是可以在规则点击下一页的时候停顿一下
停个1,2秒,再翻页
...


设置上滚屏次数会进一步放慢
有多重放慢采集的方法
http://www.gooseeker.com/doc/thread-4563-1-1.html

举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-5 01:50