任务名:gb1.4
问题:一共1269页,每次都是不一定多少页就停了,而且没有报错。


举报 使用道具
| 回复

共 8 个关于本帖的回复 最后回复于 2020-5-3 22:14

沙发
Fuller 管理员 发表于 2020-5-3 07:48:50 | 只看该作者
这个网站太慢了,完整采集下来1000多页难度很大,如果中断了,看一下DS打数机底部的日志窗口,里面显示了什么内容。如果说超时了,把超时时长调大
举报 使用道具
板凳
1996zrq 初级会员 发表于 2020-5-3 09:43:34 | 只看该作者
日志窗口什么都没有写
举报 使用道具
地板
1996zrq 初级会员 发表于 2020-5-3 09:44:13 | 只看该作者
Fuller 发表于 2020-5-3 07:48
这个网站太慢了,完整采集下来1000多页难度很大,如果中断了,看一下DS打数机底部的日志窗口,里面显示了什 ...

日志窗口什么都没有写
举报 使用道具
5#
Fuller 管理员 发表于 2020-5-3 09:46:09 | 只看该作者
刚才我采集测试了,确实中间就断了,没有任何日志,在300多页的时候,应该是网站太慢了,显示不出来翻页条了
举报 使用道具
6#
1996zrq 初级会员 发表于 2020-5-3 16:00:17 | 只看该作者
Fuller 发表于 2020-5-3 09:46
刚才我采集测试了,确实中间就断了,没有任何日志,在300多页的时候,应该是网站太慢了,显示不出来翻页条 ...

那应该怎么办呀
举报 使用道具
7#
Fuller 管理员 发表于 2020-5-3 16:32:22 | 只看该作者
1996zrq 发表于 2020-5-3 16:00
那应该怎么办呀

这个网站没法应对,我看了,每个分页没有独立的网址,如果每个分页有网址,从断掉的那个分页重新采集,这个网站只能从头重新采集。

要想知道断掉的具体原因,要手工翻页,翻到断掉那里,观察数据有什么特点
举报 使用道具
8#
1996zrq 初级会员 发表于 2020-5-3 21:21:01 | 只看该作者
Fuller 发表于 2020-5-3 16:32
这个网站没法应对,我看了,每个分页没有独立的网址,如果每个分页有网址,从断掉的那个分页重新采集,这 ...

可是每次断掉的都不是一个地方是为什么啊

举报 使用道具
9#
Fuller 管理员 发表于 2020-5-3 22:14:56 | 只看该作者
1996zrq 发表于 2020-5-3 21:21
可是每次断掉的都不是一个地方是为什么啊

我估计是网站反应不过来
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-26 19:24