任务名:gb1.4
问题:一共1269页,每次都是不一定多少页就停了,而且没有报错。


举报 使用道具
| 回复

共 8 个关于本帖的回复 最后回复于 2020-5-3 22:14

沙发
Fuller 管理员 发表于 2020-5-3 07:48:50 | 只看该作者
这个网站太慢了,完整采集下来1000多页难度很大,如果中断了,看一下DS打数机底部的日志窗口,里面显示了什么内容。如果说超时了,把超时时长调大
举报 使用道具
板凳
1996zrq 初级会员 发表于 2020-5-3 09:43:34 | 只看该作者
日志窗口什么都没有写
举报 使用道具
地板
1996zrq 初级会员 发表于 2020-5-3 09:44:13 | 只看该作者
Fuller 发表于 2020-5-3 07:48
这个网站太慢了,完整采集下来1000多页难度很大,如果中断了,看一下DS打数机底部的日志窗口,里面显示了什 ...

日志窗口什么都没有写
举报 使用道具
5#
Fuller 管理员 发表于 2020-5-3 09:46:09 | 只看该作者
刚才我采集测试了,确实中间就断了,没有任何日志,在300多页的时候,应该是网站太慢了,显示不出来翻页条了
举报 使用道具
6#
1996zrq 初级会员 发表于 2020-5-3 16:00:17 | 只看该作者
Fuller 发表于 2020-5-3 09:46
刚才我采集测试了,确实中间就断了,没有任何日志,在300多页的时候,应该是网站太慢了,显示不出来翻页条 ...

那应该怎么办呀
举报 使用道具
7#
Fuller 管理员 发表于 2020-5-3 16:32:22 | 只看该作者
1996zrq 发表于 2020-5-3 16:00
那应该怎么办呀

这个网站没法应对,我看了,每个分页没有独立的网址,如果每个分页有网址,从断掉的那个分页重新采集,这个网站只能从头重新采集。

要想知道断掉的具体原因,要手工翻页,翻到断掉那里,观察数据有什么特点
举报 使用道具
8#
1996zrq 初级会员 发表于 2020-5-3 21:21:01 | 只看该作者
Fuller 发表于 2020-5-3 16:32
这个网站没法应对,我看了,每个分页没有独立的网址,如果每个分页有网址,从断掉的那个分页重新采集,这 ...

可是每次断掉的都不是一个地方是为什么啊

举报 使用道具
9#
Fuller 管理员 发表于 2020-5-3 22:14:56 | 只看该作者
1996zrq 发表于 2020-5-3 21:21
可是每次断掉的都不是一个地方是为什么啊

我估计是网站反应不过来
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-4 23:30