:显示抓取成功,还有爬虫算法需要优化,怎么办

答:显示“需要优化”的话,数据能抓下来,但是速度很慢,要等到超时了才抓。如果没有设置的话,超时时间是10分钟,很长,可以设短一些。但是,最关键是找出来为什么总是超时,总是提示需要优化。如果抓淘宝类网站,这种情况很常见,没有别的好办法。如果是普通的静态网页,这种问题就可能是规则不合适。淘宝和新浪微博类的,可以把超时设置短一些,比如,1分钟,还有一个设置 定时器触发,可以大大加快速度,但是能造成遗漏。



如果有这么一个旋转的圈的,经常会出现那个“需要优化”提示。有些网页,虽然都看到了需要的内容,但是总是旋转,那就设置 定时器触发。

那该如何设置呢?

都在配置菜单中




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-5-24 10:46

沙发
ym 版主 发表于 2016-5-24 10:46:57 | 只看该作者
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 怎样让GooSeeker分词工具使用宋体画词云图
  • 使用BERTopic时遇到的c-TF-IDF是什么?
  • gooseeker分词工具的命名实体识别和词形还
  • 怎样设置LDA模型的超参数alpha(α)和beta(
  • LDA主题分析模型到底是什么?

热门用户

GMT+8, 2026-5-23 08:31