采集的时候出现爬虫还有优化的空间去提高采集速度,怎么优化?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2017-10-18 17:38

沙发
bowieD 金牌会员 发表于 2017-10-18 17:38:22 | 只看该作者
本帖最后由 bowieD 于 2017-10-18 17:41 编辑

一般出现这种提示就要把打数机的定时器出发勾上,勾了定时器触发,相当于设置一个定时器,到达后就立刻执行抓取,就能达到提高爬虫速度的效果。但是网页较大的情况,加载网页的时间较长,如果启用定时器触发,可能会导致网页尚未加载完成就提前采集,而造成网页内容漏抓,所以,要测试确保数据都能抓到才设置定时器触发。其他优化速度的方法参考《怎么样优化DS打数机/爬虫参数提高抓取速度》

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-10 05:07