如题
爬虫群是什么工作模式,为什么能加快爬取速度,麻烦各位大神帮忙解释一下,谢谢!
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-31 10:24

沙发
Fuller 管理员 发表于 2016-10-31 10:24:14 | 只看该作者
爬虫群多线程、多进程、分布式抓取,速度肯定快,因为并行抓取。其实爬虫群另一个更显著的优势是免维护的。用户只管做抓取规则,不用频繁手工启动爬虫。配置方法:http://www.gooseeker.com/doc/thread-1021-1-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-8-16 17:47