一个规则对应的线索太多 ,怎么样才能并发采集,这样速度快些
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-9-28 11:22

沙发
HJLing 版主 发表于 2016-9-28 11:14:51 | 只看该作者
在高级教程学习爬虫群
举报 使用道具
板凳
Fuller 管理员 发表于 2016-9-28 11:22:02 | 只看该作者
在教程首页展开目录,高级教程第三章就是爬虫群:http://www.gooseeker.com/tuto/tutorial.html

注意,当并行的爬虫窗口开多了,被封锁的风险也大了,要注意观察爬虫的运行状态,如果很快被封锁了,就要调整爬虫窗口数量。可以多运行几台电脑,让每一台少开几个窗口
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-29 16:04