2 9367

爬虫群与打数机

newmonica 于 2019-8-14 17:13 发表 [复制链接]
想请问一下,如果同一个任务同时使用打数机与爬虫群去进行,那线索会进行重复吗?如何分配的?


举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2019-8-15 08:29

wangyong 版主 发表于 2019-8-14 17:29:05 | 显示全部楼层
这个是启动爬虫群采集的教程:https://www.gooseeker.com/doc/article-474-1.html
1,一般正常配置的电脑建议开启6个爬虫群窗口,只要专门用来采集的高配电脑可以开20个窗口,普通电脑开这么多会崩溃
2,可以多台电脑登录同一账号加快采集速度,但是免费版只能同时登录一台
3,爬虫群和单搜同时采集不会造成重复采集,爬虫群分配任务的策略是同一进程多线程,最终队列是没有重复的
举报 使用道具
newmonica 初级会员 发表于 2019-8-15 08:29:47 | 显示全部楼层
好的,谢谢
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-3-28 19:21