本帖最后由 HeatherZhou 于 2024-3-21 08:13 编辑

两台台电脑同时运行同一个账号下的同一个规则采取数据两台台电脑同时运行同一个账号下的同一个规则采取数据然后输出结果所有都重复了一遍,是为什么呢???不是说会自动分配网址的吗?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2024-3-21 15:24

沙发
gz51837844 管理员 发表于 2024-3-21 15:24:28 | 只看该作者
你可以按这几个字段统计下:网址,爬取时间,当前页码
如果大部分网址都在不同的时间爬取了不止一次,那就说明有重复的运行。如果有少量网址有重复,那可能是测试的原因
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-27 14:17