我设置了清楚老数据,但是爬取下来还是有几十万条数据,唯一值应该是6000多条,请问是哪里设置有误呢?
https://artpro.com/auction-house/92pYcR1T1l?tab=3

任务名是artpro-auctionhouse1
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2023-10-7 08:48

沙发
Fuller 管理员 发表于 2023-10-7 08:48:35 | 只看该作者
我测试了一下你的规则,运行的挺好的。
1. 即使设置了清除老数据,第一条数据一直清除不了,这是正常的,特意留了一条老数据
2. 设置了连续滚屏的规则,运行之前要把爬虫的自动滚屏关掉,像下图这样设置


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 怎样设置LDA模型的超参数alpha(α)和beta(
  • LDA主题分析模型到底是什么?
  • top2vec话题发现原理和使用方法
  • 将文本聚类和LDA分析模块安装在数据盘上的
  • GooSeeker分词软件的tf-idf算法和特征词选

热门用户

GMT+8, 2026-4-17 18:55