我设置了清楚老数据,但是爬取下来还是有几十万条数据,唯一值应该是6000多条,请问是哪里设置有误呢?
https://artpro.com/auction-house/92pYcR1T1l?tab=3

任务名是artpro-auctionhouse1
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2023-10-7 08:48

沙发
Fuller 管理员 发表于 2023-10-7 08:48:35 | 只看该作者
我测试了一下你的规则,运行的挺好的。
1. 即使设置了清除老数据,第一条数据一直清除不了,这是正常的,特意留了一条老数据
2. 设置了连续滚屏的规则,运行之前要把爬虫的自动滚屏关掉,像下图这样设置


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • GooSeeker分词软件的tf-idf算法和特征词选
  • 边表格式和矩阵格式的共词矩阵表有什么区别
  • GooSeeker分词、情感分析和文本分析平台简
  • 聚类分析和主题分析中的特征选择参数的设置
  • 为集搜客分词和情感分析扩展模块安装情感分

热门用户

GMT+8, 2026-3-2 17:42