在哪里可以设置翻页等待时间?翻页以后ajax还在加载数据,集搜客就停止采集了。有没有显示等待的配置?
还有自定义爬虫循环怎么写啊?教程有吗

举报 使用道具
| 回复

共 5 个关于本帖的回复 最后回复于 2017-3-14 14:16

沙发
HJLing 版主 发表于 2017-3-14 10:59:03 | 只看该作者
可以设置滚屏参数(DS-配置-滚屏参数) 让页面滚到底部再翻页
另外 你说的循环是指什么 你想要实现什么
举报 使用道具
板凳
lsm1993 新手上路 发表于 2017-3-14 11:11:15 | 只看该作者
https://xueqiu.com/S/SZ300104 这个页面。url里面没有页面参数。您能指导我一下如何完成100页翻页吗?
举报 使用道具
地板
HJLing 版主 发表于 2017-3-14 11:14:06 | 只看该作者
lsm1993 发表于 2017-3-14 11:11
https://xueqiu.com/S/SZ300104 这个页面。url里面没有页面参数。您能指导我一下如何完成100页翻页吗? ...

翻页教程http://www.gooseeker.com/doc/article-334-1.html
举报 使用道具
5#
lsm1993 新手上路 发表于 2017-3-14 11:21:59 | 只看该作者
显示抓取成功,但爬虫参数还有优化空间以提高抓取速度
举报 使用道具
6#
HJLing 版主 发表于 2017-3-14 14:16:20 | 只看该作者
lsm1993 发表于 2017-3-14 11:21
显示抓取成功,但爬虫参数还有优化空间以提高抓取速度

可以开定时器触发试试 DS-配置-定时器触发

举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-15 18:28