GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
使用交流
2
14104
我想请问如何同时设定翻页抓取和下级线索,以便同时抓取翻页状态下的层级抓取
chromewang
于 2015-12-11 09:20
发表
[复制链接]
chromewang
积分
27
精华
0
威望
12
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
我想请问下,我是想层级抓取网页上的文档信息,先根据当前页面上的网址再抓取第二层页面上的文档信息,但是这样第一层就只能抓取当前页面了,我想把下一页的网址也抓取下来,教程上有说可以按照翻页抓取来用,但是这样就不能同时设定下级线索了,请问这样有什么办法解决吗?
举报
使用道具
|
回复
共 2 个关于本帖的回复 最后回复于 2015-12-11 10:58
ym
积分
5311
精华
24
威望
1760
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
ym
版主
发表于 2015-12-11 09:40:58
|
显示全部楼层
做完翻页线索,可以同时设定下级线索的,两者并没有冲突
举报
使用道具
回复
支持
反对
Fuller
积分
23262
精华
0
威望
6360
金钱
6
最后登录 2024-10-6
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
Fuller
管理员
发表于 2015-12-11 10:58:19
|
显示全部楼层
假设当前规则名是 A,下级是 B,
1)为A做好翻页规则,也指定了下级规则名,你就开始抓取A,
2)抓一段时间后,你在DS打数机中输入B进行查询,就能看到这个主题已经被预留好了,你再统计他的线索数,发现B的线索已经有很多了。
3)此时,你可以为B做抓取规则
4)B的规则做好以后,在DS打数机中就能抓B的线索了。
如果这个过程要做成自动化周期性增量抓取,请进入会员中心,在爬虫管理板块做爬虫调度设置:
http://www.gooseeker.com/secure/ ... Num=1&home=true
通过DS的菜单 爬虫群->调度 ,也能进入,
安排好运行时间,把DS打数机配置成爬虫群模式,就可以由自动程序接管了
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
利用AI阅读和分析文本:扣子COZE记录用户反
在网页片段内直观标注——以B站评论采集为
利用AI阅读和分析文本:使用COZE建设游记文
使用AI工具Kimi生成python代码为文本分析结
苹果mac电脑安装集搜客网络爬虫软件失败的
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
集搜客文本分词标注工具(V1版)
3
怎样使用快捷采集(以采集京东评论为例)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10536
访问主页>>
wangyong
帖子:1712
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2024-10-7 04:42
快速回复
快速发帖
返回顶部
返回列表
共 2 个关于本帖的回复 最后回复于 2015-12-11 10:58