GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
请
登录
后使用快捷导航
没有帐号?
立即注册
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
使用交流
3
12878
亚马逊只有数字页码的,没有文本翻页标记,要怎么做翻页
五线音伤
于 2017-1-22 10:24
发表
[复制链接]
[只看楼主]
[打印]
[上一主题]
[下一主题]
五线音伤
积分
75
精华
0
威望
28
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
样本网址如下:
https://www.amazon.com/gp/bestsellers/kitchen/760358/ref=pd_zg_hrsr_k_1_3_last
复制代码
这个页面的页码如下图所示:
我试过用相对线索了,但是只能爬取两页的信息。
相对线索生成的规则如下图所示:
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
收藏
0
转播
支持
0
反对
0
举报
使用道具
|
回复
共 3 个关于本帖的回复 最后回复于 2017-1-22 10:46
xandy
积分
3345
精华
0
威望
1130
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
沙发
xandy
论坛元老
发表于 2017-1-22 10:32:07
|
只看该作者
本帖最后由 xandy 于 2017-1-22 10:37 编辑
可以看到,用相对线索生成的规则适应性差,li节点的id都是不一样的,而相对线索的规则里限定了路径第一个是@id='zg_page1',第2个是@id='zg_page2',所以这样的结果只能翻一次页面。这个页面的翻页有两种方法,方法一是用相对线索,方法二是生成下级线索来抓。
法一:
手工修改相对线索规则,要修改两处地方
1,定义好规则,点击MS谋数台窗口右上角的“存规则”按钮,然后再手工修改
2,第1张图红框里的规则,改成
//*[@class='zg_pagination']/li[count(./a)>0 and count(following-sibling::li[position()=1]/a)>0 and @class='zg_page zg_selected']
复制代码
3,第2张图红框里的规则,删掉and后面的部分
4,点击线索规则框右侧的“保存修改”按钮(注意,都这一步就行了,不要再点击MS谋数台窗口右上角的“存规则”按钮了,不然会把刚刚修改的规则重新覆盖成原来生成的规则)
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
举报
使用道具
回复
支持
反对
xandy
积分
3345
精华
0
威望
1130
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
板凳
xandy
论坛元老
发表于 2017-1-22 10:44:27
|
只看该作者
法二:
抓页面的独立页码
翻几次页面后,就可以发现,每翻一次页面都是都独立页码的,比如,第一页的网址如下:
https://www.amazon.com/gp/bestsellers/kitchen/760358/ref=pd_zg_hrsr_k_1_3_last#1
复制代码
第二页的网址如下:
https://www.amazon.com/gp/bestsellers/kitchen/760358/ref=pd_zg_hrsr_k_1_3_last#2
复制代码
所以你可以先建立一个规则,抓取每个页面的独立网址,然后构造下级线索,下级的主题名不变,都指向具体的数据抓取规则
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
举报
使用道具
回复
支持
反对
Fuller
积分
24062
精华
0
威望
6724
金钱
6
最后登录 2025-5-2
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
地板
Fuller
管理员
发表于 2017-1-22 10:46:08
|
只看该作者
相对线索处理这种情况不够完善,这个问题已经提交给研发,下个版本就会把相对线索自动生成算法提高了,不用手工修改规则了
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
360或火绒等杀毒软件导致GooSeeker爬虫软件
话题分析(NMF模型和LDA模型)软件的安装和
运行Apple无法验证的程序的方法
文本聚类分析软件的安装和使用方法
利用AI阅读和分析文本:扣子COZE记录用户反
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
怎样使用快捷采集(以采集京东评论为例)
3
集搜客文本分词标注工具(V1版)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10608
访问主页>>
wangyong
帖子:1737
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2025-5-3 20:47
快速回复
快速发帖
返回顶部
返回列表
共 3 个关于本帖的回复 最后回复于 2017-1-22 10:46