GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
登录
|
注册
快捷导航
搜索
搜索
本版
文章
帖子
用户
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
常见问题
3
3406
网页是动态的,如何采集
酱紫
于 2016-11-14 10:08
发表
[复制链接]
酱紫
积分
300
精华
0
威望
74
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
我想采集的网页时动态刷新的,这样做规则过程中网页结构变了,前面做的内容映射都失效了,求教大神这种动态网页要怎么做规则啊
举报
使用道具
|
回复
共 3 个关于本帖的回复 最后回复于 2018-4-28 10:32
quyixuan
积分
1824
精华
0
威望
606
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
quyixuan
金牌会员
发表于 2016-11-14 10:09:11
|
显示全部楼层
这边其实有个教程专门讲动态网页抓取的,你可以看看
http://www.gooseeker.com/doc/thread-945-1-1.html
举报
使用道具
回复
支持
反对
Fuller
积分
16594
精华
0
威望
3858
金钱
5
最后登录 2021-1-25
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
Fuller
管理员
发表于 2016-11-21 22:21:01
|
显示全部楼层
楼上说的是那种时时刻刻在变化的网页,要凝固住,才能定义抓取规则。
通常情况下 ,大家提到动态网页这个词是认为网络爬虫难于处理动态网页,其实对于集搜客网络爬虫来说,不管动态还是静态网页,处理方式都是一样的。不像其他网络爬虫,还要解析html,html是静态的,如果内容是javascript动态生成,普通网络爬虫就不行了,但是不影响集搜客网络爬虫的抓取,而且也不用抓包,用消息分析工具去解析每个消息参数,然后再做模拟。集搜客都不用这么麻烦,都是一致的
直观标注
,自动生成抓取规则。
举报
使用道具
回复
支持
反对
cnhhhh
积分
34
精华
0
威望
8
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
cnhhhh
新手上路
发表于 2018-4-28 10:32:58
|
显示全部楼层
楼上请看一下我刚刚发表的帖子,动态内容无法显示,也无法抓取了
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
采集图片网址并下载图片(二)——下载途牛
采集图片网址并下载图片(一)—— 单图下
定位映射采集列表数据——以B站视频列表为
网络爬虫抓包功能
内容映射
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
有没有办法采集机场的出租车信息?
3
【求助】关于采集阿里巴巴国际站访客详情分
4
集搜客文本分词标注工具(V1版)
5
新浪微博_博主主页
6
怎样使用快捷采集(以采集京东评论为例)
7
集搜客GooSeeker 网络爬虫版本发布公告
8
猫途鹰的评论星级抓取不成功,只有与我样本
9
微信数据采集攻略
10
泰國網頁資訊爬取問題
热门用户
Fuller
帖子:8871
访问主页>>
wangyong
帖子:1340
访问主页>>
ym
帖子:1678
访问主页>>
GMT+8, 2021-1-25 14:55
快速回复
快速发帖
返回顶部
返回列表
共 3 个关于本帖的回复 最后回复于 2018-4-28 10:32