GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
使用交流
4
14517
抓取一个高楼帖子
gdzxLyzh
于 2016-1-23 20:20
发表
[复制链接]
gdzxLyzh
积分
60
精华
0
威望
18
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
本帖最后由 ym 于 2016-2-2 10:14 编辑
常见问题
>
制作规则—常见问题导航
>
翻页采集
> 楼层很高的论坛帖子翻页抓取技巧
想抓取一个高楼帖子 ,大概10000楼。
要求抓取楼主及帖子中某2,3个ID的全部发言,用集搜客能做到吗?
能否说下大概思路?
举报
使用道具
|
回复
共 4 个关于本帖的回复 最后回复于 2016-1-23 21:13
Fuller
积分
22387
精华
0
威望
6010
金钱
6
最后登录 2024-3-29
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
Fuller
管理员
发表于 2016-1-23 20:40:10
|
显示全部楼层
论坛中盖楼很高的话,一般会分成很多页进行显示,假设一页20天,那么10000就有500个分页。你抓的网站是否这样?
这个社区中有很多翻页抓取的例子。但是在使用翻页抓取之前最好先观察一下:在浏览器中翻页看看,注意观察浏览器的地址输入栏,如果网址不断变化,比如,有个参数page=5,表示翻到5页,这种叫做有独立网址的。
有独立网址的话,你肯定能把10000个帖子一个不漏地抓下来。如果网址不变,那么必须让GooSeeker软件一口气翻页到底,要翻500页,中间不断掉,还是比较难保证的,万一网络出现超时,就断了,又得从头开始翻。
但是,如果有独立网址,如果中间断了,那么把断掉那个位置的网址添加进去生成一条线索,下次运行就从断掉的地方接上。
翻页抓取的案例参看:
http://www.gooseeker.com/doc/thread-698-1-1.html
举报
使用道具
回复
支持
反对
gdzxLyzh
积分
60
精华
0
威望
18
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
gdzxLyzh
初级会员
发表于 2016-1-23 20:55:13
|
显示全部楼层
http://www.jiaoyizhe.com/thread-1685637-1-1.html
http://www.jiaoyizhe.com/thread-1685637-2-1.html
这种论坛, 上面网址是第一页第二页。 这个应该是有独立网址吧?
举报
使用道具
回复
支持
反对
xandy
积分
3341
精华
0
威望
1128
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
xandy
论坛元老
发表于 2016-1-23 21:13:23
|
显示全部楼层
是独立的网址。
举报
使用道具
回复
支持
反对
gdzxLyzh
积分
60
精华
0
威望
18
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
gdzxLyzh
初级会员
发表于 2016-1-23 21:13:43
|
显示全部楼层
OK!
举报
使用道具
回复
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
Gephi社会网络分析-马蜂窝游记文本分词并同
Gephi社会网络分析-基于马蜂窝游记文本以词
知乎话题文本根据词语间距筛选后生成共词矩
马蜂窝游记文本分词后以词语间距为筛选条件
学习使用apriori算法挖掘关联关系
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
集搜客文本分词标注工具(V1版)
3
怎样使用快捷采集(以采集京东评论为例)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10361
访问主页>>
wangyong
帖子:1704
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2024-3-29 05:14
快速回复
快速发帖
返回顶部
返回列表
共 4 个关于本帖的回复 最后回复于 2016-1-23 21:13