GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
请
登录
后使用快捷导航
没有帐号?
立即注册
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
常见问题
2
17151
Timeout to loud the page/抓取失败(超时),抓取规则不合适或者超时时间设置太短
ym
于 2015-10-22 15:51
发表
[复制链接]
[只看楼主]
[打印]
[上一主题]
[下一主题]
ym
积分
5311
精华
24
威望
1760
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
本帖最后由 ym 于 2016-5-30 17:45 编辑
常见问题
>
采集数据—常见问题导航
>
采集过程的常见问题
> Timeout to loud the page/等待超时/数据抓取失败怎么解决
网页抓取规则不合适,就会抓取失败(超时),如果DS打数机的超时时间超过1分钟,就会变得好慢。
解决方案:
1)大部分是因为网页结构与规则不匹配,才会抓取失败,所以,首先要研究不合适的原因。根据DS日志中失败的线索编号,在MS谋数台上加载分析,即,使用“工具”菜单->“
加载规则
”->“按线索号”,输入某个线索号,MS谋数台会把那个网页加载上来并用抓取规则进行分析,如果规则不适合,就会提示**抓取内容定位不到,定位不到就是说结构不同或发生了变化,请根据提示修改规则或者针对网页另做规则。
2)有一个技巧可以试用,就是,选中DS打数机的“配置”->“定时器触发”。轻易不要用,但是如果发现总是抓失败(超时),就可以试试效果。比如,淘宝网页,微博网页,如果用浏览器看这样的网页,就能看到浏览器的地址输入栏那里的表示加载状态的圈一直在转,这样的网页永远加载不完,会造成DS打数机Timeout,就可以打开定时器触发。
3)修改超时时间,选择DS打数机菜单“配置”->“超时时长”,默认是60秒,不要修改小于60。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
收藏
0
转播
支持
0
反对
0
举报
|
回复
共 2 个关于本帖的回复 最后回复于 2016-11-15 11:26
Fuller
积分
24118
精华
0
威望
6748
金钱
6
最后登录 2025-5-22
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
沙发
Fuller
管理员
发表于 2016-10-10 16:48:31
|
只看该作者
DS打数机日志窗口可能收缩了,需要先打开才能看到日志。
下面是打开状态
下面是收缩状态,以及打开方法:按住边沿中间的三角符号,往上拖
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
举报
回复
支持
反对
Fuller
积分
24118
精华
0
威望
6748
金钱
6
最后登录 2025-5-22
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
板凳
Fuller
管理员
发表于 2016-11-15 11:26:01
|
只看该作者
关于提高适应性的一个全面总结《
提高规则适应性的方法有哪些?
》
举报
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
360或火绒等杀毒软件导致GooSeeker爬虫软件
话题分析(NMF模型和LDA模型)软件的安装和
运行Apple无法验证的程序的方法
文本聚类分析软件的安装和使用方法
利用AI阅读和分析文本:扣子COZE记录用户反
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
怎样使用快捷采集(以采集京东评论为例)
3
集搜客文本分词标注工具(V1版)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10616
访问主页>>
wangyong
帖子:1738
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2025-5-23 05:17
快速回复
快速发帖
返回顶部
返回列表
共 2 个关于本帖的回复 最后回复于 2016-11-15 11:26