快捷导航

资讯

采网址做层级采集——以大众点评为例
采网址做层级采集——以大众点评为例
一、操作步骤 前面写过两篇教程,《采集列表数据》是采集大众点评的列表页,《采集网页数据》是采集大众点评的店铺详情页,很多人想把这两个串在一起,这样就能批量采集店铺详情页的数据了。下面我们通过层级采集来 ...

2016-10-19 11:05

为采集动态网页安装和测试Python Selenium库
为采集动态网页安装和测试Python Selenium库
上一篇《为编写网络爬虫程序安装Python3.5》中测试小例子对静态网页做了一个简单的采集程序,而动态网页因为需要动态加载js获取数据,所以使用urllib直接openurl已经不能满足采集的需求了。 ...

2016-10-11 16:02

集搜客网络爬虫的核心名词
集搜客网络爬虫的核心名词
集搜客网络爬虫的操作方法很直观,想要什么,就把他们标记出来,网络爬虫就会自动把他们存下来。标记过程很自由,不讲究顺序。一、直观标注在网页上,看到想采集的内容,点击两次,就弹出一个标签,给标签起个名字。 ...

2016-10-1 12:30

为编写网络爬虫程序安装Python3.5
为编写网络爬虫程序安装Python3.5
为编写网络爬虫程序安装Python3.5。

2016-9-30 10:42

Python即时网络爬虫项目: 内容提取器的定义(Python2.7版本)
Python即时网络爬虫项目: 内容提取器的定义(Python2.7版本)
这个项目推出以后受到很大关注,因为开放源码,大家可以在现成源码基础上进一步开发。然而,Python3和Python2是有区别的,本文将发布一个Python2.7的内容提取器。 ...

2016-9-30 10:28

Python爬虫实战(4):豆瓣小组话题数据采集—动态网页
Python爬虫实战(4):豆瓣小组话题数据采集—动态网页
本实战是上图中的“独立python爬虫”的一个实例,以采集豆瓣小组讨论话题信息为例,记录整个采集流程,包括python和依赖库的安装,即便是python初学者,也可以跟着文章内容成功地完成运行。 ... ...

2016-9-30 10:17

翻页采集列表
翻页采集列表
一、操作导航图采集具有一页以上的列表网页就要设置翻页,这样DS打数机才能自动翻页采数据。选取一个具有翻页的样本网址来做规则,就可以用这个规则来批量采集同类网址(包括一页或多页)。下面用大众点评网作为案例 ...

2016-9-29 16:32

Python信息采集器使用轻量级关系型数据库SQLite
Python信息采集器使用轻量级关系型数据库SQLite
Python自带一个轻量级的关系型数据库SQLite。这一数据库使用SQL语言。

2016-9-29 15:58

Python网页信息采集:使用PhantomJS采集淘宝天猫商品内容
Python网页信息采集:使用PhantomJS采集淘宝天猫商品内容
最近一直在看Scrapy 爬虫框架,并尝试使用Scrapy框架写一个可以实现网页信息采集的简单的小程序。尝试过程中遇到了很多小问题,希望大家多多指教。

2016-9-29 15:48

让Scrapy的Spider更通用
让Scrapy的Spider更通用
GooSeeker有一个爬虫群模式,从技术实现层面来考察的话,其实就是把爬虫软件做成一个被动接受任务的执行单元,给他什么任务他就做什么任务。

2016-9-29 15:28

采集列表数据
采集列表数据
一、操作导航图 采集列表网页时,可以看到多条结构相同的信息,我们把这些结构化信息称为样例,例如,表格中的每一行就是样例,搜索结果中的每个结果也是样例。对于具有两个样例以上的网页,做上样例复制映射就能实 ...

2016-9-28 16:53

xml转换为excel
xml转换为excel
一、操作导航图 通过会员中心使xml格式转为excel格式共有两种方式,分为手工和自动,操作导航图如下: 方式一 : 方式二 : 二、操作步骤 方式1:通过数据管理手工导入数据 1.1 把xml文件打包成zip格式,不要夹杂 ...

2016-9-28 14:51

查看数据结果
查看数据结果
采集成功的话,网页数据会以xml文件形式保存在电脑的DataScraperWorks文件夹中,在DS打数机的文件菜单-存储路径中可以找到文件路径。 在对应主题名的子文件夹中会看到成功采集的xml文件,xml文件是对应网页生成的, ...

2016-9-28 11:40

DS打数机采集数据
DS打数机采集数据
DS打数机负责采集网页数据,根据不同的使用方式分为四种窗口类型,分别是管理窗口、试抓窗口、集搜窗口、爬虫群窗口。各个窗口的分布结构是一样的,只是菜单栏权限上有所不同。简介如下: 顶部是菜单栏,用于设置和 ...

2016-9-28 11:19

采集网页数据
采集网页数据
一、操作导航图 下面用大众点评网作为案例,给大家演示如何用直观标注的方式采集网页数据,操作步骤如下: 二、案例规则+操作步骤 采集规则:大众点评店铺信息(可点击下载) 样本网址:http://www.dianping.com/sho ...

2016-9-28 10:28

集搜客GooSeeker网络爬虫 ( 粤ICP备11065265号-2 )

GMT+8, 2017-7-28 08:36