-
- 翻页采集列表
-
一、操作导航图采集具有一页以上的列表网页就要设置翻页，这样DS打数机才能自动翻页采数据。选取一个具有翻页的样本网址来做规则，就可以用这个规则来批量采集同类网址（包括一页或多页）。下面用大众点评网作为案例 ...
2016-9-29 16:32
-
- Python信息采集器使用轻量级关系型数据库SQLite
-
Python自带一个轻量级的关系型数据库SQLite。这一数据库使用SQL语言。
2016-9-29 15:58
-
- Python网页信息采集：使用PhantomJS采集淘宝天猫商品内容
-
最近一直在看Scrapy 爬虫框架，并尝试使用Scrapy框架写一个可以实现网页信息采集的简单的小程序。尝试过程中遇到了很多小问题，希望大家多多指教。
2016-9-29 15:48
-
- 让Scrapy的Spider更通用
-
GooSeeker有一个爬虫群模式，从技术实现层面来考察的话，其实就是把爬虫软件做成一个被动接受任务的执行单元，给他什么任务他就做什么任务。
2016-9-29 15:28
-
- 采集列表数据
-
一、操作导航图 采集列表网页时，可以看到多条结构相同的信息，我们把这些结构化信息称为样例，例如，表格中的每一行就是样例，搜索结果中的每个结果也是样例。对于具有两个样例以上的网页，做上样例复制映射就能实 ...
2016-9-28 16:53
-
- xml转换为excel
-
一、操作导航图 通过会员中心使xml格式转为excel格式共有两种方式，分为手工和自动，操作导航图如下： 方式一 ： 方式二 ： 二、操作步骤 方式1：通过数据管理手工导入数据 1.1 把xml文件打包成zip格式，不要夹杂 ...
2016-9-28 14:51
-
- 查看数据结果
-
采集成功的话，网页数据会以xml文件形式保存在电脑的DataScraperWorks文件夹中，在DS打数机的文件菜单-存储路径中可以找到文件路径。 在对应主题名的子文件夹中会看到成功采集的xml文件，xml文件是对应网页生成的， ...
2016-9-28 11:40
-
- DS打数机采集数据
-
DS打数机负责采集网页数据，根据不同的使用方式分为四种窗口类型，分别是管理窗口、试抓窗口、集搜窗口、爬虫群窗口。各个窗口的分布结构是一样的，只是菜单栏权限上有所不同。简介如下： 顶部是菜单栏，用于设置和 ...
2016-9-28 11:19
-
- 采集网页数据
-
一、操作导航图 下面用大众点评网作为案例，给大家演示如何用直观标注的方式采集网页数据，操作步骤如下： 二、案例规则+操作步骤 采集规则：大众点评店铺信息（可点击下载） 样本网址：http://www.dianping.com/sho ...
2016-9-28 10:28
-
- API例子：用Python驱动Firefox采集网页数据
-
本文讲解怎样用Python驱动Firefox浏览器写一个简易的网页数据采集器。开源Python即时网络爬虫项目将与Scrapy（基于twisted的异步网络框架）集成。
2016-9-28 09:59
-
- API例子：用Java/JavaScript下载内容提取器
-
本文讲解怎样用Java和JavaScript使用 GooSeeker API 接口下载内容提取器，这是一个示例程序。
2016-9-27 18:10
-
- Python即时网络爬虫：API说明—下载内容提取器
-
这个XSLT提取器可以是您用MS谋数台生成的，也可以是其他人共享给您的，只要您有读权限，皆可下载使用。
2016-9-27 17:53
-
- Python: xml转json
-
在web集成和网站前端领域，json越来越普遍，在Scrapy架构中，Scrapy dict数据结构本质上就是json，所以，由XML格式转换成JSON格式很有必要。
2016-9-27 17:43
-
- Scrapy：Python3下的第一次运行测试
-
《Scrapy的架构初探》一文讲解了Scrapy的架构，本文就实际来安装运行一下Scrapy爬虫。本文以官网的tutorial作为例子，完整的代码可以在github上下载。
2016-9-27 17:33
-
- Scrapy入门程序点评
-
在Scrapy的架构初探一文，我基于爬虫开发的经验对Scrapy官网文章作了点评和解读，事件驱动的异步处理架构、极强的模块化等是个绝好的框架。
2016-9-27 17:28
