快捷导航
1 9853

豆瓣数据采集攻略

scraper 于 2016-12-30 11:31 发表 [复制链接]
豆瓣页面的组合采集攻略如下(绿框是页面名称,橙色字体是采集结果表中的网址字段):

1、从“豆瓣_电影列表”展开采集更多页面信息
方法:从“豆瓣_电影列表”的数据表中,把“电影详情链接”这列的网址拷贝出来,然后点击“豆瓣_电影详情”的“输入多条网址”按钮,粘贴网址,就可以用后者实现批量数据采集。其它页面类似。


2、从“豆瓣_读书搜索列表”展开采集更多页面信息
方法:从“豆瓣_读书搜索列表”的数据表中,把“详情链接”这列的网址拷贝出来,然后点击“豆瓣_读书详情”的“输入多条网址”按钮,粘贴网址,就可以用后者实现批量数据采集。其它页面类似。


3、从“豆瓣小组_小组关键词搜索列表”展开采集更多页面信息
  
方法:从“豆瓣小组_小组关键词搜索列表”的数据表中,把“小组详情链接”这列的网址拷贝出来,然后点击“豆瓣小组_小组详情页面”的“输入多条网址”按钮,粘贴网址,就可以用后者实现批量数据采集。其它页面类似。


4、从“豆瓣小组_话题关键词搜索列表”展开采集更多页面信息
方法:从“豆瓣小组_话题关键词搜索列表”的数据表中,把“详情页面链接”这列的网址拷贝出来,然后点击“豆瓣小组_话题详情页面”的“输入多条网址”按钮,粘贴网址,就可以用后者实现批量数据采集。其它页面类似。



【附注】
数据DIY上可以找到很多网站下不同页面的采集入口,只要与样例网址是相同级别的网页,就可以用该页面的采集入口采集数据。因此,如果从数据DIY某个页面采集到网址,那么就可以找到该网址对应页面的采集入口,把批量网址添加进去,这也是数据DIY的出发点,让用户可以组合任意页面进行批量采集。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2021-2-26 16:33

wangyong 版主 发表于 2021-2-26 16:33:07 | 显示全部楼层
下面以采集豆瓣电影短评为例介绍采集方法
1,下载新版集搜客数据管家,从左侧工具条进入快捷采集

例如要采集《唐人街探案3》影评:https://movie.douban.com/subject/27619748/comments?status=P
2,找到社交分类下豆瓣短评采集入口,输入要采集的作品链接,启动采集

数据采集完成,可以继续用集搜客文本分析做词云图、情感分析、社会网络关系分析。

词云图

社会网络关系图

情感分析

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 中国社交用户头像选择的文化解释
  • 使用Python提取视频文件的关键帧用于视频内
  • 国内近20年媒介融合研究热点及展望——基于
  • 融合情感词典和语义规则的微博评论细粒度情
  • “笑cry点赞”还是“允悲地抱抱”:表情符

热门用户

GMT+8, 2021-10-18 06:16