在抓取的过程中,微博内容太长导致页面显示“展开全文”,最后的数据中也有这几个字,如何才能把微博内容全部抓取呢?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2017-12-13 16:31

沙发
Fuller 管理员 发表于 2017-12-12 20:43:22 | 只看该作者
微博工具箱原先设计的时候没有打算抓取需要展开的内容。我问问研发有没有增加这个内容抓取的计划。如果不行的话,需要自己做采集规则
举报 使用道具
板凳
18759281221 新手上路 发表于 2017-12-12 20:46:16 | 只看该作者
Fuller 发表于 2017-12-12 20:43
微博工具箱原先设计的时候没有打算抓取需要展开的内容。我问问研发有没有增加这个内容抓取的计划。如果不行 ...

哦哦,这样,多谢
举报 使用道具
地板
wangyong 版主 发表于 2017-12-13 11:42:37 | 只看该作者
采集微博全文的工具现在已经增加,将有“展开全文”内容的博文筛选出来后,找到对应的博文独立链接,添加到微博博文展开全部采集中,就可以将完整的微博采集下来
举报 使用道具
5#
18759281221 新手上路 发表于 2017-12-13 16:31:22 | 只看该作者
wangyong 发表于 2017-12-13 11:42
采集微博全文的工具现在已经增加,将有“展开全文”内容的博文筛选出来后,找到对应的博文独立链接,添加到 ...

多谢,我现在去试试看
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-10 05:28