在抓取的过程中,微博内容太长导致页面显示“展开全文”,最后的数据中也有这几个字,如何才能把微博内容全部抓取呢?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2017-12-13 16:31

沙发
Fuller 管理员 发表于 2017-12-12 20:43:22 | 只看该作者
微博工具箱原先设计的时候没有打算抓取需要展开的内容。我问问研发有没有增加这个内容抓取的计划。如果不行的话,需要自己做采集规则
举报 使用道具
板凳
18759281221 新手上路 发表于 2017-12-12 20:46:16 | 只看该作者
Fuller 发表于 2017-12-12 20:43
微博工具箱原先设计的时候没有打算抓取需要展开的内容。我问问研发有没有增加这个内容抓取的计划。如果不行 ...

哦哦,这样,多谢
举报 使用道具
地板
shenzhenuser1 版主 发表于 2017-12-13 11:42:37 | 只看该作者
采集微博全文的工具现在已经增加,将有“展开全文”内容的博文筛选出来后,找到对应的博文独立链接,添加到微博博文展开全部采集中,就可以将完整的微博采集下来
举报 使用道具
5#
18759281221 新手上路 发表于 2017-12-13 16:31:22 | 只看该作者
wangyong 发表于 2017-12-13 11:42
采集微博全文的工具现在已经增加,将有“展开全文”内容的博文筛选出来后,找到对应的博文独立链接,添加到 ...

多谢,我现在去试试看
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-7-22 07:52