比如抓取贴吧每层楼的链接只能获取到后面的链接参数/p/******
我希望能在抓取时自动在前面添加 www.baidu.com 抓取到的结果就应该是www.baidu.com/p/****
还有就是,导出表时会有很多无关列可否设置不生成呢
感谢!
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-9-13 20:57

沙发
Fuller 管理员 发表于 2016-9-13 20:57:15 | 只看该作者
1,网址拼接:如果抓下来的网址用于创建下级线索,DS打数机会自动拼接成完整网址;如果当成内容抓下来,那么DS打数机保持原样。如果你需要完整地址,可以在excel中实现拼接。在结果文件中,总是有个字段realpath,跟这个字段拼接就可以。如果是在iframe中抓取的内容,要与baseURI字段拼接

2,导出表中的无关列你自己删除吧。这些列在某些情况下是必须的,比如,网址拼接。导出的时候都导出
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-9-23 04:56