页面部分内容与在浏览器打开的不同,如浏览器中知乎登陆后才有显示浏览数,但导入网址后就没有这一部分。
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2016-10-17 18:21

沙发
shenzhenwan10 金牌会员 发表于 2016-10-17 18:13:33 | 只看该作者
做规则的时候使用那个显示最全内容的页面来做
爬取的时候即使部分页面内容没有也不会影响出结果
举报 使用道具
板凳
Fuller 管理员 发表于 2016-10-17 18:20:14 | 只看该作者
shenzhenwan10 发表于 2016-10-17 18:13
做规则的时候使用那个显示最全内容的页面来做
爬取的时候即使部分页面内容没有也不会影响出结果 ...

对于时有时无的抓取内容,千万不要设置“关键内容”,否则遇到没有内容的网页就会失败。
举报 使用道具
地板
Fuller 管理员 发表于 2016-10-17 18:21:40 | 只看该作者
不用担心登录前和登录后的区别问题。在运行爬虫之前,先在浏览器中登录好,如果用的是火狐插件版,那么在火狐浏览器中登录好;如果用的是GS爬虫浏览器版,那么就在GS浏览器中登录好。然后在运行爬虫,那么登录状态就会一直保持
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 为BERTopic安装需要的预训练SBERT模型
  • 在什么情况下使用弹窗模式和回退功能?
  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?

热门用户

GMT+8, 2026-11-7 03:10