设置了下载图片,按照教程《采集图片网址并下载图片——单图》,但是采集不到,下载图片超时



举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2021-4-28 17:46

沙发
Fuller 管理员 发表于 2021-4-28 17:46:06 | 只看该作者
经过测试,发现这个图片是一个跨域图片,普通下载会失败,需要做以下设置:

1,在规则中设置成:图片来源——缓存
设置这个目的,可以解决不允许使用图片网址下载图片的问题,比如,有些图片网址是一次性的,或者有效性很短暂,这是为了防止盗图的措施。设置这个选项以后,不再使用网址下图,而是从浏览器缓存中把已经显示出来的图转换到硬盘上。
注意:设置这个选项以后,存下来的图不再是原图了,虽然大小和分辨率没有变,但是都统一转换成了png图。


2,在爬虫软件的配置界面上启用跨域下图
规则中设置了图片来源以后,再运行采集天气网图片的规则,会遇到下面的界面提示和日志


说明这个网站的图片有些特殊,这个图片并不来自于天气网,也就是说跟网页内容分别处于两个不同的“域”中,那么需要设置跨域下图。是在爬虫软件的配置界面上,如下图

举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-26 11:48