快捷导航
想要用python实现一个爬虫,来完成自己的一些需求。
参考网上的资料,发现对自己而言有两种待选的方案:
1. 使用scrapy框架
     都说该框架功能强大,实现简单。但是听说不支持python3
2. 使用requests 和 bs4等库来自己实现
     相比方案一,可能要自己多写好多代码,以及性能可能不如开源的框架。

希望熟悉的人回答一下 scrapy对python3的支持到底如何?
如果采用方案二,那么想问 ,如果我想要利用 requests, bs4等库 实现一个简单版的 scrapy, 困难有多大,需要学习那些东西?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-18 10:47

shenzhenwan10 金牌会员 发表于 2016-10-18 10:47:03 | 显示全部楼层
本帖最后由 shenzhenwan10 于 2016-10-18 22:11 编辑

scrapy现在已经支持python3了,具体可以参考这篇文章:为编写网络爬虫程序安装Python3.5
假如你是为了完成工作,就用它好了,也可以使用集搜客通用爬虫
假如你想深刻的了解爬虫,和业务结合的更紧密,掌握出现问题的解决方案,可以尝试一下自己写
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系
  • 知乎话题文本分词后的共词矩阵怎样引入词语

热门用户

GMT+8, 2024-3-1 00:21