|
数据采集是高密度地访问目标网站,真正的云采集最大的问题是被封IP
云采集最重要的卖点应该是:自己的电脑关了,也能采集。
具体解释就是:把采集任务部署好以后,就不用管了,光等着去收数据就行了。
其实采集数据不用管在哪里,在云上也好,在离散的电脑上也好,反正用户自己的电脑不用参与,爬虫是在其他电脑上运行的。这样看来,云还是非云,是没有区别的。
真正的云采集,网络爬虫软件运行在有固定IP的服务器上,无论有100个服务器还是1000个服务器,大批量采集的时候,封锁IP是很快的,很快就会把这100甚至1000个IP封锁掉。那么应对反爬变成了最头疼的问题。
GooSeeker网络爬虫并不可以炒作“云采集”,想运行在云上还是运行在离散的电脑上,那是用户自己的选择。因为GooSeeker采用了一个弹性计算架构,电脑可以随时加入到这个架构中,而且不区分是否是云,也不限制数量,形成一个大规模的爬虫群
|
|
共 1 个关于本帖的回复 最后回复于 2016-8-19 22:03