quyixuan 发表于 2016-10-24 10:19
可以
不影响抓取,但是处理抓取结果的时候,如果要关联两层做处理,要注意处理过程
TonyJiang 发表于 2016-10-24 10:20
第一层重新抓取的话,第二层的线索 会覆盖还是有增减会自动替换更新吗
...
quyixuan 发表于 2016-10-24 10:21
在会员中心有调度参数,是否激活下级线索,设置成 否,就不会重复抓取
...
TonyJiang 发表于 2016-10-24 10:22
这个吗,可是我想的是,更新下一级线索,并不是不激活呀
TonyJiang 发表于 2016-10-24 10:23
我想问的是,网页不是在变化吗,可能有些商品会下架,又有新加的,那我在抓一次,不会重复吗
还是线索管 ...
quyixuan 发表于 2016-10-24 10:24
如果下级线索网址不一样,那么就不会重叠
那个参数设置成是与否,只对网址一样的时候有效
...
TonyJiang 发表于 2016-10-24 10:25
一样呢,系统默认不重复添加么
quyixuan 发表于 2016-10-24 10:25
系统不允许重复,所以,抓到相同网址只能选择是否重新激活
TonyJiang 发表于 2016-10-24 10:26
就是再选择是的情况下,抓到不同网址的话就加进去,相同就直接激活
欢迎光临 集搜客GooSeeker网络爬虫 (https://www.gooseeker.com/doc/) | Powered by Discuz! X3.2 |