查看更多到一半就退出

ovna123

主题：案例借贷
问题：通过“查看更多“显示下一页，读取到中间就显示”采集完成“，怎么破？是反爬的原因还是其他的？

wangyong · 发表于 2017-8-8 11:58:45

翻页到中间显示“采集完成”，原因是爬虫在新翻到的那一页没有找到翻页记号，所以认为采集成功
检查翻页中断的那页和第一页有什么区别，重新修改规则，参看教程《翻页到中间就失败了怎么解决》

ovna123 · 发表于 2017-8-8 14:22:23

由于是瀑布流，不太容易找到出问题的页面。不过我试了两次，有个特点，第一次出问题的页和第二次的不一样，是不是就是说还是被网站限制了？

wangyong · 发表于 2017-8-8 14:26:51

有这个可能，可以尝试清cookie换IP

wangyong · 发表于 2017-8-8 14:29:17

打数机配置里的定时器触发可以关掉

ovna123 · 发表于 2017-8-8 14:45:19

好的，谢谢！

共 5 个关于本帖的回复最后回复于 2017-8-8 14:45

	B Color Image Link Quote Code Smilies 高级模式您需要登录后才可以回帖登录 \| 立即注册回帖并转播回帖后跳转到最后一页