对抓取失败的url保存起来,延迟抓取

【对抓取失败的url保存起来,延迟抓取】

对抓取失败的url保存起来,延迟抓取

文章插图
保存失败的url,保存延迟的url,延迟的URL介绍:使用spider抓取页面时,有时,页面访问会失败(或运行异常),但这个过程是一个整体,失败的页面必须保存在delayQueueSchedualer中,并在一定时间内再次抓取 。传递这个