2012-01-07 5 views
8

Algunos sitios dan error 404 temporalmente. Pero pego en el navegador funciona. Cómo decirle a scrapy que reintente los enlaces de código de estado 404 5 veces.¿Cómo reintentar el enlace 404 que no se encuentra en scrapy?

+0

¿Tal vez estás haciendo demasiadas solicitudes usando scrapy y los sitios simplemente regresan 404? – adt

+0

Incluso si intento 1 solicitudes por segundo, a veces falla. ¿Hay alguna manera de decir en scrapy que vuelva a intentar el estado 404? –

Respuesta

14

Existen dos configuraciones Scrapy relevantes para lo que necesita:

Cuestiones relacionadas