2010-11-03 26 views
8

Tengo una araña que escribí usando el marco de Scrapy. Tengo problemas para hacer que funcionen las tuberías. Tengo el siguiente código en mi pipelines.py:No se puede hacer que la tubería de Scrapy funcione

class FilePipeline(object): 

    def __init__(self): 
     self.file = open('items.txt', 'wb') 

    def process_item(self, item, spider): 
     line = item['title'] + '\n' 
     self.file.write(line) 
     return item 

y mi CrawlSpider subclase tiene esta línea para activar la tubería para esta clase.

ITEM_PIPELINES = [ 
     'event.pipelines.FilePipeline' 
    ] 

Sin embargo, cuando lo ejecuto usando

scrapy crawl my_spider 

me sale una línea que dice

2010-11-03 20:24:06+0000 [scrapy] DEBUG: Enabled item pipelines: 

sin tuberías (supongo que aquí es donde el registro debe ser la salida de ellos).

He intentado buscar en la documentación, pero no parece haber ningún ejemplo completo de un proyecto completo para ver si me he perdido algo.

¿Alguna sugerencia sobre qué probar a continuación? ¿o dónde buscar más documentación?

Respuesta

8

¡Gracias! La línea debe ir en el módulo de configuración para el proyecto. ¡Ahora funciona!

+0

¿Tiene este código de proyecto alojado en github? – Medeiros

+0

No, mi cliente puede haberlo puesto en algún lado, pero no es mi lugar para abrirlo, me temo. –

+0

tuve que usar ITEM_PIPELINES como dict en lugar de una lista en el archivo de configuración –

0

estoy dispuesto a apostar que es una diferencia de mayúsculas en la palabra de tuberías en alguna parte:

Pipeline Pipeline vs

noto 'event.pipelines.FilePipeline' utiliza el primero, mientras que el código utiliza este último: lo que hace su nombres de archivo de uso?

(I han sido víctimas de este error de ortografía muchas veces!)

+0

Gracias por detectar eso (no puedo creer que lo haya echado de menos!), Pero todavía no funciona, lamentablemente –

+0

Todavía es mi apuesta a lo que está mal, ¡sigue comprobando! : P (si no, estoy sin ideas ...) – James

+0

Voy a echar otro vistazo. ¡Aclamaciones! –

Cuestiones relacionadas