¿Es posible la concurrencia en tornado?

Question

Entiendo que tornado es un servidor de un solo subproceso y no de bloqueo, por lo tanto, las solicitudes se manejan secuencialmente (excepto cuando se utiliza un enfoque basado en eventos para la operación de IO).

Hay una forma de procesar varias solicitudes paralelas en tornado para la ejecución normal (no IO). No puedo bifurcar procesos múltiples ya que necesito un espacio de memoria común en todas las solicitudes.

Si no es posible, por favor sugiérame otros servidores de python que puedan manejar peticiones paralelas y que también admitan wsgi.

Answer 1

Si realmente va a tratar con múltiples solicitudes simultáneas que están vinculadas a la computación, y desea hacerlo en Python, entonces necesita un servidor multiproceso, no de subprocesos múltiples. CPython tiene bloqueo de intérprete global (GIL) que impide que más de un subproceso ejecute python bytecode al mismo tiempo.

La mayoría de las aplicaciones web realizan muy pocos cálculos y, en su lugar, están esperando E/S, ya sea desde la base de datos, o el disco, o desde servicios en otros servidores. Asegúrese de que necesita manejar las solicitudes de límite de cómputo antes de descartar Tornado.

Answer 2

La respuesta a su pregunta realmente depende de cuánto tiempo se ejecutarán estos subprocesos vinculados al cómputo. Si son de ejecución corta, y la tasa de procesamiento al menos coincide con la velocidad a la que llegan, entonces Tornado estará bien. Es verdaderamente de un solo hilo, pero se escala muy bien.

Si sus solicitudes de cómputo vinculadas son de larga ejecución, entonces usar un servidor de subprocesos no necesariamente ayudará porque, como Ned Batchelder ya señaló, el GIL será un cuello de botella.

Si puede relajar la restricción de tener el mismo espacio de memoria en todas las solicitudes, puede considerar ejecutar Tornado con PyZMQ, ya que proporciona una forma de ejecutar múltiples backend de Tornado, liderado por una única instancia de Tornado . Esto le permite continuar usando Tornado para la solución completa. Consulte el módulo web.zmqweb de PyZMQ para obtener más información.