¿Cómo maneja Go la solicitud simultánea en Google App Engine

Question

? Estoy un poco confundido acerca de cómo Go maneja las solicitudes concurrentes en Google App Engine. Así que espero que alguien pueda darme algo de claridad.

Éstos son los hechos que he recogido:

1. Go es el único subproceso en App Engine. - this is because it is possible to do arbitrary pointer arithmetic by creating race conditions with multiple threads

2. Goroutines are multiplexed onto multiple OS threads so if one should block, such as while waiting for I/O, others continue to run.

3. [App Engine has a] 10 concurrent limit [which] is enforced through a limit on concurrent threads on every runtime. Most of such cases, our scheduler will try to spin up a new instance.

Si Go es un solo subproceso en App Engine entonces el punto 3 se discutible. Esto deja 1 y 2. Si Go on App Engine tiene un único subproceso y se requieren subprocesos para continuar la ejecución mientras se bloquea para E/S, parece que una instancia de App Engine Go bloqueará todas las rutinas mientras espera en E/S.

Es esto correcto? De lo contrario, ¿cómo funciona la concurrencia de Go en App Engine?

Para ayudar a cuantificar las cosas. Si tuviera que mantener una conexión abierta durante 30 segundos. ¿Cómo pueden mantener conexiones simultáneas una sola instancia de AE ​​Go?

Gracias.

EDIT: aquí está la solicitud de una función que permitirá a Go Instancia manejar más entonces 10 solicitudes simultáneas Allow configurable limit of concurrent requests per instance. Por favor estrella.

Answer 1

Una instancia de Go App Engine permite 10 solicitudes concurrentes, pero solo ejecuta un subproceso de CPU. En efecto, se pueden procesar múltiples solicitudes al mismo tiempo, pero solo una podrá realizar tareas de CPU a la vez. Si una solicitud es, por ejemplo, esperar que se devuelva una llamada a la API del almacén de datos, la misma instancia puede procesar otra solicitud.

Su declaración "Si Go tiene una sola hebra en App Engine, entonces el punto 3 es discutible". Es incorrecto. Todavía hay un límite de 10 solicitudes concurrentes en vuelo para una sola instancia de Go App Engine. La documentación está un poco suelta con las palabras cuando habla de "hilos".

Answer 2

Debo admitir que no tengo ningún conocimiento interno de AppEngine. Todo esto es especulación y adivinación, pero creo que es algo razonable.

Tu aplicación nunca alcanzará el límite de diez hilos. Esto se debe a que hay muy pocas razones para crear subprocesos. Primero, el número máximo de goroutines que se ejecutan a la vez se establece en uno a enforce memory safety. En segundo lugar, a diferencia de un programa normal, el motor de aplicaciones no necesita realizar llamadas de sistema. La única vez que lo hace es para establecer una red. Todo IO en appengine se puede muxar en un subproceso epoll. Esto significa que todo lo que necesita son dos hilos en un momento dado. A continuación, puede agregar una tercera o cuarta secuencia en caso de que de vez en cuando necesite ejecutar otras llamadas de sistema como asignación de memoria y aceptación/cierre de conexiones. Estas son llamadas rápidas de sistema que bloquean durante un tiempo muy pequeño. Incluso con estas otras llamadas de sistema, todavía está muy lejos del límite de diez subprocesos.

La simultaneidad no se ve afectada porque, al final, todo lo que hace en appengine se reduce a esperar que vuelva algo a través de la red. No necesita múltiples hilos para hacer muchas cosas a la vez.