Google App Engine retraso extraño

Question

He mejorado mucho mi código y ahora toda la API funciona muy rápido, también agregué Memcache y tengo una gran proporción de aciertos ... Pero a veces tengo retrasos sin sentido.

He adjuntado aquí la captura de pantalla appstats más significativa: más de 20 segundos en total para ejecutar 90ms de RPC; ¿como es posible? ¿Dónde debería buscar el origen de esos retrasos?

estoy realmente atascado porque no entiendo lo que está pasando entre los RPC y no sé qué más puedo hacer con el fin de obtener más información.

Solo una idea: cada llamada HTTP es manejada por la misma instancia de GAE, ¿verdad? Debido a que mis instancias tomaron mucho tiempo para el calentamiento ... Pero no creo que esté relacionado

BTW: Estoy codificando en Java.

Answer 1

Por lo general, el "agujero" no contabilizado en el medio de appstats es la ejecución del código.
Appstats registra todas las entradas y salidas de rpc y las áreas que no puede registrar son su código real en ejecución.

¿Tiene registros de la hora en que se encontraba la aplicación entre esas dos llamadas?

Answer 2

enorme, la latencia 'inexplicable' es casi siempre de calentamiento solicitudes engullendo recursos. Inspeccione los registros de appengine para ver cuánto api_ms y cpu_ms se usan en los calentamientos.

Puede evitar los calentamientos aumentando la latencia máxima pendiente en el panel de control de appengine. Permitir una mayor latencia significa que las solicitudes esperarán más antes de disparar una nueva instancia. Esto podría hacer que cada solicitud sea un poco más lenta, pero evitará solicitudes de carga pesadas.

para ayudar con las solicitudes de preparación, asegúrese de que su appengine-web.xml tiene:

<warmup-requests-enabled>true</warmup-requests-enabled> 

Esto hará que el despachador appengine para disparar de forma preventiva nuevos casos en los que se están sobrecargados los actuales {es decir, comienza a cargarse antes de que una solicitud vaya a la nueva instancia}.

entonces, en los servlets lentos afectadas, asegúrese de poner load-on-startup en su web.xml:

<servlet> 
    <servlet-name>my-servlet</servlet-name> 
    <servlet-class>com.company.MyServlet</servlet-class> 
    <load-on-startup>1</load-on-startup> 
</servlet> 

load-on-startup simplemente asegura que sus servlets de alta prioridad siempre están dispuestos ir tan pronto como termine la solicitud de calentamiento.