Limitación de caché del módulo Python re

Question

Mientras leía la documentación en el módulo Python re, decidí echar un vistazo al código fuente re.py.

cuando la abrí, me encontré con esto:

_cache = {} 
_MAXCACHE = 100 

def _compile(*key): 
    cachekey = (type(key[0]),) + key 
    p = _cache.get(cachekey) 
    if p is not None: 
     return p 

    #...Here I skip some part of irrelevant to the question code... 

    if len(_cache) >= _MAXCACHE: 
     _cache.clear() 
    _cache[cachekey] = p 
    return p 

¿Por qué es la memoria caché se aclaró usando _cache.clear() cuando alcanza _MAXCACHE de las entradas?

¿Es un enfoque común limpiar completamente la caché y comenzar desde cero?

¿Por qué no se utilizó hace más tiempo que se elimina el valor en efectivo?

Answer 1

Si tuviera que adivinar, diría que se hizo de esta manera para evitar tener que hacer un seguimiento de cuándo/cuánto tiempo se almacenaron los valores individuales en la caché, lo que crearía memoria y procesamiento. Debido a que el objeto de almacenamiento en caché que se utiliza es un diccionario, que por naturaleza no está ordenado, no hay una buena forma de saber qué elementos de pedido se agregaron sin algún otro objeto de almacenamiento en caché. Esto podría abordarse utilizando un OrderedDict en lugar de un diccionario estándar, suponiendo que está trabajando con Python> = 2.7, pero, de lo contrario, tendría que rediseñar significativamente la forma en que se implementó el almacenamiento en caché para eliminar la necesidad de un clear().

Answer 2

El objetivo del almacenamiento en caché es disminuir el tiempo de llamada promedio de la función. La sobrecarga asociada con mantener más información en _cache y podarla en lugar de borrarla incrementaría ese tiempo de llamada promedio. La llamada _cache.clear() se completará rápidamente, y aunque pierda su caché, es preferible mantener un estado de caché y tener la sobrecarga de eliminar elementos individuales de la caché cuando se alcanza el límite.

Hay algunas cosas en que pensar cuando se calcula la eficiencia de caché:

1. Tiempo medio de llamada en aciertos de caché (muy corto)
2. Tiempo medio de llamada en fallos de caché (más)
3. de frecuencia de aciertos de caché (muy común) para el tiempo cuando se borra la memoria caché o podado (muy común) para
4. llamada

La pregunta es si aumentar el n. ° 3 tiene sentido si significa aumentar también los n. ° 2 y n. ° 4. Supongo que no, o la diferencia es lo suficientemente insignificante para mantener el código simple es preferible.

Answer 3

Aquí hay una cita de uno de los desarrolladores de un nuevo módulo regex programado para 3.3 con respecto al almacenamiento en caché, esto es parte de una lista de características que separa el nuevo módulo del módulo actual re.

7) Modifique la memoria caché de expresiones compiladas para manejar mejor la condición de agitación de . Actualmente, cuando se compilan las expresiones regulares, el resultado se guarda en caché para que, si se vuelve a compilar la misma expresión, se recupere de la memoria caché y no se tenga que realizar ningún trabajo adicional. Esta caché admite hasta 100 entradas. Una vez que se alcanza la entrada número 100, la memoria caché se borra y debe producirse una nueva compilación.El peligro, sea raro , es que uno puede compilar la centésima expresión solo para encontrar que uno lo recompila y tiene que hacer el mismo trabajo una vez más cuando se han hecho hace 3 expresiones. Modificando ligeramente esta lógica, es posible establecer un contador arbitrario que da una marca de tiempo a cada entrada compilada y en lugar de borrar toda la caché cuando alcanza , solo elimina la mitad más antigua de la caché, manteniendo la mitad es más reciente. Esto debería limitar la posibilidad de azotar a los casos en los que se recompila continuamente un gran número de expresiones regulares . Además de esto, actualizaré el límite a 256 entradas, lo que significa que se guardan las 128 más recientes.

http://bugs.python.org/issue2636

Esto parece indicar que es más probable que la pereza del desarrollador o "énfasis en la facilidad de lectura" que explica el comportamiento de caché actual.