¿Pagará la asignación de memoria alineada con la línea de caché?

Question

Solo conozco las ideas básicas sobre la asignación de memoria alineada. Pero no me importó mucho alinear el problema porque no soy un programador de ensamblaje, tampoco tenía experiencia con MMX/SIMD. Y creo que esta es una de las optimizaciones prematuras.

En estos días, las personas dicen cada vez más acerca de la memoria caché, la coherencia de la memoria caché, la optimización del tamaño, etc. Algunos códigos fuente incluso asignan memoria alineada explícitamente en las líneas de caché de la CPU.

Francamente, no sé cuánto es el tamaño de la línea de caché de mi CPU i7. Sé que no habrá daños con alineación de gran tamaño. ¿Pero realmente valdrá la pena, sin SIMD?

Digamos que hay 100000 elementos de datos de 100 bytes en un programa. Y el acceso a estos datos es el trabajo más intenso del programa.

Si cambiamos la estructura de datos y hacemos todos los datos de tamaño de 100 bytes alineados por 16 bytes, ¿es posible obtener una ganancia de rendimiento notable? 10%? 5%?

Answer 1

La mayoría de las discusiones sobre la alineación de la línea de caché se refieren a la informática de alto rendimiento que trabaja con muchos subprocesos y mantiene la escalabilidad lo más parecida posible a la lineal. En esas discusiones, el motivo de la alineación de la línea de caché es evitar que una variable de escritura en una de datos invalide la línea de caché que también contiene otra variable utilizada por una cadena diferente.

Por lo tanto, a menos que intente escribir código que se escale a un número muy elevado de núcleos de procesador, la alineación de la línea de caché probablemente no le importará demasiado. pero de nuevo, pruébelo y vea.

Answer 2

Depende de su sistema. Pruébalo, ejecuta algunos puntos de referencia y averígualo.

Answer 3

La diferencia que la alineación de los datos hará es específica de la aplicación. Hay una buena discusión de aquí:

Memory Alignment On Modern Processors

Answer 4

Este es uno de mis blogs favoritos recientes sobre los efectos de la caché. http://igoro.com/archive/gallery-of-processor-cache-effects/

Answer 5

Optimización de caché incluso para la aplicación monothread. Pero la optimización de la memoria caché no necesariamente alinea los datos al inicio de la memoria caché, ya que hay varios factores a tener en cuenta. Así que el camino a seguir es:

• ¿Cumples con tus requisitos de rendimiento? En caso afirmativo, ¿por qué perder tiempo para optimizar? Optimizar con el fin de optimizar el pago raramente.

• mida dónde está su cuello de botella. Si sospecha que hay problemas de caché, use una herramienta que informa sobre la falta de memoria caché y, así, tenga una idea de cuánto podría ganar.

A nivel higest, el objetivo de la optimización de la memoria caché es llenar la memoria caché con datos de interés, manteniendo los datos no interesantes fuera de él. Si está realizando una programación de múltiples hilos, también es importante evitar la interferencia entre los hilos. Luego, también debe evitar algunas cosas que son específicas de algunas implementaciones de caché, como los efectos de resonancia que a veces reducen el tamaño del caché de effectice para caché no totalmente asociativa.