Recuperación de datos en la memoria caché para x86-64

Question

En mi aplicación, en un momento dado necesito realizar cálculos en un gran bloque contiguo de datos de memoria (100 s de MB). Lo que estaba pensando era seguir captando la parte del bloque que mi programa tocará en el futuro, de modo que cuando realice cálculos en esa parte, los datos ya estén en la memoria caché.

¿Alguien me puede dar un ejemplo simple de cómo lograr esto con gcc? Leí _mm_prefetch en algún lugar, pero no sé cómo usarlo correctamente. También tenga en cuenta que tengo un sistema multinúcleo, pero cada núcleo trabajará en una región diferente de memoria en paralelo.

Answer 1

gcc utiliza funciones integradas como interfaz para las instrucciones de bajo nivel. En particular para su caso __builtin_prefetch. Pero solo debería ver una diferencia mensurable al usar esto en los casos en que el patrón de acceso no es fácil de predecir automáticamente.

Answer 2

Las CPU modernas tienen una captación previa automática bastante buena y es posible que descubra que hace más daño que bien si intenta iniciar la captación previa de software. Es muy probable que haya mucha más "fruta fácil de colgar" en la que pueda concentrarse para la optimización si descubre que realmente tiene un problema de rendimiento. La captura previa suele ser una de las últimas cosas que puede intentar, cuando está desesperado por obtener un porcentaje de rendimiento más.