Numpy dot product muy lento usando ints

Question

lo siento por tantas preguntas. Estoy ejecutando Mac OSX 10.6 en Intel core 2 Duo. Estoy ejecutando algunos puntos de referencia para mi investigación y me he encontrado con otra cosa que me desconcierta.

Si me quedo

python -mtimeit -s 'import numpy as np; a = np.random.randn(1e3,1e3)' 'np.dot(a,a)'

me sale el siguiente resultado: 10 loops, best of 3: 142 msec per loop

Sin embargo, si me quedo

python -mtimeit -s 'import numpy as np; a = np.random.randint(10,size=1e6).reshape(1e3,1e3)' 'np.dot(a,a)'

me sale el siguiente resultado: 10 loops, best of 3: 7.57 sec per loop

Entonces me encontré con

python -mtimeit -s 'import numpy as np; a = np.random.randn(1e3,1e3)' 'a*a' Y luego

python -mtimeit -s 'import numpy as np; a = np.random.randint(10,size=1e6).reshape(1e3,1e3)' 'a*a'

Ambos corrieron a unos 7,6 milisegundos por bucle por lo que no es la multiplicación. La adición también tenía velocidades similares, por lo que ninguna de estas debería afectar el producto de punto, ¿no? Entonces, ¿por qué es más de 50 veces más lento calcular el producto de puntos utilizando ints que utilizando flotadores?

Answer 1

muy interesante, tenía curiosidad para ver cómo se implementó por lo que hice:

>>> import inspect 
>>> import numpy as np 
>>> inspect.getmodule(np.dot) 
<module 'numpy.core._dotblas' from '/Library/Python/2.6/site-packages/numpy-1.6.1-py2.6-macosx-10.6-universal.egg/numpy/core/_dotblas.so'> 
>>> 

Así que parece que el uso de la biblioteca BLAS .

manera:

>>> help(np.core._dotblas) 

de la que me encontré con esto:

Cuando Numpy está construido con un BLAS acelerados como ATLAS, estas funciones se sustituyen para hacer uso de las implementaciones más rápidas. Las implementaciones más rápidas de solo afectan a las matrices float32, float64, complex64 y complex128 .Además, la API de BLAS solo incluye matriz matricial, matriz-vector, y vector-vector productos. Los productos de matrices con dimensionalidades mayores usan las funciones incorporadas y no se aceleran.

Parece que ATLAS sintoniza ciertas funciones, pero solo se aplica a ciertos tipos de datos, muy interesantes.

así que sí que parece que va a utilizar flotadores más a menudo ...

Answer 2

Usando int vs tipos de datos float provoca diferentes rutas de código a ejecutar:

El seguimiento de la pila para el flotador tiene el siguiente aspecto:

(gdb) backtr 
#0 0x007865a0 in dgemm_() from /usr/lib/libblas.so.3gf 
#1 0x007559d5 in cblas_dgemm() from /usr/lib/libblas.so.3gf 
#2 0x00744108 in dotblas_matrixproduct (__NPY_UNUSED_TAGGEDdummy=0x0, args=(<numpy.ndarray at remote 0x85d9090>, <numpy.ndarray at remote 0x85d9090>), 
kwargs=0x0) at numpy/core/blasdot/_dotblas.c:798 
#3 0x08088ba1 in PyEval_EvalFrameEx() 
... 

..while el seguimiento de la pila para int es el siguiente:

(gdb) backtr 
#0 LONG_dot (ip1=0xb700a280 "\t", is1=4, ip2=0xb737dc64 "\a", is2=4000, op=0xb6496fc4 "", n=1000, __NPY_UNUSED_TAGGEDignore=0x85fa960) 
at numpy/core/src/multiarray/arraytypes.c.src:3076 
#1 0x00659d9d in PyArray_MatrixProduct2 (op1=<numpy.ndarray at remote 0x85dd628>, op2=<numpy.ndarray at remote 0x85dd628>, out=0x0) 
at numpy/core/src/multiarray/multiarraymodule.c:847 
#2 0x00742b93 in dotblas_matrixproduct (__NPY_UNUSED_TAGGEDdummy=0x0, args=(<numpy.ndarray at remote 0x85dd628>, <numpy.ndarray at remote 0x85dd628>), 
kwargs=0x0) at numpy/core/blasdot/_dotblas.c:254 
#3 0x08088ba1 in PyEval_EvalFrameEx() 
... 

Ambas llamadas conducen a dotblas_matrixproduct, pero parece que la llamada flotador permanece en la biblioteca BLAS (probablemente el acceso a un código bien optimizado), mientras que el La llamada int se restituye a PyArray_MatrixProduct2 de Numpy.

Así que este es un error o BLAS simplemente no admite tipos enteros en matrixproduct (que parece bastante improbable).

He aquí un solución fácil y barata:

af = a.astype(float) 
np.dot(af, af).astype(int)