2012-06-21 16 views
5

estoy Representación gráfica de varias columnas de un gran conjunto de datos (a través de numpy.genfromtxt) en contra de una columna de tiempo de igual tamaño. Los datos faltantes a menudo se conocen como nan, -999, -9999, etc. Sin embargo, no puedo encontrar la manera de eliminar varios valores de la matriz. Esto es lo que tengo actualmente:Creación de una matriz enmascarado en Python con múltiples valores dados

for cur_col in range(start_col, total_col): 
    # Generate what is to be graphed by removing nan values 
    data_mask = (file_data[:, cur_col] != nan_values) 
    y_data = file_data[:, cur_col][data_mask] 
    x_data = file_data[:, time_col][data_mask] 

Después de ese momento yo uso matplotlib para crear las figuras apropiadas para cada columna. Esto funciona bien si nan_values ​​es un entero único, pero estoy buscando usar una lista.

EDIT: Aquí está un ejemplo de trabajo.

import numpy as np 

file_data = np.arange(12.0).reshape((4,3)) 
file_data[1,1] = np.nan 
file_data[2,2] = -999 
nan_values = -999 

for cur_col in range(1,3): 
    # Generate what is to be graphed by removing nan values 
    data_mask = (file_data[:, cur_col] != nan_values) 
    y_data = file_data[:, cur_col][data_mask] 
    x_data = file_data[:, 0][data_mask] 
    print 'y: ' + str(y_data) 
    print 'x: ' + str(x_data) 
print file_data 

>>> y: [ 1. nan 7. 10.] 
    x: [ 0. 3. 6. 9.] 
    y: [ 2. 5. 11.] 
    x: [ 0. 3. 9.] 
    [[ 0. 1. 2.] 
    [ 3. nan 5.] 
    [ 6. 7. -999.] 
    [ 9. 10. 11.]] 

esto no funcionará si nan_values ​​= [ 'nan', -999], que es lo que estoy buscando lograr.

+0

fija por favor la matriz de muestras (lista). –

+0

@AshwiniChaudhary He editado la pregunta para incluir un ejemplo de trabajo. – Josiah

Respuesta

4

se recomienda usar masked arrays así:

>>> a = np.arange(12.0).reshape((4,3)) 
>>> a[1,1] = np.nan 
>>> a[2,2] = -999 
>>> a 
array([[ 0., 1., 2.], 
     [ 3., nan, 5.], 
     [ 6., 7., -999.], 
     [ 9., 10., 11.]]) 
>>> m = np.ma.array(a,mask=(~np.isfinite(a) | (a == -999))) 
>>> m 
masked_array(data = 
[[0.0 1.0 2.0] 
[3.0 -- 5.0] 
[6.0 7.0 --] 
[9.0 10.0 11.0]], 
      mask = 
[[False False False] 
[False True False] 
[False False True] 
[False False False]], 
     fill_value = 1e+20) 
+0

Si bien los resultados son los que necesito, no utiliza una lista que simplifique en gran medida lo que estoy haciendo. ¿Hay alguna manera de reemplazar las declaraciones o con una lista para mask = en ma.array? – Josiah

+2

'mask = np.logical_or.reduce ([a == value for value in [-99, -999, -9999]])'. Sin embargo, ten en cuenta que 'np.nan! = Np.nan', por lo que deberás agregarlo a la máscara explícitamente. – user545424

+0

Excelente, exactamente lo que necesitaba. Gracias. – Josiah

2

me gustaría probar algo así como (pseudo-código):

nan_values = [...] 

for cur_col in range(start_col, total_col): 
    # Generate what is to be graphed by removing nan values 
    y_data = [file_data[i,cur_col] for i in range(len(file_data)) if not(file_data[i,cur_col] in nan_values)] 
    x_data = [file_data[i,time_col] for i in range(len(file_data)) if not(file_data[i,cur_col] in nan_values)] 
+0

No puedo implementar este ejemplo en el de trabajo que agregué recientemente. Recibo 'argumento de tipo' int 'no es iterable' – Josiah

Cuestiones relacionadas