Cuál es la forma más fácil de encontrar el archivo asociado a un bloque en HDFS dado un bloque Nombre/IDcómo encontrar el archivo de BlockName en HDFS hadoop
5
A
Respuesta
11
La forma larga y dolorosa, suponiendo que tiene acceso de lectura a todos los archivos (y lo ejecuta para los directorios):
hadoop fsck/-files -blocks | grep blk_520275863902385418_1002 -B 20
a continuación, analizar una copia de seguridad de su partido de bloque para el nombre del archivo anterior:
/hadoop/mapred/system/jobtracker.info 4 bytes, 1 block(s): OK
0. blk_520275863902385418_1002 len=4 repl=1
En este caso blk_5202 ... es parte de la /hadoop/mapred/system/jobtracker.info
archivo
Programáticamente, no es una interfaz para el nodo de nombre que le permite buscar por ID de bloque, pero podría buscar en el origen para el nodo de nombre secundario y ver cómo consolida las ediciones - luego experimentar en la salida guardada del nodo de nombre secundario (en lugar de arriesgarse a trabajar en el archivo de nodo de nombre real).
¡Buena suerte!
5
No
seguro cuando este se introdujo, pero se puede hacer esto
hdfs fsck -blockId <block_id>
hdfs fsck -blockId blk_1100790203
Connecting to namenode
FSCK started by hdfs
Block Id: blk_1100790203
Block belongs to: /common/FFL1447685899336.txt
Cuestiones relacionadas
- 1. Hadoop: comprimir archivo en HDFS?
- 2. Hadoop HDFS tamaño máximo de archivo
- 3. Actualización de un archivo hadoop HDFS
- 4. Transferir archivo desde HDFS
- 5. Cómo encontrar el tamaño de un archivo HDFS
- 6. Hadoop Streaming - No se puede encontrar el archivo de error
- 7. Administrar hdfs en modo hadoop pseudo-distribuido
- 8. Acerca de la división de archivos Hadoop/HDFS
- 9. ¿Cómo resolver 'el archivo solo podría replicarse en 0 nodos, en lugar de 1' en hadoop?
- 10. Factor de replicación de HDFS
- 11. Archivos pequeños y bloques HDFS
- 12. Lectura de un archivo Avro simple desde HDFS
- 13. Importar datos de HDFS a HBase (cdh3u2)
- 14. HDFS dice que el archivo aún está abierto, pero se ha matado al proceso de escritura
- 15. Fuente de Hadoop MR: HDFS vs HBase. Beneficios de cada uno?
- 16. ¿Cómo funciona HDFS con append?
- 17. ejecutar un trabajo Hadoop sin archivo de salida
- 18. ¿Cómo se lee el archivo secuencial de hadoop?
- 19. Hadoop Copiar un directorio?
- 20. ¿Es posible ejecutar Hadoop en una operación Pseudo Distribuida sin HDFS?
- 21. Análisis de archivos PDF en Hadoop Map Reduce
- 22. ¿Cómo realiza Hadoop las divisiones de entrada?
- 23. ¿Dónde HDFS almacena los archivos localmente de forma predeterminada?
- 24. Copiando archivo desde HDFS a la máquina local
- 25. Ejecutando Hadoop MapReduce, es posible llamar a ejecutables externos fuera de HDFS
- 26. Hadoop Datanodes no puede encontrar NameNode
- 27. Encontrar componentes conectados usando Hadoop/MapReduce
- 28. Hadoop fs búsqueda de tamaño de bloque?
- 29. ¿Cómo encontrar el "archivo léxico" en Wordnet?
- 30. ¿Moviendo archivos en Hadoop usando la API de Java?