2011-03-22 14 views
7

Quiero permitir el rastreo de archivos en:Robots.txt: No permitir subdirectorio pero permiten directorio

/directory/ 

pero no el rastreo de archivos en:

/directory/subdirectory/ 

es la instrucción correcta robots.txt:

User-agent: * 
Disallow: /subdirectory/ 

me temo que si no permitidos/directorio/subdirectorio/ que iba a estar dis lo que permite el rastreo de todos los archivos en el directorio// lo que no quiero hacer, así que estoy en lo correcto en el uso de:

User-agent: * 
Disallow: /subdirectory/ 

Respuesta

7

Lo ha pensado demasiado:

User-agent: * 
Disallow: /directory/subdirectory/ 

es correcto.

+0

No es User-agent: * Disallow:/directory/subdirectory/va a eliminar cualquier archivo en/directory /? Todavía quiero los archivos en el directorio en el índice de búsqueda, pero no los archivos en el subdirectorio/directorio/subdirectorio/ – user523521

+1

No, ¿por qué haría eso? Está rechazando el subdirectorio, no el padre. –

+0

Bueno ... como parte de mi investigación, muchas personas en Internet dicen que no permitir/directory/subdirectory/deshabilita todos los archivos en/directory/también para que sea necesario: User-agent: * Disallow:/directory/subdirectorio/Permitir: /directory/index.html ¿Estoy tratando de averiguar cuál es el correcto? – user523521

2
User-agent: * 
Disallow: /directory/subdirectory/ 

Las arañas no son estúpidos, que puede analizar un camino :)

+0

No entiendo la implementación de lo que dices. – user523521

+2

@user Si hace 'cd/directory/subdirectory /' ¿lo lleva a 'directory'? No, la carpeta significativa es la última en la ruta, en este caso el 'subdirectorio'. – alex

Cuestiones relacionadas