Generador de Robots.txt

Predeterminado - Todos los robots son:	Permitido Rechazado
Retardo de rastreo:	Predeterminado - Sin retraso 5 Seconds 10 Seconds 20 Seconds 60 seconds 120 Seconds
Mapa del sitio: (deje en blanco si no tiene)
Robots de búsqueda:	Google	Igual que el predeterminado Permitido Rechazado
	Google Image	Igual que el predeterminado Permitido Rechazado
	Google Mobile	Igual que el predeterminado Permitido Rechazado
	MSN Search	Igual que el predeterminado Permitido Rechazado
	Yahoo	Igual que el predeterminado Permitido Rechazado
	Yahoo MM	Igual que el predeterminado Permitido Rechazado
	Yahoo Blogs	Igual que el predeterminado Permitido Rechazado
	Ask/Teoma	Igual que el predeterminado Permitido Rechazado
	GigaBlast	Igual que el predeterminado Permitido Rechazado
	DMOZ Checker	Igual que el predeterminado Permitido Rechazado
	Nutch	Igual que el predeterminado Permitido Rechazado
	Alexa/Wayback	Igual que el predeterminado Permitido Rechazado
	Baidu	Igual que el predeterminado Permitido Rechazado
	Naver	Igual que el predeterminado Permitido Rechazado
	MSN PicSearch	Igual que el predeterminado Permitido Rechazado
Directorios restringidos:	La ruta es relativa a la raíz y debe contener una barra diagonal. "/"

Ahora, cree el archivo 'robots.txt' en su directorio raíz. Copia el texto anterior y pégalo en el archivo de texto.

Acerca de Generador de Robots.txt

Ahora, cree el archivo robots.txt' en su directorio raíz.  Copie el texto de arriba y péguelo en el archivo de texto.

El Generador de Robots.txt genera un archivo que indica las páginas a incluir, por lo tanto, la sintaxis robots.txt es de gran importancia para cualquier sitio web.  Cada vez que un motor de búsqueda rastrea un sitio web, siempre busca primero el archivo robots.txt que se encuentra en el nivel raíz del dominio.  Cuando se identifica, crawler leerá el archivo y luego identificará los archivos y directorios que pueden ser bloqueados.