Robots.txt Probador / Generador

Todas las herramientas

Admite agente de usuario, permitir, no permitir, mapa del sitio y comentarios.

¿Qué es un probador de robots.txt?

Un probador de robots.txt le ayuda a inspeccionar y comprender cómo los rastreadores pueden interpretar sus reglas de robots.txt.

Esta herramienta es útil para revisar bloques de agente de usuario, directivas de permitir/no permitir y la estructura general de su archivo robots.txt.

Cómo utilizar el probador/generador de Robots.txt

  1. Pegue el contenido de su robots.txt en el campo de entrada.
  2. Haga clic en Analizar para analizar las directivas.
  3. Revise el resultado generado.
  4. Utilice el botón de ejemplo si desea comenzar con un archivo de muestra.

Consejos

  • Utilice reglas de agente de usuario específicas cuando diferentes bots necesiten un acceso de rastreo diferente.
  • Mantenga el archivo robots.txt simple y evite reglas contradictorias de permitir/no permitir.
  • Recuerde que robots.txt no garantiza la protección de contenido privado.
  • Agregue la URL de su mapa del sitio cuando corresponda.

Herramientas relacionadas

Estas herramientas también pueden resultarle útiles.

Preguntas frecuentes sobre el probador de robots.txt

¿Esta herramienta valida la sintaxis de robots.txt?
Ayuda a analizar las directivas y la estructura comunes de robots.txt, pero aún así debes revisar cuidadosamente las reglas de producción finales.
¿Puedo probar las reglas Permitir y No permitir?
Sí. La herramienta analiza directivas estándar de agente de usuario, permitir y no permitir.
¿Está almacenado mi robots.txt?
No. La herramienta está destinada únicamente a procesar el contenido enviado y devolver el resultado.