# Nombre del crawler: googlebot, slurp, msnbot User-Agent: * # Directorios o archivos excluidos /*.pdf /tmp Disallow: # Frecuencia de peticiones de un bot # Crawl-delay: 120 # Indicar a los bots la ubicacion del sitemap # Sitemap: http://www.terra.es/sitemap.xml