# robots.txt for caminando.com.es Sitemap: http://www.caminando.com.es/sitemap.xml User-agent: * Disallow: /wp- Disallow: /comments/feed Disallow: /search Disallow: /?s= Allow: /feed/$ Disallow: /feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$ # El valor es en segundos y podéis dejarlo bajo e ir subiendo hasta el punto óptimo. User-agent: noxtrumbot Crawl-delay: 50 User-agent: msnbot Crawl-delay: 30 User-agent: Slurp Crawl-delay: 10