User-agent: googlebot-image Disallow: / User-agent: * Disallow: /Administracion/ Disallow: /aspnet_client/ Disallow: /DB/ Disallow: /cgi-local/ Disallow: /css/ Disallow: /CV/ Disallow: /guias/ Disallow: /images/ Disallow: /img/ Disallow: /includes/ Disallow: /js/ Disallow: /lib/ Disallow: /news/ Disallow: /revistas/ Disallow: /scripts/ Disallow: /SpryAssets/ Disallow: /swf/ # # Sitemap permitido, búsquedas no. # Sitemap: http://www.bodybell.com/sitemap.xml Disallow: /?s= Disallow: /search # # A partir de aquí es opcional pero recomendado. # # Lista de bots que suelen respetar el robots.txt pero rara # vez hacen un buen uso del sitio y abusan bastante... # Añadir al gusto del consumidor... User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: / # # Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen # idas de pinza, toca decirles que reduzcan la marcha. # El valor es en segundos y podéis dejarlo bajo e ir # subiendo hasta el punto óptimo. # User-agent: noxtrumbot Crawl-delay: 50 User-agent: msnbot Crawl-delay: 30 User-agent: Slurp Crawl-delay: 10