Estos días hemos recibido la visita de los 3 grandes Bots de forma diaria, algo muy deseado, aunque sería mejorable que no fuera como fué: los 3 Bots, con más entre 3 y 5 conexiones simultaneas cada uno durante varios minutos.
Esto me llevó a revisar las estadísticas de visitas de los robots de buscadores, encontrando uno que no conocía:
MJ12bot : Majestic-12 Robot
Según indica su página Web, MJ12 Bot forma parte de un proyecto de motor de búsqueda distribuido, un proyecto técnicamente basado en el proyecto SETI@Home
Comenzó sus visitas hace unas cuantas semanas, y aunque no descarga nunca más de 1 mega al día del dominio en cuestión, entiendo su visita como innecesaria, por no decir inutil, así que lo hemos bloqueado ( como siempre en estos casos, en el fichero ROBOTS.TXT situado en la raíz de nuestro servidor, en la misma carpeta donde se situa el index.html o como lo llamemos).
El formato a añadir:
User-Agent: MJ12bot
Disallow: /
En unos días, revisaremos las estadísticas de visitas a ver si cumple su promesa de respetar la prohibición de visitas, tal como promete.
1 comentario:
Publicar un comentario