domingo, noviembre 12, 2006

MJ12bot : Majestic-12

Estos días hemos recibido la visita de los 3 grandes Bots de forma diaria, algo muy deseado, aunque sería mejorable que no fuera como fué: los 3 Bots, con más entre 3 y 5 conexiones simultaneas cada uno durante varios minutos.
stop-robots
Esto me llevó a revisar las estadísticas de visitas de los robots de buscadores, encontrando uno que no conocía:

MJ12bot : Majestic-12 Robot

Según indica su página Web, MJ12 Bot forma parte de un proyecto de motor de búsqueda distribuido, un proyecto técnicamente basado en el proyecto SETI@Home

Comenzó sus visitas hace unas cuantas semanas, y aunque no descarga nunca más de 1 mega al día del dominio en cuestión, entiendo su visita como innecesaria, por no decir inutil, así que lo hemos bloqueado ( como siempre en estos casos, en el fichero ROBOTS.TXT situado en la raíz de nuestro servidor, en la misma carpeta donde se situa el index.html o como lo llamemos).

El formato a añadir:
User-Agent: MJ12bot
Disallow: /

En unos días, revisaremos las estadísticas de visitas a ver si cumple su promesa de respetar la prohibición de visitas, tal como promete.

1 comentario:

Anónimo dijo...
Este comentario ha sido eliminado por un administrador del blog.