Google : GoogleBot explore-t-il ou pas les sites trop lents ? - Arobasenet.com


Google : GoogleBot explore-t-il ou pas les sites trop lents ?

Indexation GoogleBot

Sur le forum de Google Webmaster Central, un webmaster se plaignait du fait que son site web n'était plus exploré par GoogleBot depuis un certain temps. 

Par conséquent, ses pages web les plus récentes n'étaient plus indexées et étaient donc absentes des pages de résultats de Google.

Après avoir tenté d'utiliser l'outil Fetch as Google (Explorer comme Google) depuis Google Webmaster Tools, il s'est résolu a poster sur le forum pour obtenir une explication.

Il faut dire que le site du webmaster en question est un site basique hébergé sur un serveur low cost qui ne supporterait pas des activités trop lourdes. Du coup, Googlebot refuse de l'explorer afin d'éviter de mettre le serveur hors de service (server down).

Il apparaît donc, avec ce cas, que autant Google Fecht as Google (Explorer comme Google) que le robot GoogleBot ne visitent pas les sites trop lents.

Voici la réponse de John Mueller, responsable de Google Webmaster Tools :

Looking at your site, I do see that we'd like to crawl more from the server, but we're holding back because we think the server might not be able to handle the load. This is the reason why the Fetch as Google requests aren't making it through. In particular, we're seeing a fairly high response-time for URLs from the server, which often signals that the server is pretty busy even without us crawling.

En d'autres termes, il dit : "En observant votre site, je constate que nous avons tenté de le crawler, mais nous avons dû faire machine-arrière parce que votre serveur n'aurait pas été en mesure de supporter le téléchargement que nous aurions voulu effectuer. 

C'est pour la même raison que l'outil "Explorer comme Google" ne fonctionne pas pour votre site. Plus précisement, nous avons constaté un très long délai de réponse des URLs en téléchargement sur votre serveur qui nous indique aussi que le serveur est déjà trop occupé avant que nous ayons pu l'explorer".

Alors, si vous constatez que GoogleBot explore rarement votre site et que vos nouvelles pages ne sont pas toujours indexées en temps et en heure, c'est parfois en raison de la rapidité de votre serveur.

Voici maintenant comment bien référencer votre site internet sur Google.