Budget de crawl
Sur un site de quelques centaines de pages, la question ne se pose pas. Elle devient centrale dès que Google doit arbitrer : le nombre d'URL qu'il explore dépend de ce que le serveur encaisse (crawl rate) et de l'appétit qu'il a pour le site (crawl demand). Laisser Googlebot s'épuiser sur des paramètres, des facettes ou des pages de tri, c'est autant de pages utiles découvertes trop tard.
Guide crawl & indexation
Crawl vs indexation
On les confond souvent, alors que ce sont deux moments séparés. Crawler, c'est lire l'URL ; indexer, c'est décider de la garder et de la rendre éligible au classement. D'où deux situations qui déroutent : une page parfaitement crawlée que Google refuse d'indexer, et une URL bloquée dans le robots.txt qui reste pourtant affichée dans les résultats.
Guide crawl & indexation
Fichier robots.txt
Posé à la racine du domaine, il dit aux robots où ils n'ont pas à aller. Attention au malentendu classique : il gouverne le crawl, pas l'indexation. Une URL interdite d'exploration peut très bien rester indexée si d'autres pages pointent vers elle. Et quand plusieurs règles se chevauchent, c'est la plus spécifique qui l'emporte, pas la première rencontrée.
Robots.txt Checker · Guide crawl & indexation
Balise meta robots
La consigne d'indexation qui vit dans le head de la page : noindex pour la sortir de l'index, nofollow pour couper le jus de ses liens. Son point faible, il faut que Google puisse crawler la page pour la lire. Bloquer l'URL au robots.txt et y poser un noindex, c'est se tirer une balle dans le pied : le moteur ne verra jamais la consigne.
Guide crawl & indexation
En-tête X-Robots-Tag
Même effet que la meta robots, mais servi dans l'en-tête HTTP au lieu du code de la page. L'intérêt : il s'applique à ce qui n'a pas de head, PDF, images, flux, réponses générées. C'est l'outil de prédilection pour désindexer en masse ou piloter des ressources non-HTML sans toucher au template.
Guide crawl & indexation
Désindexation
Sortir une page de l'index pour de bon passe par un noindex laissé en place le temps que Google repasse. L'outil de suppression de la Search Console, lui, ne fait que masquer six mois environ, la page revient ensuite. Et le réflexe de bloquer au robots.txt est contre-productif : sans crawl, Google ne lit pas le noindex et garde la page.
Guide crawl & indexation
Duplicate content
Le même contenu joignable par plusieurs portes : HTTP et HTTPS, avec ou sans paramètres de tracking, préprod oubliée en ligne, pagination. Google retient une version et répartit mal les signaux entre les clones. On assainit avec du canonical, des redirections, ou un vrai contrôle de ce qui a le droit d'être indexé.
Guide crawl & indexation
URL canonique (rel=canonical)
La balise rel=canonical désigne la version de référence quand un même contenu existe sous plusieurs URL. C'est un signal fort, pas un ordre : Google le suit la plupart du temps, mais garde le droit d'élire une autre canonique s'il juge le choix incohérent. Bien posée, elle regroupe les signaux sur une seule adresse.
Guide crawl & indexation
Redirections 301 / 302
Deux redirections qu'on ne peut pas intervertir sans conséquence. Le 301 est permanent et transmet la valeur de l'ancienne URL, c'est celui des migrations. Le 302 se dit temporaire, donc Google continue de considérer l'URL d'origine comme la bonne. Se tromper de code sur une refonte reste une des causes les plus banales de chute de trafic.
Migrations SEO
Code HTTP 503
Le code à renvoyer quand le site part en maintenance : il prévient Googlebot que l'indisponibilité est passagère, surtout accompagné d'un Retry-After. Servir cette maintenance en 200 avec une page vide, ou en 404, c'est le meilleur moyen de voir des pages décrocher de l'index.
Guide crawl & indexation
Sitemap XML
La liste des URL qu'on souhaite voir explorées, avec des indices comme le lastmod. Utile pour la découverte, en particulier sur les gros sites ou les pages mal maillées, mais il ne force jamais l'indexation. Règle d'hygiène : n'y mettre que des URL canoniques et indexables, sinon on envoie des signaux contradictoires.
Sitemap Killer
URL orpheline
Une page vers laquelle aucun lien interne ne pointe. Les robots ont du mal à la trouver, souvent repérée seulement via le sitemap, et privée de PageRank interne elle rank mal. Pour les débusquer, il faut croiser trois sources : le crawl, le sitemap et les logs.
Sitemap Killer
User-agent (Googlebot & crawlers IA)
La carte d'identité qu'un client HTTP présente, navigateur comme robot. C'est elle qui permet de reconnaître Googlebot, Googlebot-Image, Bingbot ou les crawlers d'IA type GPTBot et ClaudeBot. Elle se falsifie en une ligne, donc pour valider un vrai Googlebot on ne s'y fie pas : on vérifie l'IP par reverse DNS.
Veille user agents IA
Rendu JavaScript & crawl
Le moment où Google exécute le JavaScript d'une page pour en voir le rendu final. L'opération coûte cher et arrive en différé, ce qui peut retarder l'indexation du contenu injecté côté client. Le pari le plus sûr reste d'avoir le contenu et les liens présents dès le HTML servi.