En consultant les pages référencées par Google, je me suis aperçue que certaines url étaient indéxées (mais non mises en cache) alors qu'elles sont interdites de crawl par le robots.txt. :shock:
Ces url sont de la forme: -http://www.micro-astuce.com/Forum/post9557.html ou encore
-http://www.micro-astuce.com/Forum/membre60.html
Pourtant, dans les statistiques de spyword, ces urls n'apparaissent pas comme ayant été crawlées.
Le phénomène est visible sur MSN et ...

Français |
Anglais
News de Les roBots