Google Webmaster-Zentrale Blog: Sprecht die Sprache der Suchroboter

Sprecht die Sprache der Suchroboter

Freitag, 28. März 2008

wie freundlich Googlebot istrobots.txtWebmaster-Tools

Analyse-Tool für robots.txt-Dateien

Nicht alle Suchmaschinen unterstützen jeden Eintrag in der robots.txt-Datei
Der robots.txt-Generator erzeugt Dateien, die von Googlebot und ebenso von den meisten größeren Suchrobotern korrekt interpretiert werden. Es kann jedoch vorkommen, dass einzelne Suchroboter nicht alle vom robots.txt-Generator verwendeten Features verstehen.

Die robots.txt-Datei ist lediglich eine Anfrage
Auch wenn man es für die bekannten Suchmaschinen mit großer Wahrscheinlichkeit ausschließen kann, gibt es doch einige skrupellose Suchroboter, die sich nicht an alle Anweisungen in der robots.txt-Datei halten und Inhalte crawlen, die eigentlich vom Crawling ausgeschlossen sind. Falls ihr sensible Daten habt, die ihr auf jeden Fall schützen wollt, solltet ihr diesen Content mittels eines passwortgesicherten Verzeichnisses schützen und euch nicht auf die robots.txt-Datei verlassen.