Google ändert Regeln für Robots.txt
Ab 1. September gelten neue Regeln für die Robots.txt. Google unterstützt dann einige Anweisungen in der Robots.txt nicht mehr!
Hier soll nun nur noch die Regel via HTML-Meta-Tag oder X-Robots-Tag-HTTP-Header gesetzt werden!
Das Tag oder die Anweisung <meta name=“robots“ content=“noindex“ /> gilt für Suchmaschinen-Crawler.
Um andere Crawler wie AdsBot-Google zu blockieren, müssen Sie möglicherweise Anweisungen hinzufügen, die auf den entsprechenden Crawler ausgerichtet sind, z. B. <meta name=“AdsBot-Google“ content=“noindex“ />.
Weitere Infos zum Thema:
https://developers.google.com/search/reference/robots_meta_tag?hl=de
https://developers.google.com/search/reference/robots_txt?hl=de
Eure Meinung zu dem Artikel ist gefragt! Schreibt mir ein Kommentar
Ich freue mich auf einen Blick auf meine Amazon-Wunschliste. Vielen Dank!


Martin Pilat
Danke für den tolllen Artikel.
Martin
Ich danke Ihnen für den interessanten Artikel. Das ist wirklich ein gutes Beispiel dafür, dass man immer auf dem aktuellen Stand bleiben sollte, was die Suchmaschinenoptimierung betrifft.