Robots.txt Generator & Validator
Erstellen Sie Crawler-Regeln, fügen Sie Sitemap-Direktiven hinzu und validieren Sie die robots.txt-Syntax lokal, bevor Sie die Datei im Stammverzeichnis Ihrer Website veröffentlichen.
Validierungsergebnisse
- Generieren oder fügen Sie robots.txt-Inhalte ein und validieren Sie sie dann.
Crawler-Regelgenerierung
Erstellen Sie User-Agent-, Allow-, Disallow-, Sitemap- und optionale Host-Direktiven, ohne sich die robots.txt-Formatierung merken zu müssen.
Syntaxvalidierung
Überprüfen Sie häufige Fehler wie fehlende User-Agents, relative Sitemap-URLs, fehlerhafte Pfade, doppelte Regeln und nicht unterstützte Direktiven-Namen.
Private lokale Verarbeitung
Der Generator und Validator laufen in Ihrem Browser. Robots.txt-Inhalte werden nicht auf Convertr-Server hochgeladen.
Frequently asked questions
Wird meine robots.txt-Datei zur Validierung hochgeladen?
Nein. Generierung und Validierung laufen in Ihrem Browser mit JavaScript. Der eingegebene Text wird nicht an Convertr-Server gesendet.
Wo soll ich robots.txt platzieren?
Platzieren Sie robots.txt im Stammverzeichnis des Hosts, für den sie gilt, z. B. https://example.com/robots.txt.
Entfernt robots.txt Seiten von Google?
Nein. Robots.txt steuert den Crawler-Zugriff. Verwenden Sie noindex-Direktiven auf der Seite oder entfernen Sie die Seite, wenn Sie die Deindexierung benötigen.