Robots.txt Generator & Validator
Maak crawler regels, voeg sitemap richtlijnen toe en valideer de robots.txt syntax lokaal voordat u het bestand publiceert in uw website root.
Validatieresultaten
- Genereer of plak robots.txt inhoud en valideer het vervolgens.
Crawler regel generatie
Bouw User-agent, Allow, Disallow, Sitemap en optionele Host richtlijnen zonder de robots.txt formattering te onthouden.
Syntax validatie
Controleer veelvoorkomende fouten zoals ontbrekende user-agents, relatieve sitemap URL's, verkeerd gevormde paden, dubbele regels en niet-ondersteunde richtlijnnamen.
Privé lokale verwerking
De generator en validator draaien in uw browser. Robots.txt inhoud wordt niet geüpload naar Convertr servers.
Frequently asked questions
Wordt mijn robots.txt bestand geüpload voor validatie?
Nee. Generatie en validatie worden uitgevoerd in uw browser met JavaScript. De tekst die u invoert, wordt niet naar Convertr servers verzonden.
Waar moet ik robots.txt plaatsen?
Plaats robots.txt in de root van de host waarop het van toepassing is, zoals https://example.com/robots.txt.
Verwijdert robots.txt pagina's van Google?
Nee. Robots.txt beheert de crawler toegang. Gebruik noindex richtlijnen op de pagina of verwijder de pagina als u de indexering ongedaan moet maken.