Robots.txt generator & validator
Byg crawl-regler og tjek, hvilke stier Googlebot har adgang til.
Crawl-regler
Start med den crawler, der skal følge disse regler.
Sitemaps
Genereret robots.txt
0Regeltjek
Test en sti
Dine crawl-regler oprettes og tjekkes i din browser. Intet uploades til BroBroGo.
FAQ
Hvad kan denne generator tilføje til robots.txt?
Tilføj en user-agent-gruppe, Allow- og Disallow-stier samt en eller flere sitemap-URL'er. Forhåndsvisningen er klar til at blive kopieret over i en robots.txt-fil.
Hvordan vælger stitjekkeren en regel?
Den følger Googles prioriteringsrækkefølge: Den længste matchende sti vinder. Hvis matchende Allow- og Disallow-regler er lige specifikke, vinder Allow.
Fjerner Disallow en side fra Google Søgning?
Nej. En blokeret side kan stadig vises i søgeresultaterne, hvis andre sider linker til den. Brug noindex, adgangskontrol eller slet siden helt, hvis du vil holde den helt ude af søgninger.