Robots.txt generator & validator

Byg crawl-regler og tjek, hvilke stier Googlebot har adgang til.

Crawl-regler

Start med den crawler, der skal følge disse regler.

Sitemaps

Genereret robots.txt

0
Klar. Eksemplet blokerer /admin for alle crawlere.

Regeltjek

    Test en sti

    Dine crawl-regler oprettes og tjekkes i din browser. Intet uploades til BroBroGo.

    FAQ

    Hvad kan denne generator tilføje til robots.txt?

    Tilføj en user-agent-gruppe, Allow- og Disallow-stier samt en eller flere sitemap-URL'er. Forhåndsvisningen er klar til at blive kopieret over i en robots.txt-fil.

    Hvordan vælger stitjekkeren en regel?

    Den følger Googles prioriteringsrækkefølge: Den længste matchende sti vinder. Hvis matchende Allow- og Disallow-regler er lige specifikke, vinder Allow.

    Fjerner Disallow en side fra Google Søgning?

    Nej. En blokeret side kan stadig vises i søgeresultaterne, hvis andre sider linker til den. Brug noindex, adgangskontrol eller slet siden helt, hvis du vil holde den helt ude af søgninger.