Generatore e Validatore Robots.txt

Definisca le regole di scansione e verifichi a quali percorsi può accedere Googlebot.

Regole di scansione

Inizi con il crawler che deve seguire queste regole.

Sitemap

robots.txt generato

0
Pronto. L'esempio blocca il percorso /admin per tutti i crawler.

Verifica regole

    Verifica un percorso

    Le Sue regole di scansione vengono create e verificate direttamente nel Suo browser. Nulla viene caricato su BroBroGo.

    FAQ

    Cosa posso aggiungere al file robots.txt con questo generatore?

    Consente di aggiungere un gruppo user-agent, percorsi Allow e Disallow e uno o più URL di sitemap. L'anteprima è pronta per essere copiata in un file robots.txt.

    In che modo lo strumento di verifica del percorso sceglie una regola?

    Segue l'ordine di corrispondenza di Google: vince il percorso corrispondente più lungo. Se le regole Allow e Disallow corrispondenti sono ugualmente specifiche, prevale Allow.

    La direttiva Disallow rimuove una pagina dalla Ricerca Google?

    No. Una pagina bloccata può comunque apparire nei risultati di ricerca se altre pagine contengono link che puntano ad essa. Utilizzi il tag noindex, i controlli di accesso o rimuova la pagina se desidera che non compaia affatto nei motori di ricerca.