Robots.txt-generaattori ja -validoija
Rakenna indeksointisääntöjä ja tarkista, mille poluille Googlebotilla on pääsy.
Indeksointisäännöt
Aloita hakurobotista (crawler), jota näiden sääntöjen tulisi koskea.
Sivukartat
Luotu robots.txt
0Sääntöjen tarkistus
Testaa polkua
Indeksointisääntösi luodaan ja tarkistetaan selaimessasi. Mitään ei lähetetä BroBroGo-palveluun.
UKK
Mitä tällä generaattorilla voi lisätä robots.txt-tiedostoon?
Lisää user-agent-ryhmä, sallitut (Allow) ja estetyt (Disallow) polut sekä yksi tai useampi sivukartan URL-osoite. Esikatselu on valmis kopioitavaksi robots.txt-tiedostoon.
Miten polun tarkistusohjelma valitsee säännön?
Se noudattaa Googlen täsmäysjärjestystä: pisin täsmäävä polku voittaa. Jos täsmäävät Allow- ja Disallow-säännöt ovat yhtä tarkkoja, Allow voittaa.
Poistaako Disallow-sääntö sivun Google-hausta?
Ei. Estetty sivu voi silti näkyä hakutuloksissa, jos muut sivut linkittävät siihen. Käytä noindex-tagia, pääsynvalvontaa tai poista sivu kokonaan, jos haluat pitää sen poissa hausta.