Robots.txt generátor és ellenőrző
Hozzon létre feltérképezési szabályokat, és ellenőrizze, mely útvonalakat érheti el a Googlebot.
Feltérképezési szabályok
Kezdje azzal a keresőrobottal (crawler), amelyre ezek a szabályok vonatkoznak.
Oldaltérképek
Generált robots.txt
0Szabályok ellenőrzése
Útvonal tesztelése
A feltérképezési szabályok létrehozása és ellenőrzése a böngészőjében történik. Semmi sem kerül feltöltésre a BroBroGo szervereire.
GYIK
Mit tud hozzáadni ez a generátor a robots.txt fájlhoz?
Hozzáadhat egy user-agent csoportot, Allow és Disallow útvonalakat, valamint egy vagy több oldaltérkép (sitemap) URL-t. Az előnézet azonnal készen áll a másolásra egy robots.txt fájlba.
Hogyan választ szabályt az útvonal-ellenőrző?
A Google egyezési sorrendjét követi: a leghosszabb egyező útvonal nyer. Ha a megfelelő Allow és Disallow szabályok egyformán specifikusak, az Allow szabály nyer.
Eltávolítja a Disallow szabály az oldalt a Google Keresőből?
Nem. Egy letiltott oldal továbbra is megjelenhet a keresési találatok között, ha más oldalak hivatkoznak rá. Használjon noindex címkét, hozzáférés-szabályozást, vagy távolítsa el az oldalt, ha teljesen ki szeretné zárni a keresőkből.