Robots.txt జనరేటర్ & వాలిడేటర్
క్రాల్ రూల్స్ను రూపొందించండి మరియు Googlebot ఏ పాత్ను యాక్సెస్ చేయగలదో తనిఖీ చేయండి.
క్రాల్ రూల్స్
ఈ రూల్స్ను అనుసరించాల్సిన క్రాలర్తో ప్రారంభించండి.
సైట్మ్యాప్లు
జనరేట్ చేయబడిన robots.txt
0రూల్ తనిఖీ
పాత్ను పరీక్షించు
మీ క్రాల్ రూల్స్ మీ బ్రౌజర్లోనే సృష్టించబడతాయి మరియు తనిఖీ చేయబడతాయి. BroBroGoకి ఏదీ అప్లోడ్ చేయబడదు.
తరచుగా అడిగే ప్రశ్నలు
ఈ జనరేటర్ robots.txtకి ఏమి జోడించగలదు?
యూజర్-ఏజెంట్ సమూహం, Allow మరియు Disallow పాత్లు మరియు ఒకటి లేదా అంతకంటే ఎక్కువ సైట్మ్యాప్ URLలను జోడించండి. ప్రివ్యూ robots.txt ఫైల్లోకి కాపీ చేయడానికి సిద్ధంగా ఉంటుంది.
పాత్ చెకర్ రూల్ను ఎలా ఎంచుకుంటుంది?
ఇది Google యొక్క సరిపోలిక క్రమాన్ని అనుసరిస్తుంది: అత్యంత పొడవైన సరిపోలే పాత్ గెలుస్తుంది. సరిపోలే Allow మరియు Disallow రూల్స్ సమానంగా నిర్దిష్టంగా ఉంటే, Allow గెలుస్తుంది.
Disallow అనేది Google సెర్చ్ నుండి పేజీని తీసివేస్తుందా?
లేదు. ఇతర పేజీలు దానికి లింక్ చేసినప్పుడు బ్లాక్ చేయబడిన పేజీ ఇప్పటికీ సెర్చ్ ఫలితాల్లో కనిపించవచ్చు. మీరు దాన్ని సెర్చ్ నుండి దూరంగా ఉంచాలనుకున్నప్పుడు noindex, యాక్సెస్ కంట్రోల్ని ఉపయోగించండి లేదా పేజీని తీసివేయండి.