robots.txt Generator

Disallow rules, crawl delay और sitemap reference समेत साफ़ robots.txt बनाएं।

इनपुट

परिणाम

User-agent: *

इस टूल के बारा मे

बताएँ कौन-से paths block होंगे, crawl delay और sitemap URL — तैयार upload-के-लिए robots.txt मिलेगा। rules deduplicate होते हैं, हर path पर leading slash जुड़ता है।

कैसै इस्तमाल करेन

  1. 1block करने वाले paths, एक-एक line में, लिखें। उदाहरण: /admin।
  2. 2चाहें तो crawl delay set करें और sitemap URL जोड़ें (0 हो तो excluded)।
  3. 3output को robots.txt के नाम से save करके site root पर upload करें।

अक्सर पूछे जाने वाले प्रश्न

संबंधित टूल