آسان پری سیٹس کا استعمال کرتے ہوئے allow/disallow قوانین، crawl-delay اور sitemap ہدایات کے ساتھ درست robots.txt بنائیں۔ مفت اور آپ کے براؤزر میں چلتا ہے۔

ایک صاف robots.txt براہِ راست اپنے براؤزر میں بنائیں۔ کچھ بھی اپ لوڈ نہیں ہوتا — سب کچھ مقامی طور پر تیار ہوتا ہے۔

بلڈر
فوری پری سیٹس
User-agent گروپس
سائٹ میپس
robots.txt

						

اس فائل کو اپنی سائٹ کے روٹ پر رکھیں تاکہ یہ https://your-site.com/robots.txt پر قابلِ رسائی ہو


robots.txt جنریٹر کے بارے میں

یہ robots.txt جنریٹر user-agent گروپس سے ایک نحوی طور پر درست robots.txt فائل بناتا ہے، جن میں سے ہر ایک کے اپنے Allow اور Disallow راستے اور اختیاری Crawl-delay ہوتا ہے۔ جتنے چاہیں گروپس شامل کریں — تمام crawlers کے لیے ایک wildcard * گروپ اور مخصوص bots کے لیے علیحدہ قواعد — اور آخر میں ایک یا زیادہ Sitemap directives درج کریں۔

فوری presets عام نکاتِ آغاز کو کور کرتے ہیں: سب کچھ اجازت دینا، سب کچھ روکنا، ایک معقول WordPress ترتیب، اور عام bots کے لیے ایک block-list۔ کسی preset سے شروع کریں، پھر راستوں کو اپنی سائٹ کے ڈھانچے کے مطابق ایڈجسٹ کریں۔

یہ فائل آپ کے براؤزر میں مقامی طور پر تیار ہوتی ہے اور کبھی اپ لوڈ نہیں ہوتی۔ آؤٹ پٹ کاپی کریں یا robots.txt ڈاؤن لوڈ کریں، پھر اسے اپنی سائٹ کی جڑ (root) میں رکھیں تاکہ crawlers اسے https://your-site.com/robots.txt پر تلاش کر سکیں — یہی وہ واحد مقام ہے جسے سرچ انجنز چیک کرتے ہیں۔

robots.txt جنریٹر استعمال کرنے کا طریقہ

  1. اختیاری طور پر کسی preset سے شروع کریں: Allow all، Block all، WordPress، یا Block common bots۔
  2. ہر گروپ کے لیے user-agent میں ترمیم کریں (مثلاً * یا Googlebot) اور Disallow و Allow راستے شامل کریں۔
  3. سیکنڈز میں اختیاری Crawl-delay مقرر کریں اور اگر ضرورت ہو تو دیگر crawlers کے لیے مزید گروپس شامل کریں۔
  4. اپنے sitemap URLs شامل کریں تاکہ crawlers انہیں دریافت کر سکیں۔
  5. نتیجہ کاپی کریں یا robots.txt ڈاؤن لوڈ کریں، اور اسے اپنی سائٹ کی جڑ میں اپ لوڈ کریں۔

اکثر پوچھے جانے والے سوالات

ہوسٹ کی جڑ میں، مثلاً https://example.com/robots.txt۔ Crawlers صرف وہی راستہ درخواست کرتے ہیں — کسی ذیلی ڈائریکٹری میں موجود robots.txt کو نظر انداز کر دیا جاتا ہے۔

Disallow اس user-agent گروپ کے لیے متعلقہ راستوں کی crawling روکتا ہے؛ Allow کسی disallowed علاقے کے اندر ایک ذیلی راستے کو دوبارہ اجازت دیتا ہے، مثلاً disallowed /admin/ کے تحت /admin/help/ کو اجازت دینا۔

قابلِ اعتماد طور پر نہیں۔ یہ crawling روکتا ہے، مگر پہلے سے معلوم URLs بغیر snippet کے بھی نظر آ سکتے ہیں۔ کسی صفحے کو انڈیکس سے باہر رکھنے کے لیے noindex robots میٹا ٹیگ استعمال کریں اور اسے crawl ہونے دیں۔

نہیں۔ کچھ crawlers اسے مانتے ہیں، مگر Googlebot اس directive کو نظر انداز کرتا ہے — Google کے لیے crawl rate کا انتظام Search Console کے ذریعے کیا جاتا ہے۔ یہ دیگر bots کے لیے مفید رہتا ہے۔

یہ مفت ہے، اور فائل مکمل طور پر آپ کے براؤزر میں بنتی ہے — آپ کے درج کردہ قواعد کبھی سرور کو نہیں بھیجے جاتے۔

شیئر کریں
مدد چاہیے؟
اس ٹول میں کوئی مسئلہ ملا؟ ہماری ٹیم کو بتائیں۔
مسئلہ رپورٹ کریں

اس مفت ٹول کو اپنی ویب سائٹ پر شامل کریں — نیچے دیا گیا کوڈ کاپی اور پیسٹ کریں۔