robots.txt جنریٹر
آسان پری سیٹس کا استعمال کرتے ہوئے allow/disallow قوانین، crawl-delay اور sitemap ہدایات کے ساتھ درست robots.txt بنائیں۔ مفت اور آپ کے براؤزر میں چلتا ہے۔
ایک صاف robots.txt براہِ راست اپنے براؤزر میں بنائیں۔ کچھ بھی اپ لوڈ نہیں ہوتا — سب کچھ مقامی طور پر تیار ہوتا ہے۔
اس فائل کو اپنی سائٹ کے روٹ پر رکھیں تاکہ یہ https://your-site.com/robots.txt پر قابلِ رسائی ہو
robots.txt جنریٹر کے بارے میں
یہ robots.txt جنریٹر user-agent گروپس سے ایک نحوی طور پر درست robots.txt فائل بناتا ہے، جن میں سے ہر ایک کے اپنے Allow اور Disallow راستے اور اختیاری Crawl-delay ہوتا ہے۔ جتنے چاہیں گروپس شامل کریں — تمام crawlers کے لیے ایک wildcard * گروپ اور مخصوص bots کے لیے علیحدہ قواعد — اور آخر میں ایک یا زیادہ Sitemap directives درج کریں۔
فوری presets عام نکاتِ آغاز کو کور کرتے ہیں: سب کچھ اجازت دینا، سب کچھ روکنا، ایک معقول WordPress ترتیب، اور عام bots کے لیے ایک block-list۔ کسی preset سے شروع کریں، پھر راستوں کو اپنی سائٹ کے ڈھانچے کے مطابق ایڈجسٹ کریں۔
یہ فائل آپ کے براؤزر میں مقامی طور پر تیار ہوتی ہے اور کبھی اپ لوڈ نہیں ہوتی۔ آؤٹ پٹ کاپی کریں یا robots.txt ڈاؤن لوڈ کریں، پھر اسے اپنی سائٹ کی جڑ (root) میں رکھیں تاکہ crawlers اسے https://your-site.com/robots.txt پر تلاش کر سکیں — یہی وہ واحد مقام ہے جسے سرچ انجنز چیک کرتے ہیں۔
robots.txt جنریٹر استعمال کرنے کا طریقہ
- اختیاری طور پر کسی preset سے شروع کریں: Allow all، Block all، WordPress، یا Block common bots۔
- ہر گروپ کے لیے user-agent میں ترمیم کریں (مثلاً * یا Googlebot) اور Disallow و Allow راستے شامل کریں۔
- سیکنڈز میں اختیاری Crawl-delay مقرر کریں اور اگر ضرورت ہو تو دیگر crawlers کے لیے مزید گروپس شامل کریں۔
- اپنے sitemap URLs شامل کریں تاکہ crawlers انہیں دریافت کر سکیں۔
- نتیجہ کاپی کریں یا robots.txt ڈاؤن لوڈ کریں، اور اسے اپنی سائٹ کی جڑ میں اپ لوڈ کریں۔