مولّد robots.txt
أنشئ ملف robots.txt صحيحًا مع قواعد السماح/المنع وcrawl-delay وتوجيهات sitemap باستخدام إعدادات مسبقة عملية. مجاني ويعمل داخل متصفحك.
أنشئ ملف robots.txt نظيفًا مباشرة في متصفحك. لا يُرفع شيء — يتم توليد كل شيء محليًا.
ضع هذا الملف في جذر موقعك ليكون قابلاً للوصول على https://your-site.com/robots.txt
حول مولّد robots.txt
يبني مولّد robots.txt هذا ملف robots.txt سليم الصياغة من مجموعات وكلاء المستخدم، لكل منها مسارات Allow وDisallow الخاصة بها وتأخير زحف (Crawl-delay) اختياري. أضف بقدر ما تحتاج من مجموعات — مجموعة عامة * لكل الزواحف إضافة إلى قواعد محددة لبوتات معينة — وأدرج توجيه Sitemap واحداً أو أكثر في النهاية.
تغطي الإعدادات المسبقة السريعة نقاط البداية الشائعة: السماح بكل شيء، حظر كل شيء، إعداد WordPress منطقي، وقائمة حظر لبوتات شائعة. ابدأ من إعداد مسبق ثم عدّل المسارات لتطابق بنية موقعك.
يُولَّد الملف محلياً في متصفحك ولا يُرفَع أبداً. انسخ المخرجات أو نزّل robots.txt، ثم ضعه في جذر موقعك حتى تجده الزواحف على https://your-site.com/robots.txt — هذا الموقع بالتحديد هو الوحيد الذي تتحقق منه محركات البحث.
كيفية استخدام مولّد robots.txt
- ابدأ اختيارياً من إعداد مسبق: السماح بالكل، الحظر الكامل، WordPress، أو حظر البوتات الشائعة.
- عدّل وكيل المستخدم لكل مجموعة (مثل * أو Googlebot) وأضف مسارات Disallow وAllow.
- اضبط تأخير زحف اختيارياً بالثواني وأضف مجموعات أخرى لزواحف أخرى إن لزم.
- أضف روابط خرائط موقعك حتى تكتشفها الزواحف.
- انسخ النتيجة أو نزّل robots.txt، وارفعه إلى جذر موقعك.