Головна
SEO
Сервіси
UA
EN
DE
FR
UA
RU
Вхід
Генератор Robots.txt
Головна
/
Сервіси
/
Генератор Robots.txt
URL сайту
Використовується тільки у браузері для рядків Sitemap і Host.
Пресети
Стандартний сайт
Відкрити публічні сторінки й закрити тільки типові приватні розділи.
WordPress
Закрити адмінку WordPress і дублікати пошуку, не блокуючи публічні ресурси.
Інтернет-магазин
Залишити товари й категорії відкритими, закрити кошик, оплату, кабінет і дублікати фільтрів.
Мультимовний сайт
Не закривати мовні папки й прибрати дублікати від параметрів перемикання мови.
Блог / медіа
Закрити внутрішній пошук, авторські архіви й дублікати відповідей у коментарях.
Корпоративний сайт
Закрити службові сторінки, які не мають бути в пошуку, і залишити відкритими продаючі сторінки.
SaaS / вебзастосунок
Закрити застосунок, кабінет, API й білінг, залишивши відкритими маркетингові сторінки.
Закрити від індексації
Заблокувати обхід для staging, тестових проєктів або сайтів, які ще не мають бути публічними.
User-agent
До якого робота застосовуються правила. Використовуйте * для всіх пошукових роботів.
Crawl-delay
Необов’язкова затримка в секундах. Не всі пошукові системи її враховують.
Правила Allow
Правила Disallow
URL Sitemap
Опції
Додати директиву Host
Закрити типові параметри трекінгу й фільтрів
Готовий robots.txt