Прием платежей WebMoney Прием платежей Яндекс-Деньги Прием платежей Payeer Прием платежей MegaKassa Прием платежей Free-Kassa Прием платежей  RoboKassa
Вход в аккаунт
 Код  Обновить
   
Забыли пароль
СТАТИСТИКА
ТЕСТ-ДРАЙВ
Баннер 200x300
Добавить баннер   Смотреть все
Новости сайта

  12.09.2019 - Уважаемые участники проекта!В связи с изменением правовой модели работы системы WebMoney Transfer относительно титульных знаков WMR, с 1 августа 2019 года прекращается регистрация R-кошельков, а существующие R-кошельки при достижении нулевого баланса переносятся в архив. В системе вводится P-кошелек...


  10.01.2018 - На сайте подключена платежная система Яндекс.Деньги.Приятной работы!...


  29.12.2017 - Сегодня стартовал новогодний конкурс кликеров. Зарабатывайте ежедневно в серфинге и получайте призы!...

 8 
Что такое файл robots.txt




Что такое файл robots.txt


Robots.txt – это текстовый файл, находящийся в корневой директории сайта, в котором записываются специальные инструкции для поисковых роботов.
Эти инструкции могут запрещать к индексации некоторые разделы или страницы на сайте, как для всех, так и для определённых, роботов.
К файлу robots.txt предъявляются специальные требования, не выполнение которых может привести к неправильному считыванию роботом поисковой системы или вообще к неработоспособности данного файла.
 

Как создать robots.txt


Robots.txt должен создаваться в текстовом формате Unix.
Воспользуйтесь любым текстовым редактором, создайте файл с именем "robots.txt" и заполните его в соответствии с представленными ниже правилами.
Файл robots.txt должен находиться только в корневой директории сайта, только тогда он будет учитываться поисковыми системами.
robots.txt является регистрозависимым, называть файл необходимо robots.txt, Robots.txt будет уже ошибкой.
После этого необходимо загрузить файл в корневой каталог вашего сайта.
Всегда после того, как вы закачали файл robots.txt на сервер, проверяйте его. Достаточно в броузере набрать простой запрос:
http://ваш_сайт/robots.txt
 

Проверка синтаксиса


Инструмент Проверка файла robots.txt показывает, не блокирует ли ваш файл robots.txt доступ поискового робота к файлам и каталогам вашего сайта
и не разрешает ли он сканирование файлов, которые не должны появляться в Интернете.
Для проверки синтаксиса и структуры файла robots.txt существует ряд специализированных онлайн-служб.

Служба яндекса - webmaster.yandex.ua
Gogle webmasters - www.google.com

 

Содержимое файла robots.txt


Полностью пустой файл robots.txt эквивалентен его отсутствию, что предполагает разрешение на индексирование всего сайта.

User-agent: содержит название робота.
Disallow: URL-адреса, которые необходимо заблокировать.

User-agent: * - разрешение индексировать всем роботам.

Disallow: - разрешение индексировать всё содержимое сайта.
Disallow: / - запрет на индексацию всего сайта.
Disallow: /name – запрет на индексацию любых файлов и директорий, которые называются или имеют в своём названии name.
Disallow: /name/ - запрет на индексацию директории name.
Disallow: /*.gif$ - запрет на индексацию всех файлов, имеющих расширение .gif.
Disallow: /name.php – запрет на индексацию файла name.php.
Disallow: /name.php?action=print – запрет индексации переменной, например, страниц для печати.
Allow: / - всё наоборот (разрешается индексировать), синтаксис такой же, как и с Disallow

Примеры

Разрешает доступ всех роботов ко всему сайту:

User-agent: *
Disallow:

Запрет доступа всех роботов ко всему сайту:

User-agent: *
Disallow: /

Запрещает роботу Roverdog индексировать все файлы сервера:

User-agent: Roverdog
Disallow: /

Запрещает роботу googlebot индексировать файл cheese.htm:

User-agent: googlebot
Disallow: cheese.htm

Чтобы сообщить поисковым системам местоположение файла Sitemap, можно в robots.txt добавить строку вида:
Sitemap: http://ваш_сайт/sitemap.xml

Рекламный блок

Ротатор баннеров 468x60


Смотреть все   Добавить баннер
 

 
Ротатор баннеров 728x90

Смотреть все   Добавить баннер
 
Ротатор баннеров 88x31

 
Смотреть все   Добавить баннер
Доска почета
Привет, я lexa24
Бригадир (Рефбек:90%)

lexa24
ХОЧУ СЮДА
Контекстная реклама
Баннер 100х100
Добавить баннер  Смотреть все
Реклама
Опрос
Как Вам обновленная версия сайта?