Меня зовут Артём Гал. Я занимаюсь поисковой оптимизацией с 2005 года и веду телеграм‑канал о GEO‑ и SEO‑продвижении. Часто сайт теряет позиции без очевидной причины. Обычно это связано с контентом, конкурентами, апдейтом выдачи и другими факторами.
Но бывают ситуации, когда сайт создан технически верно, страницы открываются, ошибок не видно, а высокочастотные запросы на несколько дней исчезают из ТОП‑100. В статье на примере собственного кейса объясняю, почему так происходит и как это исправить.
Что произошло
Сайт в нише обучения выпал из поиска — высокочастотные запросы («курсы стилиста», «курсы стилистов», «стилист курсы», «курс стилиста») переместились за пределы ТОП‑100. При этом он не менялся радикально: не было переезда на другой домен, массового удаления страниц, смены шаблона или закрытия индексации.
Для проекта, где органика — важный канал заявок, ситуация выглядела неприятно. Я не стал гадать, почему так произошло, а быстро проверил, как поисковый робот видит сайт. Затем технически доработал ресурс и обновил структуру обхода. В итоге высокочастотные запросы вернулись в ТОП.
Шаг 1. Начал не с текста, а с технического обхода
Когда сайт резко теряет позиции, обычно хочется поработать с контентом: переписать заголовки, добавить текст, изменить метатеги. Но если до этого страницы стабильно держались в ТОПе, начать лучше с технической проверки.
Я запустил собственный краулер на Python. Он работал просто: сканировал сайт как поисковый робот, собирал доступные ссылки, проверял уникальные страницы, смотрел внутреннюю перелинковку, подсвечивал дубли и URL, доступные при обходе.
Как быстро найти и убрать дубли страниц
В итоге краулер не нашёл дубли и критические ошибки, но выявил другой недочёт: текущая структура sitemap и robots.txt выглядела избыточной и устаревшей. Для сайта на 50 страниц была настроена автоматическая генерация карты с разбивкой на несколько файлов — формально всё работало, но это усложнение не давало пользы.
Также даты обновления в sitemap менялись при переобходе, хотя реальных смысловых преобразований страниц могло и не быть. Для поисковика такой сигнал не всегда критичен, но он создаёт лишний «шум».
Шаг 2. Подготовил новую карту сайта
Есть заблуждение, что карта сайта необходима только крупным проектам с тысячами страниц. На практике sitemap полезна и для небольших сайтов, если она отражает их реальную структуру и помогает поисковику быстрее понять:
-
какие страницы важны и должны оставаться в индексе;
-
актуальные URL;
-
что именно нужно обходить.
В моём случае задача была не в том, чтобы добавить страницы в индекс. Они и так раньше ранжировались. Нужно было дать поисковику чистую техническую картину сайта. Для этого я собрал все актуальные URL в один sitemap‑файл без лишней разбивки на несколько частей и искусственных дат обновления. Оставил только список страниц, которые действительно важны для индексации.
♻️ Сгенерируйте карту и загрузите её на сайт, чтобы поисковые роботы быстрее обходили новые страницы
Генератор карты сайта учитывает настройки robots.txt и исключает страницы с редиректами, создавая структурированную и SEO‑оптимизированную карту, доступную поисковым системам. Скачайте полученную карту и загрузите её на сайт, чтобы роботы быстрее обходили ваши страницы.
Шаг 3. Очистил файл robots.txt
Часто robots.txt настраивают только один раз, что приводит к техническим проблемам. Если не обновлять файл, то в нём могут быть:
-
закрытые папки, которых уже нет на сайте;
-
старые директивы;
-
лишние disallow;
-
несколько ссылок на разные sitemap;
-
записи, оставшиеся после смены CMS или шаблона.
Чем проще robots.txt, тем меньше риск, что в нём останется то, что мешает обходу и создаёт лишнюю неопределённость. Поэтому я очистил файл:
-
убрал устаревшие и лишние инструкции (например, попытки закрывать административные или внутренние разделы, на которые и так нет ссылок с публичной части сайта);
-
удалил директиву host (раньше её использовали в Яндексе для указания главного зеркала. Сегодня правильнее решать такие задачи на уровне сервера, редиректов, канонических URL и настроек домена. Если у сайта есть несколько зеркал, надёжнее использовать 301‑редиректы, а не надеяться на запись в robots.txt).
При этом оставил в файле ссылки на sitemap, чтобы поисковик видел, где находится актуальная карта сайта.
Почему позиции вернулись за один день
Высокочастотные запросы, которые на три дня ушли за пределы ТОП‑100, вернулись обратно спустя 24 часа после обновления выдачи.
Нельзя сказать, что причина восстановления позиций — только новая карта сайта, потому что в тот же период прошёл небольшой апдейт выдачи (по данным мониторинга в Топвизоре, он был равен около 4,2 балла). Для тематики моего кейса этого оказалось достаточно, и изменения быстро отразились на позициях.
Важно другое: сайт был технически подготовлен к этому переобходу. К моменту обновления выдачи поисковая система получила чистую структуру URL, актуальную sitemap и упрощённый robots.txt без устаревших инструкций.
Что проверить, если сайт резко просел
Если сайт внезапно выпал по важным запросам, не паникуйте и не переписывайте все тексты. Сначала проверьте базовые технические критерии:
-
открываются ли страницы корректно;
-
нет ли случайного noindex;
-
нет ли запретов в robots.txt;
-
не изменились ли canonical;
-
нет ли дублей страниц;
-
как выглядит sitemap и совпадает ли она с реальной структурой сайта;
-
видит ли внутренний обход все важные страницы;
-
не появились ли лишние технические URL;
-
есть ли изменения в выдаче по тематике.
На практике такие мониторинги часто дают больше, чем попытки сразу «добавить ещё текста».
Выводы, которые я сделал
-
Sitemap и robots.txt редко выглядят как главный фактор ранжирования. Из‑за этого их часто недооценивают. Но в момент просадки позиций именно техническая ясность может повлиять на скорость их восстановления. Не мешайте поисковику понимать структуру сайта.
-
Этот кейс не универсальное решение. Сайт не стал новым, контент не был переписан, структура страниц не изменилась радикально. В моём случае грамотно сработали несколько факторов: вовремя найденная техническая слабость, быстрый переобход, очистка robots.txt, новая sitemap в одном файле и небольшой апдейт выдачи в тематике. Для восстановления уже сильного сайта этого иногда достаточно.
Ещё о продвижении сайтов
Как продвигать сайт по НЧ‑ и ВЧ‑запросам
Кейс: создали и раскрутили сайт строительного консалтинга
От семантики до хлебных крошек: строим SEO‑структуру сайта в высококонкурентной нише