Создаем цифровые решения, которые работают на бизнес
SEO и маркетинг
Может заинтересовать
Почему страница не попадает в Google.
Проверяем всё, что мешает странице попасть в поиск: правила robots.txt для Googlebot, метатег robots, заголовок X-Robots-Tag, код ответа, цепочку редиректов и каноникал.
Семь причин в порядке от самой частой. Первые три покроют большинство случаев.
Их постоянно путают, а разница принципиальная.
Робот заходит на страницу, читает её и видит указание не добавлять в поиск. Ссылки со страницы он при этом учитывает.
Робот даже не открывает страницу. Но если на неё ведут ссылки, адрес всё равно может появиться в выдаче — без описания.
Главная ловушка: поставить оба запрета одновременно. Disallow не пускает робота на страницу, поэтому он никогда не увидит noindex — и адрес остаётся в выдаче. Чтобы убрать страницу из поиска, нужен именно noindex и открытый доступ к ней.