CrawlerPulse
CrawlerPulse / Europe / Russia / izvmor.ru

Izvestiia Mordovii

izvmor.ru · Russia · measured 8 Oct 2026

Google Search
Allowed
Google-Extended
Allowed
OpenAI
Allowed
Anthropic
Allowed
Perplexity
Allowed
Meta
Allowed
Common Crawl
Allowed
ByteDance
Allowed
Apple
Allowed
Amazon
Allowed

robots.txt

As read on 8 Oct 2026, 1,183 bytes. No rule names an AI crawler.

User-agent: Yandex
Allow: /yandex/news/
Clean-param: format&__cf_chl_jschl_tk__&ampstart&date_create&PAGEN_1

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /cgi-bin
Disallow: /?
Disallow: *?s=*				# добавил звездочку в конце
Disallow: *&s=*				# добавил звездочку в конце
Disallow: /search*			# добавил звездочку в конце
Disallow: /author/
Disallow: */embed
Disallow: */page/*			# добавил звездочку в конце
Disallow: */xmlrpc.php
Disallow: *utm*=
Disallow: *openstat=
Disallow: *start=			# запрещаем обходить пагинатор
Disallow: *layout= 			# убираем отображение страницы
Disallow: /poznavatelnoe 	# убираем из индекса этот раздел, его нет
Disallow: /article*html 	# запрещаем старые ссылки вида article_11366.html
Allow: /wp-admin/admin-ajax.php
Sitemap: https://izvmor.ru/sitemap_index.xml

History

Changes recorded since June 2026.

No change recorded.

In context

Russia
6.3% block at least one AI crawler
Behind Cloudflare
No