CrawlerPulse
CrawlerPulse / Europe / Belarus / zarya.by

Zaria

zarya.by · Belarus · measured 8 Oct 2026

Google Search
Allowed
Google-Extended
Allowed
OpenAI
Allowed
Anthropic
Allowed
Perplexity
Allowed
Meta
Allowed
Common Crawl
Allowed
ByteDance
Allowed
Apple
Allowed
Amazon
Allowed

robots.txt

As read on 8 Oct 2026, 2,105 bytes. No rule names an AI crawler.

User-Agent: *
Disallow: /cgi-bin
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: *openstat=
Disallow: */uploads
Disallow: /wp-
Allow: /*/*.js              # открываем js-скрипты внутри /wp- (/*/ - дл¤ приоритета)
Allow: /*/*.css             # открываем css-файлы внутри /wp- (/*/ - дл¤ приоритета)
Allow: /wp-*.png            # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpg            # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpeg           # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.gif            # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.ttf
Allow: /wp-admin/admin-ajax.php # используетс¤ плагинами, чтобы не блокировать JS и CSS

User-agent: Yandex          # правила дл¤ яндекса (комментарии не дублирую)
Disallow: /cgi-bin
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: */uploads
Disallow: /wp-
Allow: /*/*.js
Allow: /*/*.css
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif
Allow: /wp-*.ttf
Allow: /wp-admin/admin-ajax.php
Clean-Param: utm_source&utm_medium&utm_campaign # яндекс рекомендует не закрывать
Clean-Param: openstat       # аналогично
Clean-Param: _utl_t
Sitemap: https://zarya.by/sitemap_index.xml

History

Changes recorded since June 2026.

No change recorded.

In context

Belarus
0.0% block at least one AI crawler
Behind Cloudflare
No