cerez.io tarayıcısı
Bu tarayıcı, cerez.io müşterilerinin kendi sitelerinde teknik SEO taraması yapmak için kullanılır. Tarama yalnız site sahipliği cerez.io panelinde doğrulanmış sitelerde, site sahibinin hesabından başlar.
Kimlik
Ham HTML taraması şu kimlikle gelir:
cerez.io-seo/1.0 (+https://cerez.io/bot)
Seçilen az sayıdaki sayfanın JavaScript ile açıldığı örnekleme, kimliğinde HeadlessChrome ve cerez.io-seo/1.0 taşır. robots.txt grup adı: cerez.io-seo
Kurallar
- robots.txt kurallarına uyar: kendi adının grubu varsa onu, yoksa User-agent: * grubunu uygular. Crawl-delay satırına uyar.
- Varsayılan hız saniyede 1 istektir. Site sahibi, sahipliği doğrulanmış sitesinde en çok saniyede 4 isteğe çıkarabilir.
- Site 429 ya da 503 verirse, art arda sunucu hatası olursa ya da yanıtlar belirgin yavaşlarsa hız kendiliğinden yarıya iner.
- Yalnız GET ve HEAD istekleri yapar; form göndermez, oturum açmaz, yönlendirmeleri tek tek kaydeder.
- Tarama başına sayfa sayısı site sahibinin planıyla sınırlıdır.
Engellemek
Tarayıcıyı sitenizin tamamında engellemek için robots.txt dosyanıza şunu ekleyin:
User-agent: cerez.io-seo
Disallow: /
İletişim
Tarayıcıyla ilgili bir sorun için bize yazın: destek@cerez.io