Vyřešeno — vlákno je tím uzavřené a další odpovědi do něj nepřibývají.

Otázka

OH278606
OH278606 Zákazník Dedikované servery Vyřešeno

Blokuje wedos crawler bota od MOZ.com?

Dobrý den,

v současné době se snažím zprovoznit kampaň přes MOZ.com, nicméně jejich crawler botovi se stále nedaří indexovat mé stránky. Postupoval jsem dle jejich troubleshooting návodu: https://moz.com/help/moz-pro/getting-started/troubleshoot-campaign-setup, přičemž HTTP status je 301 a HTTPS 200 (OK), htaccess ani robots.txt neobsahují žádné další restrikce.

Jejich podpora, mne odkázala na vás, zdali nedochází k blokaci na serverové straně. Případně dokázali by jste mi s tímto problémem pomoci?

web: https://ondrejhromadko.com/

Předem mockrát díky za odpověď a pomoc.

S přátelským pozdravem,

OH.

0

4 odpovědí

MB313456
MB313456 Podpora

Dobrý den,

je to docela dobře možné, že rozsahy AWS blokujeme z důvodu nežádnoucího provozu. Můžete nám zjistit konkrétnější IP rozsah, který bychom měli whitelistovat, aby bot fungoval?

O uživateli: VEDOS Specialista na Znalostní bázi Web: kb.vedos.cz
0
OH278606
OH278606 Zákazník

Zjistím. Dám vědět obratem. Zatím děkuji.

0
OH278606
OH278606 Zákazník

We do not use a static IP address or range of IP addresses, as we have designed our crawler to have a dynamic approach.

This means we use thousands of dynamic IP addresses which will change each time we run a crawl.

Dá se s tím něco dělat, nebo je to neřešitelné? (Tady je ještě link na guide k botovi: https://moz.com/help/moz-procedures/crawlers/rogerbot )

Díky za info

0
JV170799
JV170799 Podpora Přijatá odpověď

Dobrý den,

obávám se, že takto rozsáhlé whitelistování nebude z naší strany možné. Pokud nějakou IP blokujeme, pak se tak děje z důvodu excesivního přetěžování cílových serverů desítkami dotazů za sekundu, neblokujeme (až na výjimky) regulérní provoz či IP adresy bezdůvodně. Pokud bychom alespoň věděli, z jakých IP adres dotazy probíhají, mohli bychom prověřit, zda by se u nich daly navýšit limity.

0

Máte stejný problém?

Tohle vlákno je uzavřené a odpovídat už v něm nejde. Když vám odpověď nestačí nebo se vás týká něco jiného, položte vlastní dotaz — odkaz na tohle vlákno do něj klidně vložte.