Blokuje wedos crawler bota od MOZ.com?
Dobrý den,
v současné době se snažím zprovoznit kampaň přes MOZ.com, nicméně jejich crawler botovi se stále nedaří indexovat mé stránky. Postupoval jsem dle jejich troubleshooting návodu: https://moz.com/help/moz-pro/getting-started/troubleshoot-campaign-setup, přičemž HTTP status je 301 a HTTPS 200 (OK), htaccess ani robots.txt neobsahují žádné další restrikce.
Jejich podpora, mne odkázala na vás, zdali nedochází k blokaci na serverové straně. Případně dokázali by jste mi s tímto problémem pomoci?
web: https://ondrejhromadko.com/
Předem mockrát díky za odpověď a pomoc.
S přátelským pozdravem,
OH.
4 Answers
Dobrý den,
obávám se, že takto rozsáhlé whitelistování nebude z naší strany možné. Pokud nějakou IP blokujeme, pak se tak děje z důvodu excesivního přetěžování cílových serverů desítkami dotazů za sekundu, neblokujeme (až na výjimky) regulérní provoz či IP adresy bezdůvodně. Pokud bychom alespoň věděli, z jakých IP adres dotazy probíhají, mohli bychom prověřit, zda by se u nich daly navýšit limity.
Dobrý den,
je to docela dobře možné, že rozsahy AWS blokujeme z důvodu nežádnoucího provozu. Můžete nám zjistit konkrétnější IP rozsah, který bychom měli whitelistovat, aby bot fungoval?
Zjistím. Dám vědět obratem. Zatím děkuji.
We do not use a static IP address or range of IP addresses, as we have designed our crawler to have a dynamic approach.
This means we use thousands of dynamic IP addresses which will change each time we run a crawl.
Dá se s tím něco dělat, nebo je to neřešitelné? (Tady je ještě link na guide k botovi: https://moz.com/help/moz-procedures/crawlers/rogerbot )
Díky za info