T
tschlack
Guest
Hallo,
ich hab nun in der Firewall etliche Asia-Crawler gesperrt.
Allerdings ist dies viel zu umständlich . Gibt es irgendwie irgendwo eine Möglichkeit die Crawler in den Griff zu bekommen ? Danke !
robots.txt bringt hier nichts den die Crawler wo ich meine richten sich nicht nach regeln.
ich hab nun in der Firewall etliche Asia-Crawler gesperrt.
Allerdings ist dies viel zu umständlich . Gibt es irgendwie irgendwo eine Möglichkeit die Crawler in den Griff zu bekommen ? Danke !
robots.txt bringt hier nichts den die Crawler wo ich meine richten sich nicht nach regeln.