Guten Morgen Joejoe,
deine Ansätze werden dir nicht ganz den Erfolg versprechen.
>> 1. Erkennung der Bots aufgrund deren IPs
(vermutlich am besten wenn man dann über zuverlässige Daten bezüglich der IPs der Bots verfügt.
Da wirst du nicht alle bekommen.
>> 2. Erkennung aufgrund des User Agents
(leicht zu realiserien, kann aber leicht umgangen werden, vielleicht aber ausreichend)
Wenn mit normalen Tonnline-Adressen gespidert wird, auch da schwer.
Du meintest via modrewrite den bot auf ein anderes Verzeichnis reinleiten?
Warum nimmst du nicht, wie terra meinte, den PW einfach raus? Warum sollen Dinge gespidert und in den SERPs angezeigt werden, wenn der normale User sie auch nicht sehen kann?
Ich seh bei diener geposteten URL auch keinen PW im Forum.
PW rausnehmen, bot kommen lassen. Alles wird gut ;-) |