@terrax
Der Mozilla-Bot ist auch von google, nur trägt er im Agent die Bezeichnung "mozilla/5.0" und der normale hat "googlebot/2.1", das ist der Unterschied. Bisher hat der Mozilla-Bot zwar auch schon kräftig gespidert, aber nie etwas in den Index geworfen, man wußte eigentlich nicht genau, wozu er überhaupt gut war... |