Spider-Trap - die Falle fuer die Boesen Bots

10/16/2007 - -

Ich habe auf einer Rezepte-Webseite eine Bewertung von Rezepten eingebaut..

Damit die Besucher die Statistiken nicht fälschen können (durch mehrfaches Bewerten) wird ein Cookie gesetzt UND eine IP-Sperre verwendet..

Damit die Bots von der Bewertung fern bleiben und nicht die Bewertung eines Rezeptes fälschen dachte ich mir reicht eine robots.txt…

Dachte ich…

Als ich eine Woche später in die Datenbank reingeschaut habe um zu gucken ob alles denn auch 100% funktioniert musste ich einige Unregelmäßigkeiten feststellen..

id ip bewertete id zeit
241 82.99.30.38 834 1192534116
242 82.99.30.7 834 1192534711
243 82.99.30.65 834 1192535321
244 82.99.30.12 834 1192535928
245 82.99.30.52 834 1192536536
246 82.99.30.26 834 1192537147
247 82.99.30.21 834 1192537745

Es müssen die Bots sein die sich nicht an die robots.txt halten…

Also machte ich mich auf die Suche nach einem Mittel dagegen.

Spider Trap schien mir eine gute Lösung zu sein.
Die Installation klappte ohne Probleme dank einer guten Installation-Anleitung und das Script schützt nun meine Seiten vor den Bots, welche sich nicht an die Regeln in der robots.txt halten.

Ein einfacher Test (die in der robots.txt verbotene Spider-Trap-Seite 1 Mal aufrufen) hat gezeigt das das Script zu funktioniren scheint, meine IP landete in der htaccess mit dem dazu gehörigem “deny from” und bei einem Aufruf einer beliebigen Unterseite der Domain wurde ich auf eine “Freischalt-Seite” umgeleitet.

Diese ist mit einer Captcha-Abfrage ausgestattet, welche ein Bot mit seeehr hohen warscheinlichkeit nicht überwinden wird. Ein Besucher, der durch Zufall in der Falle landen könnte, kann sich aber aus dieser durch die Eingabe von dem Captcha-Code befreien.

Zusatzlich fand ich im Spider-Trap Forum auch diesen Link. Dank dieser vorgefertigten Liste werden einige Böse Bots sofort aussperrt, ohne das diese vorher in meine Falle tappen müssen, denn dies haben die bereits auf anderen Seiten getan…

Sehr feine Sache..

One Response to “Spider-Trap - die Falle fuer die Boesen Bots”

  1. Christian Says:

    Salve t?nt nett… und nach ein paar Wochen Erfahrung, funktioniert es so wie Du es Dir vorgestellt hast?

    Gruss
    Christian

Leave a Reply